012

L’économie de l’intention

L’économie des applications s’est battue pour votre attention. La prochaine se battra pour quelque chose de plus précieux : l’autorisation d’agir en votre nom.

N° 012août 20268 min de lecturePedrum Shokouhi

Sunset Telephone Company

Seattle, vers 1905

Almon Strowger

Kansas City · breveté en 1891

Vers 1905, dans la salle des téléphonistes d’un central de Seattle, des rangées de jeunes femmes étaient assises devant des murs de fiches et de cordons clignotants et accomplissaient un métier qui a aujourd’hui si complètement disparu que nous oublions qu’il ait jamais existé : elles étaient l’interface. En 1905, on ne composait pas de numéro ; on décrochait le combiné, une voix humaine disait « Numéro, s’il vous plaît », et cette voix savait des choses. La téléphoniste savait qui vous appeliez et à quelle fréquence. Elle savait que la ligne du docteur était occupée, mais qu’il se trouvait en fait à côté, à la pharmacie. Dans les petites villes, elle savait qui était brouillé avec qui, et pouvait, si elle le voulait, vous mettre en relation un peu plus lentement, ou signaler à l’appelant suivant que vous aviez paru agité. La compagnie du téléphone comprenait fort bien que cette couche humaine était à la fois son plus grand atout et son plus grand risque, et, selon l’une des légendes fondatrices du secteur, un croque-mort de Kansas City nommé Almon Strowger le comprenait aussi : il s’était convaincu, à la fin des années 1880, que la téléphoniste locale (prétendument l’épouse d’un croque-mort concurrent) aiguillait vers son mari les appels destinés à ses propres pompes funèbres. La revanche de Strowger fut le central téléphonique automatique, breveté en 1891 et commercialisé, de façon inoubliable, comme « le téléphone sans demoiselles ni gros mots ». La tonalité qui a remplacé la téléphoniste était plus qu’une commodité. C’était une promesse de neutralité : aucune intelligence entre vous et la personne que vous cherchiez à joindre, aucun intermédiaire connaissant vos affaires et nourrissant ses propres intérêts. Il a fallu l’essentiel d’un siècle pour tenir pleinement cette promesse. Il a fallu à peu près deux ans pour commencer à la révoquer, car l’agent d’IA que l’on installe aujourd’hui entre chaque personne et le monde numérique est le retour de la téléphoniste. À ceci près que celle-ci se souvient de tout, sert une entreprise de mille milliards de dollars, et s’apprête à gérer non seulement vos appels, mais vos achats, vos projets, vos informations et vos choix.

Des destinations aux intermédiaires

Pour voir ce qui s’annonce, imaginez que vous ouvriez votre téléphone dans cinq ans et n’y trouviez aucune grille d’applications : pas d’icône bancaire, pas de dossier voyages, pas de grappe de services de livraison, pas de plateforme sociale exigeant qu’on l’ouvre. Il y a un système intelligent qui sait quels services existent et peut les faire fonctionner au besoin. Vous lui dites que vous voulez aller à Paris en octobre ; que vous préférez un vol de nuit ; que la réunion de jeudi doit être déplacée ; que vous préféreriez loger dans un quartier tranquille plutôt qu’à proximité des monuments. L’agent lit votre agenda, compare les vols, pèse les hôtels, vérifie le train depuis l’aéroport, repère un restaurant que vous aimeriez probablement, et revient vers vous pour approbation avant de réserver quoi que ce soit. À aucun moment vous n’avez choisi consciemment une entreprise. Vous avez exprimé une intention, et le monde numérique s’est réorganisé autour d’elle. C’est l’avenir que laisse entrevoir le passage des applications aux agents, et il inverse la géométrie de base de l’économie. L’économie des applications était organisée autour de destinations : une entreprise se battait pour placer son icône sur votre premier écran d’accueil parce qu’ouvrir cette icône, c’était entrer sur son territoire, où elle contrôlait les rayons, cadrait les choix et s’efforçait de transformer votre visite en habitude. L’économie de l’intention sera organisée autour d’intermédiaires. La compagnie aérienne fait toujours voler l’avion et la banque garde toujours l’argent, mais si vous ne revenez plus jamais sur leurs interfaces, elles sont rétrogradées de destinations au rang de fournisseurs : des vendeurs interchangeables, alignés dans un entrepôt derrière un unique comptoir, dans l’espoir que le commis prononce leur nom.

La géométrie s’inverse

Économie des applications : vous pilotez chaque service. Économie de l’intention : un seul agent les pilote pour vous.

Avant les mises en garde, mon parti pris : je veux cet avenir. Je le veux avec une impatience qui embarrasse parfois le critique en moi. J’en ai assez des formulaires, des mots de passe, de la musique d’attente, des dix-sept petites interfaces administratives qui se dressent entre n’importe quelle intention et son accomplissement, et le jour où l’agent fonctionnera, je lui confierai mon agenda avec soulagement. Ce qui suit, ce sont les petits caractères que je veux voir lus à voix haute avant de signer, écrits par quelqu’un qui compte bien signer.

La position la plus précieuse de cette économie reviendra donc à celui qui interprète l’intention humaine. Si un seul système devient le lieu où quelques milliards de personnes amorcent leurs décisions, il détiendra plus d’influence sur ce qui est découvert, envisagé et acheté que n’importe quelle institution de l’histoire commerciale : plus que les grands magasins sur la marchandise, plus que les chaînes de télévision sur l’opinion du soir, plus que le moteur de recherche aujourd’hui sur l’internet visible. Nous en avons vu une version plus petite. Les moteurs de recherche ont organisé le web en classant des pages, et des industries entières ont appris à vivre et à mourir selon leur rang sur un seul écran de résultats. Les plateformes sociales ont organisé la culture en classant des publications, et éditeurs, musiciens et politiques ont remodelé leur production pour plaire au fil. Les agents d’IA organiseraient quelque chose de plus vaste, non pas ce que vous voyez mais ce qui se fait : quelle compagnie aérienne est réservée, quel assureur est consulté, quel article est résumé dans votre briefing du matin et lequel, discrètement, ne l’est pas. Les portes d’entrée numériques ne restent pas plurielles. Chaque couche de la pile technologique moderne qui a commencé comme un champ ouvert s’est résolue en un ou deux goulets d’étranglement qui contrôlent presque tout le territoire.

Les portes d’entrée se concentrent

Part de chaque porte d’entrée numérique détenue par ses principaux acteurs (monde, valeurs approximatives)

Ce qui se joue dans la pile technologique

C’est à cette lumière qu’il faut lire le débat bruyant entre modèles d’IA ouverts et fermés, que l’on présente d’ordinaire comme un désaccord technique sur la performance, la sécurité et les licences logicielles, mais qui est au fond un désaccord sur qui possédera l’infrastructure par laquelle la société pense et agit. Les systèmes fermés offrent de vraies vertus (cohérence, fiabilité, quelqu’un d’identifiable à qui s’en prendre), mais ils demandent aux utilisateurs de faire confiance aux valeurs, aux incitations commerciales et aux classements invisibles de leurs propriétaires, indéfiniment, sur parole. Les systèmes ouverts permettent l’inspection, l’expérimentation et le contrôle local, mais l’ouverture seule ne garantit pas la responsabilité ; un modèle dont les poids sont publiés peut très bien être déployé derrière une interface qui ne divulgue rien. La question politique, celle qui survivra à tous les tests de performance, est de savoir si les individus et les institutions conservent de véritables alternatives (si l’on peut encore changer, si les sorties restent ouvertes) ou si la commodité concentre peu à peu l’autorité dans une poignée de systèmes planétaires, comme elle l’a fait à chaque couche précédente de la pile. Ma position est que la vraie ligne de fracture passe entre l’existence de sorties et leur absence, non entre ouvert et fermé : j’accepterai un agent fermé et soigné le jour où je pourrai le quitter sans perdre mon historique, et pas un jour plus tôt. Nous avons déjà vu ce schéma général, et pas seulement dans le logiciel. Les usines du XIXe siècle ont centralisé la production parce que les machines industrielles exigeaient un capital qu’aucun artisan ne pouvait réunir. La presse et l’audiovisuel ont centralisé l’attention parce que les presses et les émetteurs coûtaient cher. Les plateformes numériques ont centralisé la vie sociale grâce à des effets de réseau qui rendaient le départ coûteux en proportion exacte du nombre de personnes qui les avaient rejointes. Chaque système a commencé par offrir l’accès. Chacun a fini par dicter ses conditions. Les agents d’IA pourraient prolonger la série d’un cran, en centralisant non pas la production, ni l’information, ni le lien social, mais la ressource brute en amont dont tout cela découle : l’intention elle-même. Et les enjeux montent encore à mesure que l’intelligence quitte l’écran, car les mêmes modèles sont aujourd’hui intégrés dans des véhicules, des robots et des bâtiments : un monde où l’IA n’est plus une destination que l’on visite mais l’environnement dans lequel on se déplace, où le magasin vous interprète tandis que vous interprétez ses rayons, et où la frontière déjà floue entre en ligne et hors ligne finit de se dissoudre.

Ce que chaque système a centralisé

La série que retrace ce paragraphe, étape par étape

SystèmeCentralisé

Les usines du XIXe siècle

production

La presse et l’audiovisuel

attention

Les plateformes numériques

vie sociale

Les agents d’IA

l’intention elle-même

Cet avenir pourrait aussi être humain. Un agent bien conçu pourrait dissoudre le fatras bureaucratique qui dévore des journées entières de l’existence moderne : les formulaires, la musique d’attente, les remboursements en dix-sept étapes. Il pourrait donner à une entreprise de deux personnes la force opérationnelle d’un grand groupe, aider un patient à comprendre réellement un diagnostic, guider un étudiant, premier de sa famille à faire des études, à travers une procédure de candidature conçue par des initiés et pour des initiés, et permettre à une personne de quatre-vingts ans d’utiliser des systèmes qui punissent aujourd’hui quiconque n’a pas grandi à l’intérieur. La promesse plus profonde de l’IA est qu’elle pourrait abolir la pénalité que la civilisation inflige à ceux qui ne comprennent pas déjà ses systèmes, une pénalité qui a toujours frappé le plus durement les pauvres, les vieux, les malades et les nouveaux venus. La téléphoniste, rappelons-le, était aussi un service : elle retrouvait le docteur à la pharmacie. La question n’a jamais été de savoir si un intermédiaire peut aider. C’est de savoir ce que l’intermédiaire sait, pour qui elle travaille et ce qu’elle fait de ce qu’elle sait.

Almon Strowger

Le central automatique, 1891

C’est pourquoi l’ère qui s’annonce exige une distinction que nous n’avons encore jamais eu à tracer avec netteté : la différence entre la délégation et la reddition. La délégation est révocable, inspectable et bornée. Vous savez quand l’agent fait un choix lourd de conséquences, quels intérêts l’ont façonné et comment le contester ; vous pouvez voir ce que le système retient de vous, régir ce qu’il partage, et emporter votre historique chez un concurrent comme vous emportez aujourd’hui votre numéro de téléphone. La reddition, c’est quand rien de tout cela n’est vrai et que personne ne l’a remarqué, quand le consentement consiste à avoir cliqué une fois sur « accepter », des années plus tôt, sur un écran conçu pour être refermé aussitôt, pendant qu’un système invisible accumulait de l’autorité, une transaction commode après l’autre. L’économie des applications nous a appris que la commodité n’est jamais gratuite : nous avons payé en attention, en données et en dépendance, et le plus souvent nous avons payé sans lire le prix. L’économie de l’intention demandera quelque chose de catégoriquement plus grand : la permission permanente d’agir en notre nom. Cette permission peut produire un bien immense. C’est aussi une procuration, et elle mérite d’être traitée avec la gravité que ce mot implique. L’IA peut déjà exécuter nos intentions. La question de la décennie à venir est de savoir si, après en avoir délégué assez, nous comprendrons encore les décisions prises en notre nom, saurons encore demander ce que sait la téléphoniste, et nous souviendrons encore, comme Almon Strowger, que lorsque les intérêts de l’intermédiaire et les nôtres divergent, la réponse n’est pas de cesser d’appeler. C’est d’exiger un système où nous puissions voir le standard.

---

Notes

1. L’argument sur le passage des applications aux agents s’appuie sur des échanges tenus au RAISE Summit (Paris).
2. Le central automatique d’Almon Strowger, breveté en 1891 (l’histoire du croque-mort concurrent relève de la légende du secteur, imprimée depuis les années 1900).
3. Les parts des portes d’entrée sont des chiffres mondiaux approximatifs tirés de StatCounter et des estimations de revenus publicitaires du secteur.
4. Cadre historique de la centralisation d’après les histoires de référence de l’industrialisation et de l’audiovisuel.

P.S.Je suis Pedrum Shokouhi. Je suis obsédé par la façon dont les entreprises se bâtissent, se financent et se dirigent. Alors j’écris sur elles, je démonte leur stratégie en investisseur, et je bâtis les miennes. Ici, je partage ce que j’apprends.