Cette semaine, un client m’a envoyé une énième « stratégie » générée par Claude. Après avoir passé une heure à la lire, j’ai découvert ce que je soupçonnais déjà au bout de trente secondes : elle contenait TOUT, sauf QUELQUE CHOSE dont je pouvais réellement me servir.
Le phénomène devient endémique. Nous avons pris une technologie extraordinaire et nous en avons fait une machine à externaliser la pensée : quelqu’un pose une question qu’il ne comprend qu’à moitié, Claude produit quinze pages de conneries parfaitement plausibles, ajoute quelques listes à puces, glisse un « holistic approach » quelque part et, voilà : McKinsey.
Le document traverse ensuite Outlook à la vitesse de la lumière et atterrit sur le bureau d’un autre être humain, qui doit soit faire de la rétro-ingénierie sur cette montagne d’entropie synthétique, soit la copier dans un autre LLM en lui demandant d’y répondre. Et voilà comment nous réalisons enfin le rêve de l’AGI : Claude rédige la stratégie, ChatGPT la révise, Gemini résume la révision, Copilot transforme le tout en PowerPoint et quatre êtres humains passent leur vendredi après-midi à en débattre sur Teams.
Plus personne ne se souvient du problème initial, mais nous avons une putain de présentation de 47 diapositives à son sujet.
Pour moi, le conseil fonctionne comme la médecine : vous entrez dans le cabinet en disant « j’ai mal à la jambe, qu’est-ce que j’ai, bordel ? », puis vous laissez le diagnostic et le traitement à la personne que vous avez précisément décidé de payer pour ça. Débarquer avec quinze pages générées par Claude, c’est comme arriver chez le médecin avec une radiographie téléchargée sur Google et lui demander gentiment de vous prescrire du fentanyl.
Le plus inquiétant vient ensuite. Une génération qui délègue chaque question avant même d’avoir essayé de la comprendre risque de devenir extrêmement douée pour produire des réponses, mais parfaitement incapable de reconnaître celles qui sont fausses. Nous sommes en train de fabriquer des consultants dont la principale compétence consistera à générer des documents qu’ils n’ont eux-mêmes pas les compétences nécessaires pour évaluer.
Dans le développement logiciel, on en voit déjà une version miniature : l’IA écrit du code que personne ne comprend jusqu’au jour où tout explose et qu’il faut aller débusquer dans une cabane au fond des bois un programmeur de soixante-huit ans, avec une barbe de Gandalf, pour comprendre pourquoi la passerelle de paiement a pris conscience d’elle-même et commencé à se rembourser toute seule.
J’approche des cinquante ans et il est hors de question que je fasse ce métier jusqu’à quatre-vingt-dix ans. J’espère donc sincèrement que quelqu’un continuera à apprendre à réfléchir.
Parce que l’IA démultiplie effectivement les capacités de ceux qui possèdent de vraies compétences. Mais elle démultiplie avec exactement la même efficacité la production de ceux qui ne possèdent qu’un prompt.
Et zéro multiplié par un milliard reste zéro.
À la semaine prochaine. Bien à vous, Simone.
SIMONE PUORTO
