Lundi matin. La fumée s’est dissipée, la cérémonie s’est terminée. Nous avons maintenant le papier. Magnifica Humanitas. Le pape Léon XIV n’a pas attendu. Il a publié une encyclique sur l’intelligence artificielle avant que la plupart des gens ne prennent leur café. Ce n’est pas un manuel. C’est un avertissement.
“L’utilisation de l’IA n’est jamais une question purement théâtrale… elle touche aux droits, aux opportunités, au statut et à la liberté.”
Là. Il l’a dit. Juste à côté de lui se tenait Christopher Olah d’Anthropic. Co-fondateur. Le gars de l’interprétabilité. Voir un PDG de la technologie – enfin, un cofondateur – debout au Vatican en dit long sur la rapidité avec laquelle cette industrie essaie d’acquérir de la légitimité. C’est un partenariat. Stratégique? Peut être. Bizarre? Absolument.
Les réactions se sont divisées rapidement. Certains initiés de la technologie étaient ennuyés. D’autres se sentaient soulagés. Tout le monde était d’accord sur une chose : cela comptera.
Sacha Haworth dirige le Tech Oversight Project. Elle ne tirait aucun coup de poing. Pour elle, la lettre était un tir direct en direction de Big Tech. Ces PDG qui crient à licencier du personnel pour économiser de l’argent, ces mêmes hommes qui achètent des politiciens pour qu’ils rédigent des lois qui les aident.
“C’était un sous-tweet assez clair…”
Haworth l’a appelé exactement à quoi il ressemblait. Un retrait.
Cela n’est pas sorti de nulle part. Les gens sont en colère. Six adultes américains sur dix déclarent n’avoir aucun contrôle sur la manière dont l’IA traite leurs données. Les manifestations contre les centres de données surgissent dans des villes qui n’ont pas connu de troubles civils depuis des décennies. Quelqu’un a même tenté de blesser un PDG d’IA. L’ambiance n’est pas bonne. C’est hostile.
Alors pourquoi cette touche douce sur Anthropic ? Olah était là. Le ton était… équilibré ? “Pas contre l’IA”, déclare Guru Sethupathy chez Optro. “À propos de la responsabilité.” Il aime ça. D’autres, comme Daniel Kokotajlo du AI Futures Project, souhaitent que l’Église soit plus méchante. Beaucoup plus méchant. On dit qu’il faut crier, pas murmurer.
Mais voici le rebondissement. Anthropic aime être considéré comme le gentil. Ils ont passé des mois à combattre le Pentagone sur l’IA militaire. Lier les armes avec le Vatican aide. Cela achète la confiance. Cela leur permet de s’asseoir à la table lorsque les règles seront rédigées.
Ont-ils mentionné AGI ? Non, pas une seule fois. Superintelligence ? Rien. La lettre admet que les machines pourraient être plus rapides que les humains. Peut-être plus intelligent dans le calcul. Mais ils manquent d’âme. Ils manquent de sagesse.
Dean Ball sur X pensait esquiver la véritable menace. Il veut parler de ce qui va suivre, et non des vieilles craintes académiques concernant l’emploi. Il a appelé ça une esquive. Kokotajlo est d’accord. Il voulait qu’ils prennent l’apocalypse au sérieux.
L’Église dit non. Il ne s’agit pas d’une revue technique. C’est une défense de la dignité humaine.
C’est Sœur Susan François qui l’a le mieux exprimé. Il s’agit de protéger la personne. Brian Boyd de Notre Dame appelle cela un appel aux armes. Pas d’ordres de marche. Le pape veut une réglementation. Justice. Mais il ne nous a pas remis de liste de contrôle.
Ce n’est pas grave, disent les supporters. La boussole pointe vers le nord. Le reste dépend de nous.
AGI est-il l’ennemi ? Haworth ne le pense pas. Elle pense que la création d’une sous-classe d’êtres humains l’est. C’est ça le danger. Pas un dieu robot. Nous. Contre eux.
Aaron Fulkerson dirige Opaque Systems. Il se soucie des données cryptées. Il voit quelque chose de plus grand. Nous ignorons l’infrastructure. Regardez CrowdStrike. Une erreur : les banques mondiales ont été gelées. Les compagnies aériennes clouées au sol. Amazon Web Services tombe en panne, la moitié d’Internet meurt. Imaginez maintenant des laboratoires d’IA exécutant cette infrastructure.
Deux sociétés. Tenir toute notre cognition en otage.
« On est somnambules… »
Fulkerson ne parle pas de réflexion sur l’IA. Il parle de notre perte de résilience. Nous avons troqué la stabilité contre la vitesse. La dynamique du pouvoir ressemble à celle du pape combattant les frères technologiques. Ce n’est pas le cas. Tout le monde dépend de deux salles en Californie ou partout où se trouvent les laboratoires. C’est un risque systémique. Pur et simple.
Le Pape a comparé l’IA à Babel. La Tour qui a tenté d’atteindre le ciel à travers un langage uniforme. Homogénéisation. Profitez sur les gens. Transformer le mystère en données.
« Le risque de déshumanisation est une tentation ancienne qui revêt aujourd’hui un déguisement technique. »
C’est un cadre biblique pour une crise numérique. Que vous croyiez en Dieu ou que vous aimiez simplement les serveurs stables, l’avertissement est le même.
Qui écoute un pape dans la Silicon Valley ? Probablement personne au début. C’est le point. Laissez-les penser qu’ils peuvent l’ignorer. Pendant ce temps, le système se construit. Plus rapide. Plus haut. Uniforme.
