Montagmorgen. Der Rauch verzog sich, die Zeremonie endete. Jetzt haben wir das Papier. Magnifica Humanitas. Papst Leo XIV. wartete nicht. Er veröffentlichte eine Enzyklika über künstliche Intelligenz, bevor die meisten Menschen ihren Kaffee tranken. Es ist kein Handbuch. Es ist eine Warnung.
„Der Einsatz von KI ist nie eine rein theatralische Angelegenheit … er berührt Rechte, Chancen, Status und Freiheit.“
Dort. Er hat es gesagt. Direkt neben ihm stand Christopher Olah von Anthropic. Mitbegründer. Typ für Interpretierbarkeit. Einen Technologie-CEO – nun ja, Mitbegründer – im Vatikan stehen zu sehen, sagt viel darüber aus, wie schnell diese Branche versucht, sich Legitimität zu erkaufen. Es ist eine Partnerschaft. Strategisch? Vielleicht. Seltsam? Absolut.
Die Reaktionen gingen schnell auseinander. Einige Tech-Insider waren verärgert. Andere fühlten sich erleichtert. In einem waren sich alle einig: Das wird wichtig sein.
Sacha Haworth leitet das Tech Oversight Project. Sie hat nichts dagegen unternommen. Für sie war der Brief ein direkter Schuss vor den Bug von Big Tech. Diese CEOs schreien darüber, Mitarbeiter zu entlassen, um Geld zu sparen, dieselben Männer kaufen Politiker, um Gesetze zu schreiben, die ihnen helfen.
„Es war ein ziemlich klarer Subtweet …“
Haworth nannte es genau so, wie es aussah. Ein Takedown.
Das kam nicht von ungefähr. Die Leute sind wütend. Sechs von zehn Erwachsenen in den USA geben an, dass sie keinerlei Kontrolle darüber haben, wie KI mit ihren Daten umgeht. In Städten, in denen es seit Jahrzehnten keine Unruhen mehr gegeben hat, kommt es zu Protesten gegen Rechenzentren. Jemand hat sogar versucht, einem AI-CEO zu schaden. Die Stimmung ist nicht gut. Es ist feindselig.
Warum also die sanfte Note bei Anthropic? Olah war da. Der Ton war… ausgewogen? „Nicht gegen KI“, sagt Guru Sethupathy bei Optro. „Über Verantwortung.“ Es gefällt ihm. Andere, wie Daniel Kokotajlo vom AI Futures Project, wollen, dass die Kirche gemeiner wird. Viel gemeiner. Sie sagen, es soll schreien, nicht flüstern.
Aber hier ist die Wendung. Anthropic mag es, als die Guten angesehen zu werden. Sie verbrachten Monate damit, mit militärischer KI gegen das Pentagon zu kämpfen. Der Schulterschluss mit dem Vatikan hilft. Es erkauft Vertrauen. Dadurch können sie am Tisch sitzen, wenn die Regeln geschrieben werden.
Haben sie AGI erwähnt? Nein. Nicht ein einziges Mal. Superintelligenz? Nichts. Der Brief gibt zu, dass Maschinen möglicherweise schneller sind als Menschen. Vielleicht intelligenter in der Berechnung. Aber ihnen fehlt die Seele. Es fehlt ihnen an Weisheit.
Dean Ball auf X dachte, es würde der wahren Bedrohung ausweichen. Er möchte darüber reden, was als nächstes kommt, und nicht über alte akademische Ängste vor Arbeitsplätzen. Er nannte es einen Ausweichmanöver. Kokotajlo stimmt zu. Er wollte, dass sie die Apokalypse ernst nahmen.
Die Kirche sagt nein. Dies ist keine technische Rezension. Es ist eine Verteidigung der Menschenwürde.
Schwester Susan Francois hat es am besten ausgedrückt. Es geht darum, die Person zu schützen. Brian Boyd von Notre Dame nennt es einen Ruf zu den Waffen. Keine Marschbefehle. Der Papst will Regulierung. Gerechtigkeit. Aber er hat uns keine Checkliste gegeben.
Das ist in Ordnung, sagen die Unterstützer. Der Kompass zeigt nach Norden. Der Rest liegt bei uns.
Ist AGI der Feind? Haworth glaubt nicht. Sie glaubt, dass es sich um die Schaffung einer Unterklasse von Menschen handelt. Das ist die Gefahr. Kein Robotergott. Uns. Gegen sie.
Aaron Fulkerson leitet Opaque Systems. Ihm liegen verschlüsselte Daten am Herzen. Er sieht etwas Größeres. Wir ignorieren die Infrastruktur. Schauen Sie sich CrowdStrike an. Ein Fehler, globale Banken eingefroren. Fluglinien am Boden. Amazon Web Services fällt aus, das halbe Internet stirbt. Stellen Sie sich nun KI-Labore vor, die diese Infrastruktur betreiben.
Zwei Unternehmen. Wir halten all unsere Erkenntnisse als Geiseln.
„Wir schlafwandeln…“
Fulkerson spricht nicht über KI-Denken. Er spricht davon, dass wir an Widerstandskraft verlieren. Wir haben Stabilität gegen Geschwindigkeit eingetauscht. Die Machtdynamik sieht aus wie der Papst, der gegen die Tech-Brüder kämpft. Das ist es nicht. Jeder ist auf zwei Räume in Kalifornien oder wo auch immer sich die Labore befinden, angewiesen. Das ist systemisches Risiko. Schlicht und einfach.
Der Papst verglich KI mit Babel. Der Turm, der versuchte, durch einheitliche Sprache in den Himmel zu gelangen. Homogenisierung. Profit über Menschen. Geheimnisse in Daten verwandeln.
„Das Risiko der Entmenschlichung ist eine uralte Versuchung, die heute eine technische Verkleidung annimmt.“
Es ist ein biblischer Rahmen für eine digitale Krise. Ganz gleich, ob Sie an Gott glauben oder einfach nur auf stabile Server stehen, die Warnung ist die gleiche.
Wer hört im Silicon Valley auf einen Papst? Zuerst wahrscheinlich niemand. Das ist der Punkt. Lassen Sie sie glauben, sie könnten es ignorieren. In der Zwischenzeit baut sich das System auf. Schneller. Höher. Uniform.
