Senin pagi. Asap hilang, upacara pun berakhir. Sekarang kita punya kertasnya. Magnifica Humanitas. Paus Leo XIV tidak menunggu. Dia mengeluarkan ensiklik tentang kecerdasan buatan sebelum kebanyakan orang minum kopi. Ini bukan manual. Ini adalah peringatan.
“Penggunaan AI tidak pernah hanya sekedar sandiwara… AI menyentuh hak, peluang, status, dan kebebasan.”
Di sana. Dia mengatakannya. Tepat di sampingnya berdiri Christopher Olah dari Anthropic. Salah satu pendiri. Pria yang bisa ditafsirkan. Melihat seorang CEO teknologi—yang merupakan salah satu pendiri perusahaan—berdiri di Vatikan menunjukkan betapa cepatnya industri ini berusaha membeli legitimasi. Ini adalah kemitraan. Strategis? Mungkin. Aneh? Sangat.
Reaksi terpecah dengan cepat. Beberapa orang dalam teknologi merasa kesal. Yang lain merasa lega. Semua orang menyetujui satu hal: ini penting.
Sacha Haworth menjalankan Proyek Pengawasan Teknologi. Dia tidak melakukan pukulan apa pun. Baginya, surat itu merupakan pukulan langsung bagi perusahaan teknologi besar. Para CEO berteriak-teriak memecat stafnya demi menghemat uang, dan orang-orang yang membeli politisi untuk menulis undang-undang yang membantu mereka.
“Itu adalah subtweet yang cukup jelas…”
Haworth menyebutnya persis seperti apa bentuknya. Sebuah penghapusan.
Ini tidak muncul begitu saja. Orang-orang marah. Enam dari sepuluh orang dewasa di AS mengatakan bahwa mereka tidak memiliki kendali atas cara AI menangani data mereka. Protes pusat data bermunculan di kota-kota yang belum pernah mengalami kerusuhan sipil selama beberapa dekade. Seseorang bahkan mencoba menyakiti CEO AI. Moodnya sedang tidak bagus. Itu tidak bersahabat.
Jadi mengapa ada sentuhan lembut pada Anthropic? Olah ada di sana. Nadanya… seimbang? “Tidak menentang AI,” kata Guru Sethupathy di Optro. “Tentang tanggung jawab.” Dia menyukainya. Yang lainnya, seperti Daniel Kokotajlo dari AI Futures Project, menginginkan Gereja menjadi lebih kejam. Jauh lebih kejam. Mereka bilang dia harus berteriak, bukan berbisik.
Tapi inilah twistnya. Antropik suka dilihat sebagai orang baik. Mereka menghabiskan waktu berbulan-bulan melawan Pentagon dengan AI militer. Menghubungkan senjata dengan Vatikan membantu. Itu membeli kepercayaan. Ini memungkinkan mereka duduk di meja ketika peraturan dibuat.
Apakah mereka menyebutkan AGI? Tidak. Tidak sekali pun. Kecerdasan super? Tidak ada apa-apa. Surat tersebut mengakui bahwa mesin mungkin lebih cepat daripada manusia. Mungkin lebih pintar dalam perhitungan. Tapi mereka kekurangan jiwa. Mereka kekurangan kebijaksanaan.
Dean Ball di X mengira itu menghindari ancaman sebenarnya. Dia ingin membicarakan apa yang akan terjadi selanjutnya, bukan ketakutan akademis lama mengenai pekerjaan. Dia menyebutnya sebagai penghindaran. Kokotajlo setuju. Dia ingin mereka menanggapi kiamat dengan serius.
Gereja mengatakan tidak. Ini bukan tinjauan teknologi. Ini adalah pembelaan terhadap martabat manusia.
Suster Susan Francois menyatakannya dengan sangat baik. Ini tentang melindungi orang tersebut. Brian Boyd dari Notre Dame menyebutnya sebagai seruan untuk mengangkat senjata. Bukan perintah berbaris. Paus menginginkan regulasi. Keadilan. Tapi dia tidak memberi kami daftar periksa.
Tidak apa-apa, kata para pendukungnya. Kompas menunjuk ke Utara. Sisanya terserah kita.
Apakah AGI musuhnya? Haworth tidak berpikir demikian. Menurutnya penciptaan subkelas manusia adalah. Itulah bahayanya. Bukan dewa robot. Kita. Melawan mereka.
Aaron Fulkerson menjalankan Sistem Buram. Dia peduli dengan data terenkripsi. Dia melihat sesuatu yang lebih besar. Kami mengabaikan infrastruktur. Lihatlah CrowdStrike. Satu kesalahan, bank global dibekukan. Maskapai penerbangan dilarang terbang. Amazon Web Services mati, separuh internet mati. Sekarang bayangkan laboratorium AI menjalankan infrastruktur tersebut.
Dua perusahaan. Menyandera semua kognisi kita.
“Kami sedang berjalan sambil tidur…”
Fulkerson tidak berbicara tentang pemikiran AI. Dia berbicara tentang kita yang kehilangan ketahanan. Kami menukar stabilitas dengan kecepatan. Dinamika kekuasaan terlihat seperti Paus melawan rekan-rekan teknologi. Bukan itu. Semua orang bergantung pada dua ruangan di California atau di mana pun laboratorium berada. Itu adalah risiko sistemik. Murni dan sederhana.
Paus membandingkan AI dengan Babel. Menara yang mencoba mencapai surga melalui bahasa yang seragam. Homogenisasi. Untung atas manusia. Mengubah misteri menjadi data.
“Risiko dehumanisasi adalah godaan kuno yang saat ini menyamar secara teknis.”
Ini adalah kerangka alkitabiah untuk krisis digital. Apakah Anda percaya pada Tuhan atau hanya menyukai server yang stabil, peringatannya tetap sama.
Siapa yang mendengarkan Paus di Silicon Valley? Mungkin tidak ada seorang pun pada awalnya. Itulah intinya. Biarkan mereka berpikir mereka bisa mengabaikannya. Sementara itu sistem sedang dibangun. Lebih cepat. Lebih tinggi. Seragam.
