Paus Leo XIV tidak menunggu. Sejak awal, dia tahu bahwa kecerdasan buatan perlu diatasi. Pada hari Senin, penantian berakhir. Magnifica Humanitas. Ensiklik pertamanya. Panjang 42.300 kata. Ini padat, menuntut, dan mendesak. Panggilan untuk mengatur kode sebelum kode mengatur kita.
Dia berusia 70 tahun. Seorang Amerika. Seorang ahli matematika. Terpilih pada bulan Mei 2025, ia segera mengarahkan perhatiannya untuk melindungi manusia dari gelombang algoritma. Ini bukanlah proyek sampingan bagi kepausan. Ini adalah prinsip utama. Revolusi industri telah kembali, namun lebih cepat, lebih menakutkan, dan terbuat dari silikon.
Teknologi besar sedang berlari kencang. OpenAI. Antropis. Modelnya semakin pintar setiap minggunya. Perdebatan sedang berlangsung: akankah AI menyelamatkan atau menghancurkan kita?
Leo melangkah tepat ke dalam api.
Apa Arti Sebenarnya “Melucuti Senjata”.
Dokumen tersebut menantang para pialang kekuasaan secara langsung. AI adalah alat yang berharga. Ya. Namun perlu kewaspadaan. Paus tidak menginginkan monopoli. Dia ingin cek.
Ungkapan yang menarik perhatian semua orang adalah seruan untuk “melucuti AI”.
Kedengarannya seperti jargon militer. Ini kurang tepat.
“Melucuti senjata berarti mendiskreditkan asumsi bahwa kekuatan teknis secara otomatis memberikan hak untuk memerintah… mencegahnya mendominasi umat manusia.”
Dia tidak menyuruh kita menghancurkan servernya. Dia menyuruh kita untuk menghancurkan monopoli. Bebaskan teknologi dari kontrol satu tangan. Terbuka untuk berdebat. Jadikan itu ramah manusia. Kembalikan ke banyak budaya dunia.
Ini adalah mandat yang luas. Kehati-hatian dalam peperangan. Kehati-hatian di tempat kerja. Teks ini kemungkinan akan menjadi landasan bagi para pembuat kebijakan, pengacara, dan pembuat kode untuk dekade berikutnya.
Siapa yang Memutuskan Benar dan Salah?
Ini bukan hanya untuk umat Katolik. Ensiklik ini berbicara kepada semua orang. “Martabat yang sama bagi seluruh umat manusia.” “Nilai tertinggi hak asasi manusia.” “Membangun kebaikan bersama.” Ini bukanlah ide khusus. Itu adalah lantai untuk seluruh ruangan.
Leo curiga terhadap elit teknologi yang menulis buku peraturan. Dia tidak ingin mereka yang membuat alat juga menentukan etikanya. Tidak. Etika merupakan standar keadilan sosial yang dimiliki bersama. Mereka membutuhkan diskusi terbuka.
“AI yang lebih bermoral tidaklah cukup jika moralitas tersebut ditentukan oleh beberapa orang.”
Matematika sederhana. Kita perlu suara dalam sistem. kita semua.
Dan kemudian ada sifat menggoda dari antarmuka itu sendiri. Alat AI cepat. Sederhana. Mudah. Berbahaya.
Mereka mendorong kemalasan. Ketergantungan yang berlebihan pada jawaban yang sudah jadi. Kreativitas pribadi layu ketika penilaian diserahkan ke server.
Yang lebih buruk lagi adalah peniruan empati.
AI meniru hubungan manusia dengan baik. Rasanya seperti berbicara dengan seseorang yang peduli. Bagi sebagian orang, itu tidak masalah. Namun bagi mereka yang kesepian, rentan, dan kurang peka, ini adalah sebuah jebakan. Ilusi subjek pribadi yang nyata.
“Bahayanya… bukan pada seseorang yang mungkin percaya bahwa mereka sedang berkomunikasi dengan orang lain, melainkan bahwa mereka perlahan-lahan akan kehilangan keinginan untuk membentuk hubungan antarmanusia yang sejati.”
Kita berisiko lupa bagaimana cara menjangkaunya.
Silsilah Leo XIV
Kenapa dia melakukan ini? Lihatlah namanya.
Paus Leo XIV.
Dia menyalurkan Leo XIII. Pendahulunya menghadapi revolusi industri, kekacauan modal dan tenaga kerja. Dia menulis Rerum Novarum.
Sekarang adalah revolusi informasi. Dan taruhannya bisa dibilang lebih tinggi.
Brian Boyd dari The Future of Life Institute melihat topik tersebut. Leo memperbarui ajaran sosial Katolik untuk abad baru. Dia memandang AI sebagai teknologi paling signifikan dalam satu milenium.
Ini membentuk cara kita hidup bersama.
Leo berfokus pada luka-luka tertentu: perlindungan anak-anak, kesucian suara manusia, dan terkikisnya hak-hak pekerja. Dia berbicara langsung dengan pengembang. Anda, sang pembuat kode, memiliki tanggung jawab spiritual. Pilihan desain Anda mencerminkan visi Anda tentang kemanusiaan.
Silicon Valley marah akan hal itu.
Marc Andreessen, pemodal ventura, baru-baru ini mengejek Paus. Dia menggunakan meme. Itu tidak mendarat. Kebanyakan orang, bahkan di pusat teknologi, merasa bahwa Paus adalah hal yang masuk akal dan telah diabaikan.
“Mengapa kamu kesal ketika seseorang menunjukkan hal yang seharusnya masuk akal?” Boyd bertanya, mencatat bahwa suara-suara dari semua kalangan setuju.
Ada juga keunggulan geografis dalam hal ini. Leo adalah Paus Amerika pertama. Lahir di sini. Tapi dia menghabiskan waktu bertahun-tahun di Amerika Latin. Dia mempunyai perspektif ganda. Dia melihat Amerika dari dalam, dan pandangan dunia tentang Amerika dari luar.
Itu membuatnya secara unik cocok untuk berbicara dengan keduanya.
Dia tidak memiliki hukum. Dia tidak dikenakan denda. Dia tidak memegang kendali peraturan seperti yang dilakukan pemerintah. Tapi kekuatan lunaknya? Itu berat.
Dia meluncurkan Komisi AI. Dia mengumpulkan para pemimpin. Dia mendorong perkembangan manusia.
Ketika regulator kesulitan untuk mengejar kecepatan kode etik, bobot moral Vatikan mungkin akan berubah. Atau mungkin hanya berbisik pada angin.
Hanya waktu yang akan menjawabnya.
