Папа Лев XIV сказав, що штучний інтелект не має стосунку до Бога. Це стосується людей.
У понеділок уранці дим розвіявся, церемонія закінчилася. Тепер ми маємо документ від Папи Лева XIV. Magnifica Humanitas. Папа Лев XIV не став чекати. Він опублікував листа про штучний інтелект до того, як більшість людей встигла випити кави. Це не керівництво. Це – попередження.
“Використання штучного інтелекту – це не просто театральне заняття … це стосується прав, можливостей і свободи.”
Він сказав це прямо. Поруч із ним стояв Крістофер Олах із компанії Anthropic. Співзасновник. Людина займається питаннями інтерпретації даних. Побачити технологічного генерального директора — точніше співзасновника — у Ватикані говорить про те, наскільки швидко цей сектор намагається завоювати легітимність. Це – партнерство. Стратегічне? Можливо. Дивне? Дуже.
Реакції були різні. Деякі технологічні експерти були роздратовані. Інші відчували полегшення. Усі погодилися на одному: це має значення.
Сача Ховорт керує проектом Tech Oversight Project. Вона не соромилася висловлювати свої думки. На її думку, цей лист був прямим викликом до великих технологічних компаній. Ті генеральні директори, які говорять про звільнення співробітників заради економії грошей, ті ж люди купують політиків, щоб ті закони, які допомагають їм, були ухвалені.
“Це було ясне попередження…”
Ховорт назвала це прямо. Це — критика.
Це не сталося зараз. Люди злиться. Шість із десяти американців кажуть, що вони не контролюють, як штучний інтелект опрацьовує їхні дані. У містах, де вже багато років не було цивільних заворушень, відбуваються протести навколо центрів зберігання даних. Хтось навіть спробував заподіяти шкоди генеральному директору штучного інтелекту. Настрій поганий. Вороже.
Чому ж таке м’яке ставлення до компанії Anthropic? Олах був там. Тон був… збалансованим? “Не проти штучного інтелекту”, – каже Гуру Сетупатхі з Optro. “Щодо відповідальності”. Йому це подобається. Інші, як Деніел Кокотайло з проекту AI Futures Project, хочуть, щоб Церква була суворішою. Багато суворіше. Вони кажуть, що це має звучати голосно, а чи не тихо.
Але цікавий момент. Компанія Anthropic хоче, щоб її вважали добрими людьми. Вони місяці боролися із Пентагоном з питань військового використання штучного інтелекту. Співпраця з Ватиканом допомагає. Це прив’язує довіру. Це дозволяє їм сидіти за столом, коли складатимуться правила.
Вони згадали AGI? Ні. Неодноразово. Надрозум? Нічого. Лист визнає, що машини можуть бути швидше за людей. Можливо, розумніші у розрахунках. Але вони не мають душі. Вони не мають мудрості.
Дін Болл на X вважає, що це уникнення реальної загрози. Він хоче, щоб говорили про те, що буде далі, а не про старі академічні страхи щодо втрати робочих місць. Він називає це ухиленням. Кокотайло згоден. Він хоче, щоб вони серйозно ставилися до цієї проблеми.
Церква каже ні. Це не огляд технологій. Це захист людської гідності.
Сестра Сьюзан Франкоїс висловила це найкраще. Це про захист людини. Браян Бойд із Notre Dame називає це закликом до дії. Чи не наказом. Батько хоче регулювання. Справедливості. Але він не дав нам переліку правил.
Це нормально, кажуть прихильники. Компас вказує на північ. Решта залежить від нас.
AGI – ворог? Ховорт так не думає. Вона вважає, що проблема у створенні підкласу людей. Це небезпека. Чи не робот-бог. Ми. Проти них.
Аарон Фалкерсон управляє компанією Opaque Systems. Він дбає про зашифровані дані. Він бачить щось більше. Ми ігноруємо інфраструктуру. Подивіться на CrowdStrike. Один помилковий крок — і світові банки зупиняються. Авіакомпанії припиняють роботу. Amazon Web Services вимикається, половина інтернету зупиняється. Тепер уявіть, що станеться, якщо лабораторії штучного інтелекту використовуватимуть цю інфраструктуру.
Дві компанії. Вони контролюють все наше мислення.
“Ми спимо…”
Фалкерсон не говорить про думки штучного інтелекту. Він говорить про те, що ми втрачаємо здатність адаптуватися. Ми обміняли стабільність на швидкість. Сила розподіляється так, як Папа бореться із технологічними компаніями. Але це негаразд. Це коли все залежить від двох кімнат у Каліфорнії чи десь ще. Це системний ризик. Просто та ясно.
Папа порівняв штучний інтелект із Бабілем. Валун, який намагався досягти небес через єдину мову. Гомогенізація. Прибуток перед людьми. Перетворення таємниці на дані.
“Ризик дегуманізації – це давня спокуса, яка сьогодні набуває технічної форми.”
Це біблійний підхід до цифрової кризи. Неважливо, чи вірите ви в Бога або просто хочете стабільних серверів, попередження залишається таким самим.
Хто слухає Папу у Кремнієвій долині? Мабуть, ніхто спочатку. Це і є суть. Нехай вони гадають, що можуть ігнорувати це. Тим часом, система розвивається. Швидше. Вище. Гомогенніший.
