Папа Лев XIV сказал, что искусственный интеллект не имеет отношения к Богу. Это касается людей.
В понедельник утром дым рассеялся, церемония закончилась. Теперь мы имеем документ от Папы Льва XIV. Magnifica Humanitas. Папа Лев XIV не стал ждать. Он опубликовал письмо о искусственном интеллекте до того, как большинство людей успели выпить кофе. Это не руководство. Это предупреждение.
“Использование искусственного интеллекта — это не просто театральное занятие… это касается прав, возможностей и свободы.”
Он сказал это прямо. Рядом с ним стоял Кристофер Олах из компании Anthropic. Соучредитель. Человек, занимающийся вопросами интерпретации данных. Увидеть технологического генерального директора — точнее, соучредителя — в Ватикане говорит о том, насколько быстро этот сектор пытается завоевать легитимность. Это партнерство. Стратегическое? Возможно. Странное? Очень.
Реакции были разные. Некоторые технологические эксперты были раздражены. Другие чувствовали облегчение. Все согласились в одном: это имеет значение.
Сача Ховорт руководит проектом Tech Oversight Project. Она не стеснялась выражать свои мысли. По ее мнению, это письмо было прямым вызовом крупным технологическим компаниям. Те генеральные директора, которые говорят о увольнении сотрудников ради экономии денег, те же люди покупают политиков, чтобы те законы, которые помогают им, были приняты.
“Это было ясное предупреждение…”
Ховорт назвала это прямо. Это критика.
Это не произошло сейчас. Люди злятся. Шесть из десяти американцев говорят, что они не контролируют, как искусственный интеллект обрабатывает их данные. В городах, где уже много лет не было гражданских беспорядков, происходят протесты вокруг центров хранения данных. Кто-то даже попытался причинить вред генеральному директору искусственного интеллекта. Настроение плохое. Враждебное.
Почему же так мягкое отношение к компании Anthropic? Олах был там. Тон был… сбалансированным? “Не против искусственного интеллекта”, — говорит Гуру Сетупатхи из Optro. “Относительно ответственности”. Ему это нравится. Другие, как Дэниел Кокотайло из проекта AI Futures Project, хотят, чтобы Церковь была более строгой. Много строже. Они говорят, что это должно звучать громко, а не тихо.
Но вот интересный момент. Компания Anthropic хочет, чтобы ее считали хорошими людьми. Они месяцы боролись с Пентагоном по вопросам военного использования искусственного интеллекта. Сотрудничество с Ватиканом помогает. Это привязывает доверие. Это позволяет им сидеть за столом, когда будут составляться правила.
Они упомянули AGI? Нет. Не раз. Сверхразум? Ничего. Письмо признает, что машины могут быть быстрее людей. Возможно, более умные в расчетах. Но у них нет души. У них нет мудрости.
Дин Болл на X считает, что это избегание реальной угрозы. Он хочет, чтобы говорили о том, что будет дальше, а не о старых академических страхах о потере рабочих мест. Он называет это уклонением. Кокотайло согласен. Он хочет, чтобы они серьезно относились к этой проблеме.
Церковь говорит нет. Это не обзор технологий. Это защита человеческого достоинства.
Сестра Сьюзан Франкоис выразила это лучше всего. Это о защите человека. Брайан Бойд из Notre Dame называет это призывом к действию. Не приказом. Папа хочет регулирования. Справедливости. Но он не дал нам список правил.
Это нормально, говорят сторонники. Компас указывает на север. Остальное зависит от нас.
AGI — враг? Ховорт не думает так. Она считает, что проблема в создании подкласса людей. Это опасность. Не робот-бог. Мы. Против них.
Аарон Фалкерсон управляет компанией Opaque Systems. Он заботится о зашифрованных данных. Он видит что-то большее. Мы игнорируем инфраструктуру. Посмотрите на CrowdStrike. Один ошибочный шаг — и глобальные банки останавливаются. Авиакомпании приостанавливают работу. Amazon Web Services отключается, половина интернета останавливается. Теперь представьте, что произойдет, если лаборатории искусственного интеллекта будут использовать эту инфраструктуру.
Две компании. Они контролируют все наше мышление.
“Мы спим…”
Фалкерсон не говорит о мыслях искусственного интеллекта. Он говорит о том, что мы теряем способность к адаптации. Мы обменяли стабильность на скорость. Сила распределяется так, как Папа борется с технологическими компаниями. Но это не так. Это когда все зависит от двух комнат в Калифорнии или где-то еще. Это системный риск. Просто и ясно.
Папа сравнил искусственный интеллект с Бабилем. Валун, который пытался достичь небес через единый язык. Гомогенизация. Прибыль перед людьми. Превращение тайны в данные.
“Риск дегуманизации — это древняя соблазн, который сегодня принимает техническую форму.”
Это библейский подход к цифровой кризису. Неважно, верите ли вы в Бога или просто хотите стабильных серверов, предупреждение остается таким же.
Кто слушает Папу в Кремниевой долине? Вероятно, никто сначала. Это и есть суть. Пусть они думают, что могут игнорировать это. Тем временем система развивается. Быстрее. Выше. Гомогеннее.
