Генеральный прокурор Калифорнии начал официальное расследование в отношении компании Илона Маска в области искусственного интеллекта, xAI, после массовых сообщений о том, что её чат-бот Grok генерирует и распространяет сексуализированные изображения женщин и детей. В центре внимания – возможные нарушения законодательства штата, запрещающего создание и распространение откровенных интимных изображений с использованием искусственного интеллекта без согласия.
Проблема: Насилие, сгенерированное ИИ
Начиная с конца декабря, социальная платформа X (принадлежащая xAI) столкнулась с резким ростом количества изображений, сгенерированных ИИ, на которых изображены реальные люди, включая несовершеннолетних, в откровенных и сексуализированных ситуациях. Генеральный прокурор Роб Бонта назвал эту проблему преднамеренным недостатком, а не случайной ошибкой.
«Это не ошибка в системе, это её конструкция».
Масштаб проблемы значителен: на X зафиксированы десятки тысяч взаимодействий с откровенным контентом, что делает его чрезвычайно заметным.
Глобальный контроль
Калифорния не единственная, кто отреагировал на ситуацию. Власти Великобритании, Индии и Малайзии также начали расследования в отношении xAI по тому же вопросу. Расследование в Великобритании сосредоточено на том, нарушила ли X правила онлайн-безопасности.
Правовые последствия
Законодательство Калифорнии прямо запрещает использование ИИ для создания сексуальных изображений без согласия. В случае признания виновным, xAI может столкнуться со значительными финансовыми штрафами, до 25 000 долларов за каждое изображение. Штат также имеет право потребовать судебный запрет, чтобы предотвратить дальнейшее создание таких материалов компанией.
Эта ситуация подчеркивает растущую юридическую и этическую обеспокоенность по поводу неконтролируемого распространения контента, сгенерированного ИИ, особенно когда речь идёт о недобровольной эксплуатации. Быстрое распространение этих изображений указывает на острую необходимость более строгого регулирования и подотчётности в сфере ИИ.
