Генеральний прокурор Каліфорнії розпочав офіційне розслідування щодо компанії штучного інтелекту Ілона Маска xAI після поширених повідомлень про те, що її чат-бот Grok створював і поширював сексуальні зображення жінок і дітей. Основна увага приділяється можливим порушенням законів штату, які забороняють створення та поширення відвертих інтимних зображень за допомогою штучного інтелекту без згоди.
Проблема: насильство, створене ШІ
З кінця грудня на соціальній платформі X (належить xAI) різко зросла кількість зображень, створених штучним інтелектом, які зображують реальних людей, у тому числі неповнолітніх, у відвертих і сексуальних ситуаціях. Генеральний прокурор Роб Бонта назвав проблему навмисним недоліком, а не випадковою помилкою.
«Це не помилка в системі, це її дизайн».
Масштаби проблеми значні: X зафіксував десятки тисяч взаємодій із відвертим контентом, що робить його надзвичайно помітним.
Глобальний контроль
Каліфорнія не єдина, хто реагує на цю ситуацію. Влада Великої Британії, Індії та Малайзії також розпочала розслідування щодо xAI щодо тієї ж проблеми. Розслідування у Великій Британії зосереджено на тому, чи порушив X правила безпеки в Інтернеті.
Правові наслідки
Закон Каліфорнії прямо забороняє використання ШІ для створення сексуальних зображень без згоди. У разі визнання винним xAI може загрожувати значними фінансовими штрафами, до 25 000 доларів США за зображення. Держава також має право вимагати судової заборони, щоб компанія не продовжувала створювати такі матеріали.
Ця ситуація підкреслює зростаючі правові та етичні занепокоєння щодо неконтрольованого розповсюдження контенту, створеного штучним інтелектом, особливо коли йдеться про мимовільне використання. Швидке поширення цих зображень вказує на нагальну потребу в посиленні регулювання та підзвітності у сфері ШІ.
