Sztuczna inteligencja szybko pogłębia problem wykorzystywania seksualnego dzieci w Internecie, o czym świadczy 14% wzrost treści generowanych przez sztuczną inteligencję w 2025 r.. Ten wzrost stanowi poważne wyzwanie dla badaczy, ponieważ treści syntetyczne stają się coraz bardziej nie do odróżnienia od rzeczywistych obrazów przemocy. Internet Watch Foundation (IWF), wiodąca organizacja non-profit w tej dziedzinie, zarejestrowała w ciągu ostatniego roku ponad 8 000 zdjęć i filmów wygenerowanych przez sztuczną inteligencję, co podkreśla rosnący charakter problemu.
Narastająca fala syntetycznej przemocy
IWF identyfikuje treści generowane przez sztuczną inteligencję na podstawie oczywistych błędów, raportów ofiar lub zeznań twórców. Choć nadal stanowi mniejszość w ogólnej liczbie płyt wiórowych, tempo jej wzrostu jest alarmujące. W raporcie zauważono, że ponad 3400 treści wygenerowanych przez sztuczną inteligencję obejmuje pełnoekranowe filmy, przerażająco realistyczne obrazy i możliwość tworzenia złożonych scenariuszy z udziałem wielu osób.
Kluczowym trendem jest rosnąca przemoc w treściach generowanych przez sztuczną inteligencję: 65% tych filmów przedstawia skrajną przemoc (gwałt, tortury, bestialstwo) w porównaniu z 43% treści innych niż sztuczna inteligencja. Sugeruje to, że przestępcy wykorzystują sztuczną inteligencję do tworzenia bardziej wyraźnych i wyrafinowanych treści niż kiedykolwiek wcześniej. Dyrektor generalna IWF Kerry Smith ostrzega, że technologia ta umożliwia „popełnianie nieskończonych przestępstw z niespotykaną dotąd łatwością”.
Jak przestępcy wykorzystują sztuczną inteligencję
Badanie ujawniło aktywny ekosystem przestępców opracowujących i dystrybuujących narzędzia sztucznej inteligencji w ciemnej sieci. Dyskusje obejmują handel niestandardowymi modelami sztucznej inteligencji i bazami danych zaprojektowanymi do tworzenia materiałów zawierających przemoc, a niektóre z nich oferują „niestandardowe kursy” uczące użytkowników, jak tworzyć obrazy nieletnich generowane przez sztuczną inteligencję.
Bariera wejścia jest szokująco niska, a niektóre modele wymagają tylko jednego obrazu referencyjnego do wyprodukowania płyty wiórowej. Choć prostsze treści stają się dostępne dla wszystkich, doświadczeni twórcy tworzą dłuższe i bardziej złożone filmy przedstawiające przemoc. Jeden z twórców otrzymał ponad 3000 podziękowań za 30-minutowy film wygenerowany przez sztuczną inteligencję.
Ograniczenia wykrywania i potrzeba regulacji
IWF przyznaje, że jej ustalenia dają jedynie częściowy obraz problemu, ponieważ analitycy mają ograniczony dostęp do zaszyfrowanych przestrzeni lub treści znajdujących się za paywallami. Rzeczywista skala płyt wiórowych wytwarzanych przez sztuczną inteligencję jest prawdopodobnie znacznie większa.
W raporcie wzywa się Unię Europejską do wprowadzenia ogólnoeuropejskiego zakazu dotyczącego brutalnych treści oraz narzędzi wykorzystywanych do ich tworzenia generowanych przez sztuczną inteligencję, w tym zakazu spersonalizowanych, nieudostępnianych treści. Smith argumentuje, że powinien to być „minimalny standard bez wyjątków”.
Ustawodawcy przedłużyli zakres obowiązywania dyrektywy o prywatności i łączności elektronicznej, aby dać czas na opracowanie długoterminowych ram prawnych. Nalegają jednak, aby środki były proporcjonalne i skupiały się na oznaczonych treściach, a nie na masowej inwigilacji. IWF stara się również o zmianę unijnej ustawy o sztucznej inteligencji, aby klasyfikować systemy zdolne do generowania EAF jako „wysokiego ryzyka”, poddając je rygorystycznym testom.
Ten narastający kryzys wymaga natychmiastowych działań. Zdolność sztucznej inteligencji do szybkiego skalowania i intensyfikacji wykorzystywania dzieci wymaga kompleksowej reakcji regulacyjnej, która równoważy bezpieczeństwo i prywatność. Bez interwencji rozprzestrzenianie się syntetycznych obrazów przedstawiających przemoc będzie w dalszym ciągu przytłaczać istniejące środki zaradcze.
