Dětská pornografie generovaná AI na vzestupu: Online bezpečnostní hrozba
Umělá inteligence rychle zhoršuje problém sexuálního vykořisťování dětí (CSE) online, o čemž svědčí 14% nárůst obsahu generovaného umělou inteligencí v roce 2025. Tento nárůst představuje pro vyšetřovatele velkou výzvu, protože syntetický obsah je stále více nerozeznatelný od skutečných obrazů násilí. Internet Watch Foundation (IWF), přední nezisková organizace v této oblasti, zaznamenala za poslední rok více než 8 000 obrázků a videí vytvořených umělou inteligencí, což poukazuje na zrychlující se povahu problému.
Stoupající vlna syntetického násilí
IWF identifikuje obsah generovaný umělou inteligencí podle zjevných chyb, zpráv od obětí nebo přiznání od tvůrců. Přestože stále představuje menšinu z celkové dřevotřískové desky, její tempo růstu je alarmující. Zpráva uvádí, že více než 3 400 obsahu generovaného umělou inteligencí zahrnuje videa na celé obrazovce, děsivě realistické obrázky a schopnost vytvářet složité scénáře zahrnující více lidí.
Klíčovým trendem je rostoucí násilí v obsahu generovaném umělou inteligencí: 65 % těchto videí obsahuje extrémní násilí (znásilnění, mučení, sodomie) ve srovnání se 43 % obsahu bez umělé inteligence. To naznačuje, že zločinci používají AI k vytváření explicitnějšího a sofistikovanějšího obsahu než kdykoli předtím. Generální ředitel IWF Kerry Smith varuje, že tato technologie umožňuje „páchat nekonečné zločiny s bezprecedentní lehkostí“.
Jak zločinci využívají AI
Studie odhalila aktivní ekosystém zločinců vyvíjejících a distribuujících nástroje umělé inteligence na temném webu. Diskuse zahrnují obchodování s vlastními modely umělé inteligence a databázemi určenými k vytváření násilných materiálů, z nichž některé nabízejí „kurzy na míru“, které uživatele naučí, jak vytvářet obrázky nezletilých vytvořené umělou inteligencí.
Překážka vstupu je překvapivě nízká, přičemž některé modely vyžadují k výrobě dřevotřískové desky pouze jeden referenční obrázek. Zatímco jednodušší obsah je přístupný všem, důvtipní tvůrci produkují delší a složitější násilná videa. Jeden tvůrce obdržel více než 3 000 poděkování za 30minutové video generované umělou inteligencí.
Omezení detekce a potřeba regulace
IWF uznává, že její zjištění poskytují pouze částečný obraz problému, protože analytici mají omezený přístup k zašifrovaným prostorům nebo obsahu za paywally. Skutečný rozsah dřevotřískových desek generovaných AI je pravděpodobně mnohem větší.
Zpráva vyzývá Evropskou unii, aby zavedla celoevropský zákaz násilného obsahu generovaného umělou inteligencí a nástrojů používaných k jeho vytvoření, včetně zákazu personalizovaného, nesdíleného obsahu. Smith tvrdí, že by to měl být „minimální standard bez výjimek“.
Zákonodárci rozšířili směrnici o soukromí a elektronických komunikacích, aby poskytli čas na vytvoření dlouhodobého právního rámce. Trvají však na tom, že opatření musí být přiměřená a zaměřovat se spíše na označený obsah než na hromadné sledování. IWF se také snaží změnit zákon EU o AI tak, aby klasifikoval systémy schopné generovat EAF jako „vysoce rizikové“ a podrobuje je přísnému testování.
Tato rostoucí krize vyžaduje okamžitou akci. Schopnost umělé inteligence rychle rozšířit a zintenzivnit vykořisťování dětí vyžaduje komplexní regulační reakci, která vyvažuje bezpečnost a soukromí. Bez zásahu bude šíření syntetických násilných obrazů nadále přehlušovat stávající protiopatření.
