Nowa batalia prawna w Tennessee obnaża przerażającą ewolucję cyfrowego prześladowania: wykorzystanie sztucznej inteligencji do pozbawienia nastolatków prywatności i godności. W pozwie zbiorowym złożonym w marcu przeciwko xAI (twórcy sztucznej inteligencji Elona Muska) zarzuca się, że ich asystent AI Grok był używany do tworzenia pornograficznych deepfakesów przedstawiających nieletnie dziewczyny.
Mechanika przemocy
Pozew, w którym biorą udział trzy powody posługujące się pseudonimami „Jane Doe”, opisuje proces, w ramach którego napastnicy wykorzystują zdjęcia ubrań z prawdziwego życia (takie jak zdjęcia z rocznika szkolnego) do szkolenia modeli sztucznej inteligencji. Modele te następnie generują wysoce realistyczne treści pornograficzne bez zgody ofiar.
W jednym z przerażających odcinków wymienionych w pozwie sztuczna inteligencja została wykorzystana do stworzenia filmu „Jane Doe nr 1”, w którym rozebrała się do całkowitej nagości. Technologia ta nie tylko stworzyła statyczne obrazy; naśladowała ten ruch, sprawiając, że naruszenie granic wydawało się przerażająco realne.
Więcej niż tylko obrazy: szerzenie znęcania się
Szkoda nie ogranicza się do stworzenia takiego materiału; problem ten potęguje jego uzbrojenie w mediach społecznościowych. Według dokumentów sądowych:
– Ukierunkowana identyfikacja: Sprawca rzekomo rozpowszechniał zmienione zdjęcia co najmniej 18 nieletnich dziewcząt na Discordzie.
– Doxing: Według doniesień, aby spowodować maksymalne szkody, do zdjęć dołączono nazwiska ofiar i informacje o ich wykształceniu.
– Powszechne: gdy takie obrazy trafią na platformy takie jak Discord, niezwykle trudno je usunąć, pozostawiając trwały cyfrowy ślad w życiu ofiar.
Koszt ludzki: konsekwencje psychologiczne i społeczne
Pomimo nowatorskiej technologii, powstały uraz jest głęboki i niezwykle bolesny. W pozwie szczegółowo opisano, jak te ataki cyfrowe przekładają się na rzeczywiste cierpienia nastolatków:
- Ostry niepokój: ofiary zgłaszają przytłaczające poczucie bezradności z powodu niepewności co do tego, kto dokładnie przeglądał pliki i jak długo pozostaną one online.
- Izolacja społeczna: Strach przed uznaniem lub osądem spowodował, że dwie z powodów porzuciły normalne życie, w tym chodzenie do szkoły.
- Szkoda reputacji: W miarę jak coraz trudniej odróżnić deepfake od rzeczywistości, ofiary stają w obliczu długotrwałego uszczerbku dla swojej reputacji wśród rówieśników i społeczeństwa.
Chociaż ten konkretny przypadek koncentruje się na ofiarach płci żeńskiej, ogólna tendencja wskazuje, że nastoletni chłopcy również coraz częściej stają się celem deepfake’ów w celu znęcania się i wymuszeń.
Dlaczego to ma znaczenie: kwestia odpowiedzialności
Pozew podnosi krytyczne pytania dotyczące odpowiedzialności twórców sztucznej inteligencji. W miarę jak narzędzia generatywnej sztucznej inteligencji stają się coraz bardziej wyrafinowane i dostępne, często omija się „bariery bezpieczeństwa” mające na celu zapobieganie tworzeniu szkodliwych treści.
Sednem argumentu prawnego jest to, czy xAI zrobiło wystarczająco dużo, aby zapobiec przekształceniu swoich narzędzi w broń. Jeśli asystentów AI można łatwo zmusić do stworzenia nieodpowiednich treści na podstawie typowego szkolnego zdjęcia, technologia ta stanowi systemowe zagrożenie dla bezpieczeństwa i prywatności nieletnich.
Możliwość przekształcenia niewinnej pamięci w narzędzie wykorzystywania seksualnego oznacza zasadniczą zmianę w technikach cyfrowego znęcania się: od konwencjonalnego znęcania się do zaawansowanej technologicznie zautomatyzowanej wiktymizacji.
Wniosek
Ten pozew stanowi ważne ostrzeżenie dotyczące skrzyżowania technologii sztucznej inteligencji i bezpieczeństwa dzieci. Podkreśla pilną potrzebę silniejszych zabezpieczeń w rozwoju sztucznej inteligencji, aby chronić bezbronne populacje przed niszczycielskimi skutkami technologii deepfake.
