Elon Musk’s sociale mediaplatform X (voorheen Twitter) onderneemt actie tegen makers die door AI gegenereerde inhoud verspreiden die oorlogsgebieden afbeeldt zonder de juiste openbaarmaking. Deze stap komt te midden van verhoogde spanningen in het Midden-Oosten na recente luchtaanvallen tussen de VS, Israël en Iran, waarbij niet-geverifieerde video’s en afbeeldingen het platform hebben overspoeld.
Nieuwe straffen voor betaalde makers
Nikita Bier, hoofd product van X, kondigde dinsdag aan dat elke maker die deelneemt aan het inkomstendelingsprogramma van het platform en door AI gegenereerde oorlogsinhoud deelt zonder deze als zodanig te bestempelen, straffen zal krijgen. Eerste overtredingen resulteren in een schorsing van drie maanden uit het programma, terwijl herhaalde overtredingen kunnen leiden tot definitieve verwijdering. Met het inkomstenprogramma kunnen populaire makers rechtstreeks inkomsten genereren uit hun berichten.
Het doel is duidelijk: het ontmoedigen van de verspreiding van desinformatie tijdens kritieke geopolitieke momenten. X zal Community Notes (door de gebruiker gemarkeerde correcties) en AI-detectietools gebruiken om dit beleid af te dwingen.
Waarom dit belangrijk is
Het vermogen om overtuigende nep-oorlogsbeelden te maken met behulp van AI groeit snel. Uit een recent onderzoek van CNET is gebleken dat minder dan de helft van de Amerikaanse volwassenen (44%) op betrouwbare wijze door AI gegenereerde afbeeldingen en video’s kan identificeren. Dit is vooral gevaarlijk tijdens conflicten, waar verkeerde informatie de spanningen kan doen escaleren, de publieke opinie kan beïnvloeden of zelfs gevolgen in de echte wereld kan veroorzaken.
“In tijden van oorlog is het van cruciaal belang dat mensen toegang hebben tot authentieke informatie”, aldus Bier op X. “Met de huidige AI-technologieën is het triviaal om inhoud te creëren die mensen kan misleiden.”
Een beperkte oplossing?
Critici wijzen erop dat het nieuwe beleid zich alleen richt op makers die geld verdienen met het platform, en degenen die niet-geverifieerde inhoud delen buiten het inkomstenprogramma ongemoeid laat. Dit roept vragen op over de effectiviteit van het harde optreden: zal het desinformatie daadwerkelijk bestrijden, of alleen degenen straffen die financieel gestimuleerd worden door betrokkenheid?
X heeft niet duidelijk gemaakt of er aanvullende maatregelen zullen worden genomen tegen niet-betaalde gebruikers die soortgelijke inhoud delen. Het bedrijf reageerde niet onmiddellijk op een verzoek om commentaar.
Deze stap duidt op een groeiend bewustzijn van de gevaren die door AI-gestuurde desinformatie ontstaan, maar de beperkte reikwijdte ervan doet twijfels rijzen over de vraag of dit het probleem echt zal oplossen. Het probleem vereist bredere oplossingen die verder gaan dan alleen het bestraffen van betaalde makers.
