La plataforma de redes sociales X (anteriormente Twitter) de Elon Musk está tomando medidas contra los creadores que distribuyen contenido generado por IA que representa zonas de guerra sin la divulgación adecuada. Esta medida se produce en medio de crecientes tensiones en el Medio Oriente luego de los recientes ataques aéreos entre Estados Unidos, Israel e Irán, donde videos e imágenes no verificados han inundado la plataforma.
Nuevas sanciones para creadores pagos
Nikita Bier, jefa de producto de X, anunció el martes que cualquier creador que participe en el programa de reparto de ingresos de la plataforma y que comparta contenido de guerra generado por IA sin etiquetarlo como tal enfrentará sanciones. Las primeras infracciones resultarán en una suspensión de tres meses del programa, mientras que las infracciones repetidas podrían dar lugar a la expulsión permanente. El programa de ingresos permite a los creadores populares obtener ingresos directamente de sus publicaciones.
El objetivo es claro: desalentar la difusión de información errónea durante momentos geopolíticos críticos. X utilizará Notas de la comunidad (correcciones marcadas por el usuario) y herramientas de detección de IA para hacer cumplir esta política.
Por qué esto es importante
La capacidad de crear imágenes de guerra falsas y convincentes utilizando IA está creciendo rápidamente. Una encuesta reciente de CNET encontró que menos de la mitad de los adultos estadounidenses (44%) pueden identificar de manera confiable imágenes y videos generados por IA. Esto es particularmente peligroso durante los conflictos, donde la información errónea puede intensificar las tensiones, influir en la opinión pública o incluso desencadenar consecuencias en el mundo real.
“En tiempos de guerra, es fundamental que las personas tengan acceso a información auténtica”, afirmó Bier en X. “Con las tecnologías de inteligencia artificial actuales, es trivial crear contenido que pueda engañar a las personas”.
¿Una solución limitada?
Los críticos señalan que la nueva política solo se dirige a los creadores que ganan dinero con la plataforma, dejando intactos a aquellos que comparten contenido no verificado fuera del programa de ingresos. Esto plantea interrogantes sobre la eficacia de la represión: ¿combaterá genuinamente la desinformación o simplemente castigará a quienes se incentivan financieramente por el compromiso?
X no ha aclarado si se tomarán medidas adicionales contra los usuarios no pagos que comparten contenido similar. La compañía no respondió de inmediato a una solicitud de comentarios.
La medida indica una creciente conciencia de los peligros que plantea la desinformación impulsada por la IA, pero su alcance limitado genera dudas sobre si realmente resolverá el problema. El problema exige soluciones más amplias que vayan más allá de penalizar a los creadores pagos.
