Los “transmisores de noticias” parecen asombrosamente reales, pero son falsificaciones profundas generadas por IA en los primeros videos de propaganda de su tipo que un informe de investigación publicado el martes atribuyó a actores alineados con el estado chino.
Los presentadores falsos, para un medio de comunicación ficticio llamado Wolf News, fueron creados por un software de inteligencia artificial y aparecieron en imágenes en las redes sociales que parecían promover los intereses del Partido Comunista Chino, dijo la firma de investigación estadounidense Graphika en su informe. .
“Esta es la primera vez que vemos que una operación alineada con el estado utiliza imágenes de video generadas por IA de una persona ficticia para crear contenido político engañoso”, dijo a la AFP Jack Stubbs, vicepresidente de inteligencia de Graphika.
En un video analizado por Graphika, un presentador masculino ficticio que se hace llamar Alex critica la inacción de Estados Unidos ante la violencia armada que asola el país. En el segundo, una presentadora destaca la importancia de la “cooperación entre grandes potencias” entre China y Estados Unidos.
Los avances en la IA han avivado la alarma mundial sobre el potencial de la tecnología para la desinformación y el uso indebido, con imágenes falsas creadas de la nada y personas que dicen cosas que nunca dijeron.
El año pasado, el propietario de Facebook, Meta, dijo que eliminó un video falso del presidente ucraniano Volodymyr Zelensky instando a los ciudadanos a deponer las armas y rendirse a Rusia.
No hubo comentarios inmediatos de China sobre el informe de Graphika, que llega pocas semanas después de que Beijing adoptara reglas amplias para regular las falsificaciones profundas.
China impuso nuevas reglas el mes pasado que requerirán que las empresas que ofrecen servicios falsos obtengan las identidades reales de sus usuarios. También requieren que el contenido deepfake esté debidamente etiquetado para evitar “cualquier confusión”.
El gobierno chino ha advertido que las falsificaciones profundas presentan un “peligro para la seguridad nacional y la estabilidad social”.
El informe de Graphika dijo que los dos presentadores de Wolf News fueron creados casi con certeza utilizando tecnología proporcionada por Synthesia, una startup de IA con sede en Londres.
El sitio web de Synthesia, que no respondió de inmediato a la solicitud de comentarios de AFP, anuncia un software para crear avatares falsos “basados en imágenes de video de actores reales”.
Graphika dijo que descubrió los deepfakes en plataformas como Twitter, Facebook y YouTube mientras rastreaba operaciones de desinformación a favor de China conocidas como “spamouflage”.
“Spamouflage es una operación de influencia pro china que amplifica principalmente videos de spam político de baja calidad”, dijo Stubbs.
“A pesar de usar tecnología sofisticada, estos últimos videos son muy parecidos. Esto muestra las limitaciones del uso de deepfakes en operaciones de influencia: son solo una herramienta en una caja de herramientas cada vez más avanzada”.
