Microsoft acusó el jueves a agentes chinos de utilizar IA para sembrar discordia entre los votantes estadounidenses. Budrul Chukrut/SOPA Images/LightRocket vía Getty Images
Canjear ahora
- Microsoft advirtió que China ha estado utilizando imágenes generadas por inteligencia artificial para sembrar discordia entre los votantes estadounidenses.
- Personas reales están volviendo a publicar estas imágenes divisivas, sin darse cuenta de que son falsas, añadió Microsoft.
- La Embajada de China en Washington, DC, respondió hablando de «especulación maliciosa» contra China.
Anuncio Anuncio Desde marzo, China ha estado utilizando IA generativa para crear contenido viral que divide a los votantes estadounidenses en las redes sociales, y está mejorando en eso, dicen los analistas de Microsoft.
«Hemos observado a actores afiliados a China aprovechando los medios visuales generados por IA en una amplia campaña que se centra en gran medida en temas políticamente divisivos, como la violencia armada y la denigración de figuras y símbolos políticos estadounidenses», escribió Clint Watts, director general de Microsoft Threat. Centro de Análisis.
Los analistas del centro publicaron un informe el jueves destacando las amenazas digitales de China y Corea del Norte, y dijeron que los agentes chinos están influyendo en sus objetivos «en mayor medida de lo observado anteriormente».
Microsoft advirtió sobre las cuentas de redes sociales afiliadas al Partido Comunista Chino, que publicarían imágenes generadas por IA, como un cartel de Black Lives Matter que muestra agujeros de bala y un hombre negro rindiéndose.
Anuncio Anuncio Horas después de que se subiera el cartel de Black Lives Matter, una cuenta que se hacía pasar por un votante conservador estadounidense volvió a publicar la imagen, quejándose de discriminación racial, según Microsoft.
Otro ejemplo citado fue un cartel generado por IA de la Estatua de la Libertad sosteniendo un rifle de asalto, junto con la leyenda «La Diosa de la Violencia». Los analistas de Microsoft dijeron que fue publicado por una cuenta sospechosa de ser administrada como una operación de influencia china.
«Este contenido visual de calidad relativamente alta ya ha atraído niveles más altos de participación de usuarios auténticos de las redes sociales», advirtieron los analistas.
Agregaron que las nuevas imágenes son más llamativas y que los votantes estadounidenses reales las están volviendo a publicar a pesar de que contienen «indicadores comunes de generación de IA», como más de cinco dedos en una mano.
Anuncio Anuncio Ahora también es más difícil saber si estas cuentas no son genuinas, dijeron los analistas de Microsoft.
«A diferencia de campañas de IO anteriores de actores afiliados al PCC que utilizaban identificadores, nombres para mostrar e imágenes de perfil generados por computadora fáciles de detectar, estas cuentas más sofisticadas son operadas por personas reales que emplean identidades ficticias o robadas para ocultar la afiliación de las cuentas. con el PCC», escribieron.
Pero hay señales reveladoras, según Microsoft. Muchos de estos agentes comenzarían a publicar en mandarín y luego cambiarían a otro idioma, dijo el centro de amenazas.
Las cuentas harían una publicación, luego comentarían, darían me gusta y compartirían publicaciones de otras cuentas similares, creando un patrón en el que mejorarían el contenido de cada una, dijo Microsoft.
Anuncio Anuncio «Podemos esperar que China continúe perfeccionando esta tecnología con el tiempo, aunque aún está por ver cómo y cuándo la implementará a escala», escribió Watts.
Cuando se le pidió que respondiera al informe de Microsoft, un portavoz de la embajada china en Washington, DC, Liu Pengyu, dijo a Insider en un comunicado: «En los últimos años, algunos medios de comunicación y grupos de expertos occidentales han acusado a China de utilizar inteligencia artificial para crear redes sociales falsas. cuentas de los medios para interferir en la política de EE.UU. Tales comentarios están llenos de prejuicios y especulaciones maliciosas contra China, a las que China se opone firmemente».
En julio, la firma de investigación de ciberseguridad Mandiant dijo que descubrió que agentes afiliados a China habían pagado a personas en Washington, DC, para protestar por una prohibición del gobierno estadounidense sobre bienes producidos en la región de Xinjiang. Los vídeos de sus protestas fueron luego «amplificados» por las cuentas de redes sociales utilizadas por los agentes, añadió Mandiant.
El 29 de agosto, Meta también advirtió sobre una campaña de influencia china que difunde información falsa, involucrando a más de 7.700 cuentas de Facebook, 950 páginas de Facebook, 15 grupos de Facebook y 15 cuentas de Instagram. La empresa de redes sociales dijo que los eliminó todos.
Política China IA Anuncio
Canjear ahora
