Hablando mandarín y promoviendo el amor por China, innumerables videos de mujeres de apariencia extranjera hechos con inteligencia artificial comenzaron a aparecer en las plataformas de redes sociales chinas alrededor del Año Nuevo Lunar, a principios de este mes.
Los avatares de los videos se crean con imágenes en línea que son robadas, reproducidas y reutilizadas para que incluso las mujeres en la vida real se reconozcan en los videos.
Olga Loiek es una de esas mujeres. Es una ucraniana de 20 años que estudia ciencias cognitivas en la Universidad de Pensilvania. Hace un par de meses, Loiek abrió un canal de YouTube donde habla sobre salud mental y comparte sus filosofías sobre la vida.
Sin embargo, poco después comenzó a recibir mensajes de seguidores diciendo que la habían visto en las redes sociales chinas. Allí no es Olga Loiek, sino una mujer rusa que habla mandarín, ama a China y quiere casarse con un chino. Su nombre es Natasha, Anna o Grace, según la plataforma de redes sociales donde la encuentres en China.
"Comencé a traducir los videos con Google Translate y me di cuenta de que la mayoría de estas cuentas hablan de cosas como China, Rusia, lo buena que es la relación entre China y Rusia", dijo a la Voz de América. "Esto se siente muy violatorio".
En algunos videos, los avatares expresan su aprecio por los estrechos vínculos entre Moscú y Beijing. En otros videos, elogian la historia y la cultura chinas o hablan del interés de las mujeres rusas por casarse con chinos.
También lea Los chatbots de IA proporcionan información falsa sobre las elecciones de noviembre"Si te casas con una mujer rusa, te lavaremos la ropa, cocinaremos y lavaremos los platos todos los días", decía un avatar. "También te daremos bebés extranjeros, tantos como quieras".
Se han encontrado varias docenas de videos del avatar de Loiek hablando mandarín en los sitios de videos Douyin y Bilibili. La mayoría de estas cuentas invitaban a los espectadores a visitar sus tiendas en línea para comprar lo que dicen que son productos rusos auténticos.
Douyin, la versión china de TikTok, ha etiquetado algunos de estos videos como potencialmente generados por IA. Pero los comentarios muestran que muchos creían que estaban ante una mujer real. Un internauta escribió: "Belleza rusa, el pueblo chino te da la bienvenida".
Loiek dijo que, obviamente, nunca diría cosas así, dado que es de Ucrania, que ha estado en guerra con Rusia desde 2022.
"Esto probablemente se utiliza para hacer que la gente, tal vez la gente en China, sienta que los extranjeros sienten que su país es superior", expresó.
En Bilibili, el sitio de videos más grande de China, algunos videos de IA que utilizan la cara de Loiek están marcados con el logotipo de HeyGen, lo que indica que el video se generó en el sitio web de la empresa.
En un tutorial sobre Bilibili, el presentador incluso muestra la forma de hacer un video corto en HeyGen con un clip de Loiek hablando.
También lea La inteligencia artificial ofrece nuevas armas para interferir en las elecciones de EEUUHeyGen es una empresa de inteligencia artificial con sede en Los Ángeles que se lanzó en China en 2020. Se especializa en avatares digitales realistas, generación de voz y traducción de videos.
La tecnología desarrollada por HeyGen se utilizó en videos de inteligencia artificial de Donald Trump y Taylor Swift hablando perfecto mandarín que se volvieron virales en las redes sociales chinas en octubre de 2023. Según Forbes, la empresa está valorada ahora en 75 millones de dólares.
La política de moderación de HeyGen establece que los usuarios no pueden generar avatares que "representen a individuos reales, incluidas celebridades o figuras públicas, sin consentimiento explícito".
El video tutorial oficial de la compañía sobre la creación de avatares muestra que los usuarios deben enviar un video de personas que dan su consentimiento para el uso de su imagen. No está claro como algunas personas en China podrían eludir el requisito al hacer videos de Loiek.
Según Loiek, desde que ella y sus suscriptores de YouTube enviaron quejas a las empresas chinas de redes sociales, alrededor de una docena de cuentas que la imitaban han sido eliminadas.
La VOA se puso en contacto con HeyGen y la empresa matriz de Douyin, ByteDance, para solicitar comentarios, pero no recibió respuesta.
Your browser doesn’t support HTML5
Analistas de seguridad advierten que la IA generativa podría influir en las próximas elecciones
El gobierno chino implementó disposiciones para regular los deepfakes y otros "servicios de síntesis profunda" a principios de 2023. La ley prohíbe generar deepfakes sin el consentimiento de las personas cuya imagen u otra información se utiliza.
Loiek publicó su historia en YouTube y se compartió en las redes sociales chinas. Los internautas de todas las plataformas simpatizaron con ella y pidieron regulaciones más estrictas sobre la IA.
Gigantes tecnológicos chinos como Baidu y Tencent están invirtiendo fuertemente en tecnología de inteligencia artificial. Uno de los servicios impulsados por IA más publicitados son los humanos digitales.
Tencent y Xiaoice, un estudio chino de inteligencia artificial derivado de Microsoft, ofrecen servicios humanos digitales que pueden clonar personas y convertirlas en avatares de inteligencia artificial por tan solo 145 dólares.
También se han encontrado avatares de IA en campañas de desinformación en línea que difunden comentarios pro-China y narrativas anti-Estados Unidos. En febrero de 2023, la firma de investigación Graphika encontró una campaña en las redes sociales que promovía los intereses de Beijing utilizando personas de aspecto realista generadas por computadora en videos.
En septiembre de 2023, el Departamento de Estado de EEUU advirtió en un informe: "El acceso a datos globales combinado con los últimos avances en tecnología de inteligencia artificial permitiría a la RPC (República Popular China) apuntar quirúrgicamente a audiencias extranjeras y, por lo tanto, tal vez influir en las decisiones económicas y de seguridad a su favor.
En cuanto a Loiek, no planea abandonar YouTube ni dejar de publicar.
"Necesitamos algún tipo de marco regulatorio, para que podamos entender y evitar que estas cosas sucedan", dijo.
[Adrianna Zhang contribuyó a este informe]
¡Conéctate con la Voz de América! Suscríbete a nuestros canales de YouTube, WhatsApp y al newsletter. Activa las notificaciones y síguenos en Facebook, X e Instagram.