El empresario y dueño de la red social X, Elon Musk, generó gran controversia al compartir una foto de la vicepresidenta de Estados Unidos y candidata a las elecciones presidenciales por el Partido Demócrata. La imagen generada con inteligencia artificial (IA) muestra a Kamala Harris vistiendo un uniforme rojo y un sombrero con los símbolos de la hoz y el martillo.
“Kamala jura ser una dictadora comunista desde el primer día. ¿Puedes creer que lleve ese atuendo?”, escribió Musk en inglés como descripción de la imagen.
La publicación del 2 de septiembre alcanzó 81 millones de vistas y unas 60.000 réplicas hasta la fecha. Esta se originó como respuesta a una entrada de @KamalaHarris sobre su rival, el candidato republicano, Donald Trump, diciendo que “promete ser un dictador desde el primer día”.
Una vez más, Grok, la última versión de la inteligencia artificial de X, se convierte en el centro de preocupaciones por su capacidad para generar desinformación, especialmente en contextos de alto impacto para la opinión pública, como la carrera presidencial en Estados Unidos.
¿Qué es Grok 2.0 y cómo se ha transformado en una de las herramientas más controvertidas de las redes sociales?
La empresa xAI, dirigida por Elon Musk lanzó en agosto de 2024 la última versión del chatbot de inteligencia artificial Grok 2.0. La misma permite a los usuarios crear imágenes hiperrealistas a partir de texto con una flexibilidad sin precedentes. Hasta el momento, los usuarios deben pagar por sus prestaciones, exclusivas para usuarios Premium y Premium +.
“Grok-2 es nuestro asistente de inteligencia artificial de última generación con capacidades avanzadas de comprensión de texto y visión, que integra información en tiempo real de la plataforma X”, publicó el sitio oficial de la empresa xAI.
Una vez que un usuario paga, podrá acceder sin dificultad a la herramienta de IA en la columna izquierda de la aplicación X. Esto le permitirá crear textos e imágenes para compartir de inmediato en la misma red social.
El chatbot cuenta con dos modelos de IA: Grok-2 y Grok-2 mini. El primero integra el modelo completo, mientras que el segundo es más pequeño y ofrece "un equilibrio entre velocidad y calidad de respuesta". Según xAI, la empresa detrás de Grok, esta nueva versión supera a inteligencias artificiales como Claude 3.5 Sonnet y GPT-4-Turbo.
La preocupación de expertos y usuarios en general radica en los bajos niveles de censura o restricción aplicados por Grok, lo que ha incrementado exponencialmente su uso para crear publicaciones falsas o engañosas sobre figuras públicas, especialmente políticos.
Estas creaciones pueden ser violentas, degradantes, machistas, sexualizadas, entre otras, según evidencian artículos publicados por Factchequeado, CNN, La Razón, y otros medios en sus versiones digitales.
A pesar de estar etiquetados o descritos en algunos casos como contenidos creados por IA, estos pueden generar confusión y sugestionar a los votantes, especialmente en el contexto de unas elecciones presidenciales.
Según el Informe de Riesgos Globales 2024 del Foro Económico Mundial, la información manipulada y falsificada es actualmente el riesgo a corto plazo más grave que enfrenta el mundo. Los expertos advierten que, con el avance de la IA y los deepfakes, estos problemas podrían empeorar significativamente en las próximas elecciones.
Publicaciones virales de IA sobre Trump y Kamala Harris
Estos son algunos ejemplos de publicaciones virales realizadas con Grok sobre los principales candidatos en la carrera a la presidencia de EEUU en 2024, Donald Trump y Kamala Harris.
“Grok te permitirá hacer cualquier cosa ahora mismo”, escribió un usuario de X el 14 de agosto sobre una imagen que ha recibido 5,8 millones de vistas hasta la redacción de esta nota. En la imagen generada por la IA, aparecen Trump y Harris con el pulgar levantado en un avión que se dirige hacia las Torres Gemelas.
También se creó un video de 8 segundos que presenta una supuesta relación íntima entre ambos candidatos, mostrando un embarazo y el nacimiento de un bebé con características físicas similares a las de Trump.
“La IA Grok de X ahora también puede crear videos”, escribió un usuario, acompañado de un emoji sonriente.
Otra publicación en inglés con más de 20.000 vistas afirmaba: “Grok AI permite a los usuarios crear imágenes con figuras públicas y personajes protegidos por derechos de autor… generé una imagen con el mensaje: Kamala Harris y Donald Trump comiendo fideos chinos juntos.”
El 4 de septiembre reciente, encontramos un post ampliamente compartido que muestra a Kamala Harris limpiando una mancha blanca en el suelo mientras Trump la observa. Así fue descrita la imagen: “¡Cuando le pides a Grok una imagen de Kamala justo después de su debate con Trump!”.
Las imágenes y videos creados por Grok varían. Algunos usuarios recurren al humor, mientras otros difunden mensajes dañinos que podrían influir en muchos votantes estadounidenses.
Aunque la empresa xAI ha publicado en su sección de reglas y políticas que impone limitaciones a la creación de ciertos contenidos, la realidad muestra cómo los usuarios pueden evadir estas restricciones con relativa facilidad. Incluso Musk ha compartido videos e imágenes sobre políticos estadounidenses que violan las normativas establecidas.
“No puedes compartir contenido multimedia sintético, manipulado o fuera de contexto que pueda engañar o confundir a las personas y causar daño (“contenido multimedia engañoso”). Además, podemos etiquetar publicaciones que contengan contenido multimedia engañoso para ayudar a las personas a comprender su autenticidad y brindar contexto adicional”, publicó xAI en su página web.
Otros asistentes de IA, como ChatGPT de OpenAI, Copilot de Microsoft y Gemini de Google, han implementado restricciones para el uso de determinadas imágenes.
ChatGPT, con la funcionalidad integrada de DALL-E, rechaza peticiones sobre personas reales, temas dañinos, desinformación entre otros. Por su parte, Copilot restringió varias solicitudes tras la publicación de material sexualizado y violento. Este año, Gemini suspendió la generación de imágenes debido a problemas con la precisión de representaciones históricas.
Medios verificadores de información como Chequeado.com, Factchequeado.com citan a Maldita.es alegando que X no ha respondido a sus preguntas sobre cómo piensan limitar la generación y difusión de imágenes en la red social con fines dañinos y violentos.
Según reportes, X realizó cambios en agosto a su chatbot Grok después de que las secretarías de gobierno de cinco estados de Estados Unidos advirtieron a la compañía que estaba propagando desinformación electoral.
"Como secretarios de Estado cuyas oficinas y 37 millones de electores se vieron afectados recientemente por información falsa proporcionada por su plataforma, les pedimos que implementen de inmediato cambios en el asistente de búsqueda de inteligencia artificial de X, Grok, para garantizar que los votantes tengan información precisa en este año electoral crítico", escribieron los funcionarios de Minnesota, Pensilvania, Washington, Michigan y Nuevo México en una carta abierta a Musk.
Además, la Comisión Europea abrió una investigación sobre X por el incumplimiento de la Ley de Servicios Digitales (DSA).
Según publicó la comisión el 12 de julio en su sitio oficial, la plataforma X incumple la DSA “en áreas relacionadas con los patrones oscuros, la transparencia publicitaria y el acceso a los datos por parte de los investigadores”.
En respuesta a señalamientos, xAI ha comenzado a implementar restricciones adicionales en la generación de imágenes. No obstante, la efectividad y el alcance de estas medidas resultan inciertos, ya que imágenes de figuras políticas como Donald Trump y Kamala Harris continúan circulando ampliamente hasta la fecha.
¡Conéctate con la Voz de América! Suscríbete a nuestros canales de YouTube, WhatsApp y al newsletter. Activa las notificaciones y síguenos en Facebook, X e Instagram.
Foro