Grok, una herramienta de IA lanzada al público general por la red social X, ha provocado un aluvión de imágenes hiperrealistas con contenido racista y xenófobo, mientras que expertos alertan de que la ausencia de filtros éticos en esta herramienta contribuirá al aumento de la desinformación y de los mensajes de odio en las plataformas digitales.
El pasado 12 de diciembre, X lanzó una versión gratuita de Grok, su herramienta de inteligencia artificial que previamente solo estaba disponible bajo suscripción. Grok promete ofrecer respuestas “sin filtros” y cuenta con un generador de imágenes altamente realista que pueden compartirse directamente en X.
Esto permitió en los últimos días la circulación de cientos de imágenes hiperrealistas que muestran a famosos y personalidades en diferentes situaciones y, en algunos casos, han superado los tres millones de visualizaciones. Entre ellas destacan algunas piezas que difunden mensajes de odio, como aquellas que muestran al futbolista Lamine Yamal robando a una anciana, subido en una patera o en una escuela junto a comentarios xenófobos.
Simultáneamente, otros usuarios difundieron imágenes que mostraban al exdictador Francisco Franco junto a una tumba marcada con el nombre de Pedro Sánchez, a Adolf Hitler acompañado del director técnico del Real Madrid, Carlo Ancelotti, o a Javier Milei saludando a Hitler en otra fotografía.
Un fenómeno similar ocurrió en agosto del presente año, cuando el lanzamiento de la última actualización de Grok provocó una avalancha de imágenes falsas en X, entre las que figuró una supuesta fotografía que mostraba a Donald Trump acariciando el vientre desnudo de Kamala Harris embarazada.
Según reza el apartado de políticas de uso de la plataforma, Grok se puede utilizar libremente siempre y cuando el usuario “cumpla con la ley, no dañe a las personas y respete las medidas de seguridad”.
Pero en realidad, esta plataforma no cuenta con filtros de moderación que, por ejemplo, evitan la generación de contenido discriminatorio y están presentes en proyectos como OpenAI y Google Gemini. Por el contrario, Grok se define en su página web como un “asistente de IA con un toque de humor y una pizca de rebelión”.
Elon Musk, dueño de la compañía, ha respondido a las críticas amparándose en la libertad de expresión y asegurando que la moderación de contenidos es “como un cinturón de castidad digital”. Además, ha señalado que “las plataformas que la aplican no son más que tiranos digitales que intentan controlar lo que podemos decir y lo que no”.
No obstante, Víctor García Perdomo, director del Doctorado en Comunicación de la Universidad de La Sabana, en Colombia, señala que “resulta contradictorio defender la libertad de expresión mientras se difunde desinformación o se emplea la tecnología con fines políticos”.
Fuente: El Tribuno | Salta