Polémica en la red social X: su chatbot Grok deja de crear imágenes con desnudos tras críticas globales

La red social X, propiedad de Elon Musk, anunció que su chatbot de inteligencia artificial, Grok, ya no puede generar deepfakes sexuales, imágenes falsas donde personas reales aparecen desnudas. La medida llega tras una oleada de críticas internacionales, investigaciones y bloqueos, especialmente porque la herramienta se usó para crear contenido sexualizado de menores de edad. La polémica escaló rápidamente a principios de 2026 cuando se viralizaron las capacidades del modelo.

El detonante de la crisis

El problema comenzó con una actualización del sistema de generación de imágenes de Grok, que permitía a los usuarios editar fotografías subidas. En la plataforma X se popularizó la solicitud “en bikini”, un pedido para transformar imágenes de personas vestidas en otras con menos ropa. Según el sitio especializado Phone Arena, “lo más peligroso de esto fue que dio a cualquiera el poder de editar las imágenes de cualquier persona y usarlas en situaciones sexuales falsas”. Incluso se manipularon fotos del propio Elon Musk.

La situación se volvió crítica cuando se descubrió que la herramienta también se estaba utilizando para generar imágenes sexualizadas de niños. Este hecho elevó el escrutinio sobre la compañía y desató acciones inmediatas de gobiernos y organizaciones en distintos continentes.

Reacciones y sanciones internacionales

La presión sobre la empresa de Musk no se hizo esperar. En el Reino Unido, el ente regulador de medios inició una investigación. El Ministerio de Tecnologías de la Información de la India envió una notificación formal exigiendo la eliminación de todas las imágenes falsas sexualizadas. Países como Malasia e Indonesia llegaron más lejos y prohibieron directamente el uso de esta inteligencia artificial.

Esta misma semana, grupos de defensa de derechos exigieron a Google y Apple la eliminación tanto de la red social X como del chatbot Grok de sus tiendas de aplicaciones. En un comunicado urgente, alertaron: “Exigimos que retiren urgentemente a Grok y X para evitar más abusos y actividades delictivas (…) El panorama es aterrador. Un chatbot de IA y una aplicación de redes sociales se están convirtiendo rápidamente en una herramienta y plataforma para deepfakes sexuales no consensuadas, que regularmente representan a menores”.

Un problema colateral de la IA generativa

Las falsificaciones profundas o deepfakes son uno de los efectos colaterales más preocupantes del auge de la Inteligencia Artificial Generativa. Si bien la capacidad de crear imágenes a partir de instrucciones simples ha fomentado la creatividad, también ha abierto la puerta a su uso malicioso. Estas herramientas se emplean para fraudes digitales, campañas de desinformación y, como en este caso, para la difamación y la creación de contenido sexual no consentido.

Antes de la prohibición total, los responsables de X habían intentado contener la situación limitando la función de generación de imágenes sexualizadas solo a usuarios con suscripciones de pago. Sin embargo, esta medida resultó insuficiente ante la magnitud del reclamo global y la gravedad de los casos que involucraban a menores.

La polémica destaca la tensión permanente entre la innovación tecnológica desregulada y la necesidad de establecer salvaguardas éticas y legales. Mientras chatbots como ChatGPT, Gemini o Meta AI también pueden generar contenido, el tono “abiertamente irreverente” que promueve la IA de Musk, según señalan los análisis, colocó a Grok en el centro de la tormenta. La decisión final de X marca un retroceso forzado en sus funcionalidades, impuesto por la presión regulatoria y social en múltiples países.