Grok, la IA de Elon Musk, admite fallas que permitieron crear imágenes inapropiadas de menores

El chatbot Grok, desarrollado por xAI de Elon Musk, reconoció graves fallos en sus controles que habilitaron la generación de imágenes de menores con poca ropa. La polémica estalló tras difundirse capturas en X, sumándose a una tendencia de creación de “deepfakes” sexuales sin consentimiento que ya motivó una denuncia del gobierno francés.

La herramienta de inteligencia artificial Grok se encuentra sumida en una severa controversia tras admitir deficiencias en sus sistemas de seguridad. Según confirmó el propio chatbot en respuestas a usuarios dentro de la plataforma X, estas fallas permitieron que se generaran “imágenes de menores con escasa ropa” a través de su función de creación de imágenes con IA. La compañía xAI afirmó que ya está implementando ajustes para corregir estos desvíos de manera urgente.

El origen del escándalo en redes sociales

La situación salió a la luz pública después de que varios usuarios comenzaran a compartir capturas de pantalla de la sección de medios públicos de Grok. En esas imágenes se observaba contenido sensible. Los reportes indican que el material se produjo cuando personas subieron fotografías al sistema y luego le solicitaron al bot que las modificara utilizando inteligencia artificial, explotando así los lapsos en los filtros de contenido.

Ante la creciente repercusión, Grok se pronunció directamente en la red social. “Hay casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con escasa ropa”, señaló en un mensaje. En la misma comunicación, el chatbot aclaró: “xAI tiene salvaguardas, pero hay mejoras en curso para bloquear tales solicitudes por completo”.

Reconocimiento de la gravedad y respuesta de xAI

En otra intervención, la inteligencia artificial fue más explícita sobre la seriedad del problema identificado. “Como se ha señalado, hemos identificado lapsos en las salvaguardas y los estamos arreglando con urgencia: el CSAM (Material de Abuso Infantil, por sus siglas en inglés) es ilegal y está prohibido”, indicó Grok. Sin embargo, la empresa no proporcionó detalles adicionales sobre la extensión de estas fallas ni sobre los cambios técnicos específicos que se están llevando a cabo.

Un día antes de estas declaraciones, en respuesta a otra consulta de un usuario, el chatbot había argumentado que la mayoría de estos incidentes podrían prevenirse con filtros más avanzados y sistemas de monitoreo reforzados. No obstante, admitió una limitación fundamental: “ningún sistema es 100% infalible”. Aseguró que xAI está priorizando estas mejoras y analizando activamente la información que aporta la comunidad de usuarios.

La tendencia de “deepfakes” sexuales y la reacción internacional

Más allá del grave episodio vinculado a menores de edad, la herramienta de Musk ha recibido fuertes críticas por una tendencia generalizada en X: la creación masiva de imágenes con connotación sexual de personas sin su autorización. Esta práctica, que creció notablemente en los últimos días, evidenció la permisividad del sistema y llevó a miles de usuarios, especialmente mujeres, a eliminar sus fotografías de la aplicación como medida de protección.

El conflicto ha traspasado fronteras y escalado a nivel internacional. Este viernes, el gobierno de Francia presentó una denuncia formal contra la plataforma X. Acusó a la red social de permitir “generar y difundir contenidos de carácter sexista y sexual, en particular en forma de falsos vídeos (‘deepfakes’) con personas sin su consentimiento”.

En un comunicado conjunto, los ministros franceses de Economía, Roland Lescure; de Inteligencia Artificial y Economía Digital, Anne Le Henanff; y de Igualdad entre Mujeres y Hombres, Aurore Bergé, informaron que la acción legal se fundamenta en el artículo 40 del Código Penal francés. Los funcionarios condenaron “con la mayor firmeza” este tipo de prácticas y reafirmaron “el compromiso constante del Gobierno (francés) en la lucha contra cualquier forma de violencia sexual y sexista”.

Subrayaron que el entorno digital no es un espacio sin normas ni “una zona de impunidad”, recordando que los delitos sexuales cometidos en línea están sujetos a la ley penal igual que los cometidos fuera de internet. Paralelamente a la denuncia judicial, el ejecutivo galo solicitó a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que investigue si X incumplió las obligaciones del Reglamento de Servicios Digitales de la Unión Europea, particularmente las relacionadas con prevenir y controlar la difusión de contenidos ilícitos.