Anthropic liberó al público una IA que ella misma consideraba demasiado peligrosa

Una inteligencia artificial que la propia empresa calificó como “demasiado poderosa” ahora está al alcance de cualquiera. Anthropic lanzó Claude Fable 5, una versión pública de un modelo que en abril solo se probó en secreto. La compañía admite que el riesgo existe, pero asegura que los controles actuales son suficientes.

Claude Fable 5 deriva de Claude Mythos, un sistema que en abril se entregó solo a un grupo selecto de organizaciones para pruebas privadas. En ese momento, Anthropic advirtió que Mythos tenía capacidades avanzadas para trabajar sobre sistemas informáticos, al punto de poder ayudar a explotar o hackear computadoras. Ahora, Fable llega con salvaguardas, pero la empresa reconoce que liberar un modelo con ese nivel de capacidad implica riesgos y afirma que supera a cualquier otro sistema que haya puesto a disposición del público general.

¿Qué cambió para que ahora sea pública?

Fable y Mythos son, en esencia, variantes del mismo sistema. La diferencia está en las barreras de seguridad, el tipo de acceso y los límites aplicados a cada usuario. Para el público general, Anthropic eligió lanzar Fable con restricciones: permite usar un modelo más potente sin habilitar funciones que podrían ser peligrosas en manos equivocadas. En paralelo, Mythos 5 quedará disponible para un grupo reducido de especialistas en ciberseguridad y proveedores de infraestructura. La empresa planea ampliar ese acceso mediante un programa de confianza más amplio.

El lado oscuro del poder: más de 10.000 fallas críticas encontradas

Las organizaciones que ya probaron Mythos reportaron a Anthropic el descubrimiento de más de 10.000 fallas críticas de seguridad en sus propios sistemas. Ese dato muestra el potencial defensivo del modelo: puede ayudar a detectar vulnerabilidades antes de que sean explotadas por atacantes. Pero la misma capacidad explica el temor de muchos analistas. Una herramienta capaz de encontrar fallas críticas también podría ser utilizada para acelerar ataques, automatizar tareas complejas o reducir la barrera técnica para actores maliciosos.

La carrera de la IA y el debate por los límites

La presentación de Fable llega en un momento de fuerte competencia entre las principales compañías de inteligencia artificial. Anthropic, además, se encamina a convertirse en una empresa pública y su valuación privada se acercó a USD 1 billón. Mostrar modelos más potentes y con aplicaciones concretas refuerza su posición ante inversores. El caso también expone una discusión más amplia: quién decide cuándo una IA es demasiado poderosa para abrirse al público y qué controles deben aplicarse antes de su lanzamiento. El cofundador de Anthropic, Jack Clark, planteó la semana pasada otra preocupación: la industria avanza con mucha velocidad y no existen mecanismos claros para reducir el ritmo cuando sea necesario.