Un grupo no autorizado logró acceder a Claude Mythos, el modelo de ciberseguridad de Anthropic diseñado exclusivamente para investigadores seleccionados. The Verge informó que la filtración comprometió el acceso al modelo, que tiene capacidades avanzadas de análisis de vulnerabilidades y fue descrito por Mozilla como equivalente a ‘los mejores investigadores de seguridad humanos’. Anthropic confirmó la brecha y la calificó internamente como un incidente grave.

¿Cómo ocurrió la filtración?

Los detalles técnicos de cómo el grupo no autorizado accedió a Mythos no fueron divulgados completamente. Según The Verge, el acceso comprometido no llegó al modelo de producción completo sino a una versión Preview de acceso restringido. Anthropic habría desactivado las credenciales comprometidas tan pronto como detectó el acceso no autorizado.

¿Qué riesgos implica?

Un modelo especializado en encontrar vulnerabilidades de software en manos de actores maliciosos es una herramienta potencialmente devastadora. La misma capacidad que permitió a Mythos encontrar 271 bugs en Firefox podría usarse para identificar vulnerabilidades explotables en software crítico antes de que los equipos de seguridad puedan parchearlas.

La paradoja de las herramientas de seguridad de IA

Este incidente ilustra la paradoja central del desarrollo de IA para ciberseguridad: las mismas capacidades que hacen a un modelo útil para defenders lo hacen peligroso en manos de atacantes. Anthropic enfrenta la presión de distribuir estas herramientas para hacer el software más seguro, mientras gestiona el riesgo de que caigan en manos equivocadas.

La seguridad en entornos con IA es una prioridad creciente. En Octopus Agencia Digital podemos asesorarte en Octopus Agencia Digital.