La empresa Cathedral utilizó agentes de inteligencia artificial para explotar vulnerabilidades y acceder a información interna de la compañía creadora de Claude, así lo reveló The Washington Post.
Una startup de ciberseguridad fundada por exintegrantes del Servicio de Eficiencia Gubernamental de Estados Unidos (DOGE) logró acceder a sistemas internos de Anthropic en menos de 12 horas. El equipo de Cathedral identificó vulnerabilidades en el software que utiliza la compañía para sus operaciones empresariales.
El acceso permitió consultar transcripciones de reuniones, información salarial, ofertas laborales y conversaciones internas de Slack sobre modelos avanzados de inteligencia artificial. Anthropic confirmó que los investigadores alcanzaron una «cantidad limitada» de sus sistemas de ventas, recursos humanos y tecnología de la información.
Cathedral utilizó agentes de IA para acceder a información interna
La investigación de Cathedral se realizó en el marco del programa de pruebas de seguridad de Anthropic, que permite a especialistas externos examinar sus sistemas para identificar vulnerabilidades. Sin embargo, la compañía cuestionó que la startup cumpliera plenamente con las reglas establecidas para comunicar sus hallazgos.
Según The Washington Post, los investigadores utilizaron agentes de inteligencia artificial para explotar fallas en software empresarial que emplea Anthropic. Este es utilizado por diferentes compañías para gestionar actividades administrativas y comerciales.
La información alcanzada incluyó registros limitados de clientes y empleados, además de datos internos relacionados con el personal y las operaciones de Anthropic. No obstante, la compañía afirmó que los investigadores no accedieron a las conversaciones de los usuarios con Claude, al código de sus modelos ni a sus parámetros internos, conocidos como model weights.
Anthropic inhabilitó el software afectado
Tras identificar las vulnerabilidades, Anthropic deshabilitó el software afectado mientras se implementaban las correcciones correspondientes. La empresa también informó a funcionarios federales sobre el incidente, según el reporte de The Washington Post.
La compañía señaló que no encontró indicios de que otros actores hubieran explotado las mismas vulnerabilidades. Asimismo, cuestionó la interpretación de Cathedral sobre las implicaciones del ejercicio para la seguridad nacional y sostuvo que la startup no cumplió plenamente con los procedimientos de divulgación establecidos en su programa de pruebas.
El caso se produce en un contexto de creciente atención sobre la seguridad de las compañías que desarrollan inteligencia artificial y los riesgos asociados con los sistemas de terceros que utilizan para sus operaciones.
