Una startup entró con agentes de IA a sistemas de Anthropic en 12 horas

Cathedral, una startup de ciberseguridad fundada por ex integrantes del Servicio Digital de Estados Unidos conocido como DOGE, dice que sus agentes de inteligencia artificial hallaron en menos de 12 horas caminos hacia sistemas internos de Anthropic, la empresa que desarrolla Claude, según The Washington Post, que revisó un borrador del informe de Cathedral. Anthropic confirmó un acceso limitado a sistemas de ventas, recursos humanos y tecnologías de la información (TI), pero discute la gravedad del hallazgo. La prueba fue autorizada y se hizo dentro del programa de Anthropic que invita a expertos externos a vulnerar sus sistemas a cambio de recompensas.

Qué dice Cathedral

Según el borrador, los investigadores entraron explotando fallas en programas empresariales de terceros que Anthropic y muchas otras compañías usan para tareas administrativas y de ventas. El Post no informa cuántas fallas fueron ni de qué tipo, y no nombra a los proveedores. Gizmodo y Decrypt tampoco. Los agentes encontraron rutas hacia transcripciones de reuniones, datos de salarios y ofertas de empleo, y mensajes de Slack sobre modelos avanzados de IA.

El informe sostiene que ese resultado "revela una brecha seria" entre las capacidades ofensivas que están surgiendo y las defensas, y que las debilidades del software empresarial común "pueden comprometer la infraestructura incluso de las organizaciones más avanzadas". También afirma que los accesos a datos "se mantuvieron al mínimo absoluto, de acuerdo con las mejores prácticas de la investigación de seguridad". Una vocera de Cathedral no hizo comentarios al Post.

Cathedral, con pocos meses de vida, vende herramientas de ciberseguridad con IA al gobierno estadounidense y a empresas. Según el Post, levantó 160 millones de dólares y está valuada en 1.400 millones; entre sus cofundadores, Gizmodo menciona a Gavin Kliger, Luke Farritor, Marko Elez y Jack Stein.

Qué dice Anthropic

Anthropic dijo que los investigadores accedieron a "un conjunto limitado" de sistemas de ventas, recursos humanos y TI, con datos de contacto comerciales de algunos clientes y socios y registros básicos de cuentas de usuario. No accedieron a conversaciones de clientes, respuestas de Claude, código fuente ni pesos del modelo, afirmó. Según Gizmodo, la empresa agregó que los investigadores habían pasado varios días intentando, sin éxito, vulnerar su software de forma directa.

La compañía contó que su monitoreo detectó parte de la actividad antes de que Cathedral la reportara y que cortó el acceso el mismo día, según Decrypt. Dijo también que no tiene evidencia de que alguien más haya explotado esas fallas, que desactivó el software afectado hasta que los proveedores confirmaron las correcciones y que informó a funcionarios federales.

Sobre la gravedad, Anthropic respondió que Cathedral exageró las "implicancias de seguridad nacional" de lo hallado, y que no cumplió del todo las reglas del programa porque no divulgó toda su actividad dentro de los sistemas. Ninguna de las fuentes consultadas detalla esas reglas. Cathedral, por su parte, dice en su borrador que limitó los accesos; las dos versiones sobre qué se debía informar y qué se informó siguen sin contrastarse, porque el informe de Cathedral no es público.

Las voces ajenas

Alex Stamos, director de seguridad de la información de Cognition, que revisó los hallazgos, dijo al Post que "encontraron algo grande" y que conectar aplicaciones de terceros es "un problema enorme para todos". Agregó que hay una brecha en cómo Anthropic gestiona a sus proveedores externos y que "podría haberlo hecho mucho mejor".

Un alto funcionario del gobierno de Donald Trump, bajo condición de anonimato, dijo que el informe circuló dentro del gobierno y despertó preocupación de seguridad nacional: "Si un grupo de chicos que acaba de fundar una empresa puede hacer esto, potencialmente los chinos no están lejos". Tres agencias federales contrataron a Cathedral recientemente, según el Post.

Para América Latina, las fuentes no dicen si los programas afectados se usan en la región ni quiénes son sus fabricantes, así que esta nota no afirma que haya empresas locales expuestas. Lo que sí queda a la vista, según Stamos, es que la puerta de entrada fueron aplicaciones corrientes de gestión y no los modelos de IA, un tipo de software que cualquier empresa conecta a sus sistemas. Falta que los proveedores salgan a la luz y que Cathedral publique su informe completo.