Anthropic propone una ley para que solo un juez pueda frenar modelos de IA

Anthropic, la empresa detrás del asistente Claude, presentó a legisladores de Estados Unidos un borrador de ley federal según el cual el gobierno solo podría frenar un modelo de inteligencia artificial con la orden de un juez federal, y solo ante riesgos catastróficos inminentes. Politico obtuvo el texto, que circula de forma confidencial entre equipos del Congreso, y lo publicó el 16 de octubre.

El borrador no fue presentado formalmente como proyecto. Un vocero de Anthropic dijo a Politico que refleja el Marco de IA Avanzada que la empresa promueve ante legisladores federales y estatales desde junio: "Son políticas sensatas sobre las que creemos que el Congreso debería actuar".

Un umbral alto para intervenir

La propuesta fija con precisión cuándo puede actuar el Estado. La intervención exige un riesgo previsible e inminente de más de 1.000 millones de dólares en daños o de más de 50 muertes o heridos graves. Y solo en tres escenarios: la creación o liberación de armas biológicas, un modelo que escapa al control de quien lo desarrolló o un ciberataque. Otros daños de la IA quedan fuera de este mecanismo.

El camino también está acotado. El Departamento de Comercio no podría suspender un modelo por su cuenta: tendría que pedírselo a un juez del Tribunal de Distrito federal para el Distrito de Columbia. El texto, además, prohíbe que cualquier otra agencia o funcionario federal suspenda el desarrollo, el lanzamiento o el uso interno de un modelo.

El control diario quedaría en manos de evaluadores independientes, registrados ante Comercio, que revisarían de forma periódica a las empresas y sus modelos. Podrían cobrarles a las mismas compañías que inspeccionan, siempre que el pago no dependa del resultado. Si detectan una amenaza inminente de las previstas, tendrían 72 horas para avisar al gobierno. Las empresas, por su parte, deberían tener marcos de seguridad, publicar informes de transparencia con cada modelo nuevo, proteger a quienes denuncien problemas desde adentro y reportar incidentes críticos.

La letra chica sobre los estados

El borrador desplazaría algunas reglas estatales y locales sobre divulgación pública de riesgos, auditorías externas y reporte de incidentes críticos, según Politico. El punto es sensible. En su marco de junio, Anthropic sostiene que el Congreso no debería anular las leyes de los estados salvo que apruebe un régimen federal riguroso, y que esa anulación tendría que ser estrecha. La empresa apoyó en 2025 la ley SB 53 de California, que ya exige a los desarrolladores de modelos de frontera publicar sus marcos de seguridad.

La disputa con los estados tiene otro frente en la Casa Blanca. La orden ejecutiva 14365, que Donald Trump firmó el 11 de diciembre de 2025, busca un marco nacional para la IA en lugar de 50 regímenes distintos y creó un grupo de trabajo en el Departamento de Justicia para impugnar leyes estatales que el gobierno considere excesivas.

Una propuesta entre varias

El texto de Anthropic llega a un debate con varios borradores en danza. En la Cámara de Representantes, Lori Trahan y Jay Obernolte impulsan la ley FRONTIER, que también habilita al gobierno a intervenir sobre modelos riesgosos y desplaza algunas normas estatales. En el Senado, el líder de la mayoría, John Thune, trabaja con Amy Klobuchar y Ted Cruz en un proyecto sobre riesgos catastróficos, mientras que la senadora Maria Cantwell y organizaciones de seguridad piden una revisión federal más fuerte. En el otro extremo, el representante Greg Casar y el senador Bernie Sanders reclamaron pausar el desarrollo de IA avanzada.

Lo que distingue a la propuesta de Anthropic es quién la escribe. Una de las empresas que serían reguladas define el límite de lo que el Estado podría hacer con sus modelos, con un juez como paso obligado. Que el Congreso tome ese texto como base, lo endurezca o lo ignore es la discusión que sigue.