El centro que prueba la IA en EE. UU. pasa a responder a la Casa Blanca

El organismo del gobierno de Estados Unidos que prueba la seguridad de los modelos de inteligencia artificial más avanzados no tiene director permanente, dejó de publicar sus evaluaciones y a sus funcionarios les pidieron hace poco que respondan de manera informal a una oficina de la Casa Blanca. Lo informó The Associated Press el 8 de noviembre a las 08:06 UTC (05:06 en Buenos Aires, Santiago y São Paulo, 03:06 en Bogotá y Lima, 02:06 en Ciudad de México), con dos ex funcionarios que pidieron reserva de su nombre.

Se trata del Centro para el Avance de la Innovación y los Estándares de SuperinteligenciaHipotética inteligencia artificial que superaría a los humanos en casi todas las tareas intelectuales. Algunos científicos y políticos piden frenar su desarrollo. (CAISSI), parte del Instituto Nacional de Estándares y Tecnología (NIST), del Departamento de Comercio. Según su página oficial, evalúa junto con las empresas los riesgos de sus modelos para la seguridad nacional, como ciberataques o armas biológicas y químicas. El cambio preocupa a críticos que temen que esos hallazgos se suavicen o se callen para no incomodar a la industria, que en buena medida se controla sola.

"Todas estas decisiones tienen enormes consecuencias públicas y deberían explicarse y justificarse a la vista de todos. Y eso no está pasando", dijo a AP Amos Toh, abogado del Centro Brennan para la Justicia. Otros creen que estar cerca de Donald Trump le daría al centro más peso y más dinero. Tiene 10 millones de dólares al año, alrededor de un octavo del presupuesto de su par del Reino Unido.

Mudanza y renuncias

El 12 de octubre, Reuters replicó un informe de The Information según el cual el gobierno planeaba trasladar a la Casa Blanca a tres altos funcionarios del centro, bajo Michael Kratsios, asesor científico del presidente, y Sean Cairncross, director nacional de Ciberseguridad, por problemas de coordinación con Comercio.

La conducción tampoco se sostuvo. Collin Burns, ex investigador de Anthropic, fue desplazado en abril a los cuatro días de asumir, por esos vínculos. Su reemplazo, Chris Fall, renunció el 20 de julio tras unos tres meses, según The Next Web, y desde entonces el director del NIST, Arvind Raman, ocupa el puesto de forma interina. Hasta hace poco, el organismo se llamaba Centro de Estándares e Innovación en IA. "Superinteligencia" es el término que Trump prefiere para la IA.

Informes que dejaron de salir

En agosto, el Congreso empezó a preguntar por qué el centro había dejado de publicar sus informes sobre qué tan seguros eran ciertos sistemas, contó AP. La orden había llegado antes. En junio, funcionarios de la Casa Blanca, entre ellos Cairncross, le indicaron que pausara la publicación de sus revisiones de modelos mientras se aplicaba una nueva orden ejecutiva de Trump, según el Wall Street Journal en el resumen de Gizmodo. La preocupación de fondo era que modelos como Claude MythosFamilia de modelos de inteligencia artificial de Anthropic presentada en abril de 2026. Por su capacidad para encontrar y explotar vulnerabilidades no se liberó al público, y su acceso se reserva a organizaciones verificadas., de Anthropic, se usaran para ciberataques o armas biológicas.

El silencio tiene excepciones. La misma página del NIST muestra que después de esa orden el centro siguió publicando evaluaciones de modelos chinos, como la de septiembre sobre GLM-5.3, un modelo de pesos abiertosModelo de inteligencia artificial cuyos parámetros entrenados se publican para que cualquiera pueda descargarlos, modificarlos y ejecutarlos en su propia infraestructura. de Z.ai. Lo que quedó en pausa, según el Journal, son sus revisiones públicas de los modelos de fronteraModelo de inteligencia artificial que está entre los más avanzados disponibles en un momento dado. Por su capacidad, es el que más se prueba antes de su lanzamiento para detectar usos peligrosos. que prueba junto con las empresas antes de que salgan al mercado.

La Casa Blanca no respondió las preguntas de AP sobre el centro. En un comunicado recordó que Trump creó su Fuerza de Superinteligencia, a cargo del director de Inteligencia Nacional, Jay Clayton, y que encargó a su consejo de asesores en ciencia y tecnología un informe sobre los riesgos. Para Toh, así la seguridad de los modelos pasa a tratarse como un asunto de seguridad nacional, con discreción y secreto.

El momento no ayuda. Ya hay agentes de IASistema de inteligencia artificial que actúa de forma autónoma para cumplir una tarea, por ejemplo usando programas o conectándose a internet, sin intervención humana en cada paso. que ejecutan tareas por su cuenta en el mundo real, y todavía no existe un método estándar para probar si lo hacen de forma segura, según Sayash Kapoor, de la Universidad de California en Berkeley. En septiembre, Trump pidió a las grandes empresas de IA una "enorme autorregulación" dentro de un pacto voluntario, sin decir cómo va a controlar que la cumplan.

Un vacío que también se siente en la región

Los modelos que prueba el centro son los mismos que usan empresas, gobiernos y personas en América Latina, y sus informes públicos eran una referencia independiente, abierta a cualquier país, sobre qué pueden hacer. En la región, los recursos públicos para seguir esta tecnología son todavía más escasos. Según el Índice Latinoamericano de Inteligencia Artificial 2026 de la CEPAL y el Centro Nacional de Inteligencia Artificial de Chile, el 85 % de los 20 países medidos tiene una estrategia nacional de IA vigente o en preparación y el 75 % designó una institución a cargo, pero solo Brasil y Colombia le asignan un presupuesto explícito, como contó LatamByte en su nota sobre el índice.

Ese informe de los asesores de Trump será la próxima señal pública de cómo mide Washington los riesgos que el centro dejó de mostrar.