Anthropic abre FlashProve, un prototipo que prueba qué modelo dio una respuesta

Anthropic publicó FlashProve, un prototipo de código abiertoSoftware cuyo código fuente se publica con una licencia que permite a cualquiera leerlo, usarlo, modificarlo y redistribuirlo, según las condiciones de esa licencia. que genera una prueba criptográfica de que una respuesta salió de un modelo de inteligencia artificial determinado, sin revelar los pesos de ese modelo. El artículo de investigación lleva fecha del 2 de noviembre y la empresa lo anunció en X el 3 de noviembre a las 20:10 UTC (17:10 en Buenos Aires, San Pablo y Santiago, 16:10 en Caracas, 15:10 en Bogotá y Lima, 14:10 en Ciudad de México). El precio de esa garantía es alto: generar la prueba lleva entre 70 y 95 veces el tiempo de cómputo que lleva producir la respuesta.

Pagar por un modelo y no saber cuál responde

Quien usa un modelo a través de una interfaz de programación (APISigla en inglés de interfaz de programación de aplicaciones: conjunto de reglas que permite que un programa le pida datos o funciones a otro de manera estandarizada.) recibe texto y nada más. No tiene forma de comprobar que respondió el modelo que pidió y pagó. Anthropic lo plantea con casos concretos. Un servicio intermediario que reparte los pedidos podría cambiar en secreto el modelo caro por uno más barato. Un atacante que toma un servidor podría alterar las respuestas. Y un evaluador independiente no puede confirmar que el modelo que revisó antes del lanzamiento es el mismo que después atiende a los clientes. "Juzgar solo por la respuesta del modelo no es confiable, aunque produzca respuestas de alta calidad", escribió el equipo.

FlashProve usa un zkSNARK, la sigla en inglés de un tipo de prueba de conocimiento ceroMétodo criptográfico que permite demostrar que algo es cierto, por ejemplo que un cálculo se hizo bien, sin revelar los datos usados para hacerlo. breve y rápida de verificar. Es un certificado matemático corto que convence a quien lo revisa de que un cálculo se hizo bien sin mostrarle los datos secretos con los que se hizo. El proveedor publica primero un compromiso, una especie de huella digital que fija un conjunto exacto de pesos sin revelarlos. Después, con cada respuesta, entrega una prueba de que esos pesos, con esa pregunta, producen exactamente ese texto. Si el proveedor hizo trampa, la verificación falla, salvo con una probabilidad que el repositorio del proyecto calcula como ínfima.

Números de laboratorio

Anthropic probó el sistema con Llama 4 Maverick, un modelo abierto de Meta de 400.000 millones de parámetros, en una versión pública comprimida. Con una sola placa gráfica H100 de Nvidia y 24 núcleos de procesador, genera pruebas a unos 110 tokensUnidad mínima de texto que procesa un modelo de lenguaje, como una palabra, parte de una palabra o un signo. Se usa para medir cuánto lee y escribe un modelo y para cobrar su uso. por segundo (los fragmentos de texto con los que trabajan los modelos). Cada prueba pesa unos 19 megabytes por pedido de hasta 1.024 tokens y se verifica en unos 17 segundos en una computadora común, sin placa gráfica, según Help Net Security. Frente a vLLM, un programa abierto muy usado para servir modelos, el sobrecosto fue de unas 72 veces en promedio y de 94 en la carga más alta probada, según el detalle que publicó MarkTechPost.

FlashProve no verifica hoy respuestas de Claude. Solo se probó con el modelo de Meta, cuyos pesos no vienen en el paquete, y Anthropic no anunció planes para usarlo en sus productos. El repositorio, publicado con licencia abierta Apache 2.0, se presenta como "un artefacto de investigación", sin mantenimiento y sin aceptar contribuciones. La empresa aclaró que su meta pública de verificar su propio tráfico la cumplió con otro proyecto, que firma las respuestas y las vuelve a calcular en un servidor de confianza.

Los límites los enumera la propia Anthropic. El sistema prueba contextos de hasta 1.024 tokens, lejos de los cientos de miles que manejan los asistentes actuales. Solo funciona con modelos de mezcla de expertosmezcla de expertos (MoE) Arquitectura de modelos de inteligencia artificial que divide la red en subredes especializadas y activa solo algunas para cada parte del texto, lo que reduce el cómputo necesario. (MoE), en los que cada palabra activa una parte del modelo, y con la forma más simple de generar texto, que siempre elige la palabra más probable. Oculta los pesos pero no la arquitectura. Y la empresa no garantiza que el artículo, la versión formal escrita en Lean (un lenguaje para demostraciones matemáticas) y el código rápido digan exactamente lo mismo.

El trabajo es del Frontier Red Team, el equipo de Anthropic que estudia los riesgos de los modelos más avanzados, con investigadores de la Escuela Politécnica Federal de Lausana (EPFL), el MIT y StarkWare. Según el artículo, Claude produjo buena parte de las mejoras técnicas y escribió la especificación del protocolo.

Leyes que piden auditar sin decir cómo

Cuando una empresa o un organismo contrata un modelo a través de una nube, un integrador o un revendedor, hoy depende de la palabra de cada eslabón. Ese es el eslabón que FlashProve apunta a volver verificable, y sobre esa misma cadena ponen la mira dos proyectos de ley de la región.

En Brasil, el proyecto de ley 2338/2023, que el Senado aprobó en diciembre de 2024 y que espera el dictamen del relator en una comisión especial de la Cámara de Diputados, define como "distribuidor" a quien pone un sistema de IA a disposición de terceros y le exige verificar que cumple las medidas de gobernanza antes de ofrecerlo. El texto fija la auditabilidad como principio durante todo el ciclo de vida y pide, para los sistemas de alto riesgo, herramientas que registren su funcionamiento.

En Chile, el proyecto que regula los sistemas de IA, que la Cámara de Diputados despachó al Senado en octubre de 2025, alcanza a proveedores e implementadores nacionales y extranjeros, y a importadores y distribuidores con domicilio en el país.

Ninguno de los dos textos menciona pruebas criptográficas, y ninguno es ley todavía. Con un sobrecosto de 70 a 95 veces, exigirlas hoy sería impracticable. Anthropic publicó el código para que otros lo abaraten, y la pregunta queda para cuando lo logren, si un regulador de la región aceptaría una prueba matemática como forma de auditar qué modelo se sirvió.