OpenAI marcará con una huella invisible los textos de ChatGPT en Europa para cumplir la ley de IA

OpenAI empezará a agregar una marca de agua invisible a los textos que generan ChatGPT y Codex para los usuarios de la Unión Europea, en todos los planes. La empresa lo hace para cumplir las reglas de transparencia de la Ley de IA europea, vigentes desde el 2 de agosto, que obligan a marcar el contenido generado por inteligencia artificial para que otros sistemas puedan reconocerlo. El despliegue llegará en las próximas semanas, según TechCrunch.

Fuera de Europa no será la opción por defecto: desde el 5 de octubre, los desarrolladores de cualquier país que usen la APISigla en inglés de interfaz de programación de aplicaciones: conjunto de reglas que permite que un programa le pida datos o funciones a otro de manera estandarizada. pueden activarla en algunos modelos, pero viene apagada.

Cómo funciona

La marca no es un símbolo visible. El sistema, llamado textGrain, inclina de forma sutil la elección de palabras del modelo y deja un patrón que un detector puede reconocer. Una clave secreta ordena las predicciones de la palabra siguiente, y el detector usa el texto y esa clave para saber si lo escribió el modelo. El método está descrito en un informe técnico que OpenAI firmó con investigadores de la Universidad de Pensilvania y de Yale.

Según la empresa, la marca se mantiene al copiar y pegar, no identifica a quien usó ChatGPT y no cambió de forma apreciable el rendimiento del modelo.

Sus límites

• Se debilita con la edición. En una prueba de OpenAI, reemplazar el 10% de las palabras por sinónimos bajó la detección de alrededor del 92% al 66%.
• Cuesta más en ciertos textos. Los pasajes cortos, las respuestas de matemática y los textos traducidos son más difíciles de detectar.
• La ausencia no prueba nada. Un texto sin marca puede ser humano, demasiado corto, muy editado o de otra empresa de IA.
• No mide el trabajo humano. La marca puede indicar que un sistema de OpenAI generó o procesó parte de un pasaje, "pero no cuánto juicio humano" hubo detrás, aclaró la empresa.

El detector no será público por ahora: OpenAI dará acceso inicial "solo a investigadores y organizaciones expertas aprobadas".

No es la primera

Anthropic anunció en agosto que marcaría los textos de Claude en todo el mundo, lo que generó quejas de usuarios que sostienen que las instrucciones son suyas y que el modelo es solo la herramienta. En 2024 The Wall Street Journal había informado que OpenAI tenía una marca de agua para textos lista pero no la lanzaba, en parte por temor a que los usuarios se pasaran a competidores sin marca. Anthropic, Google, Meta, Microsoft y OpenAI se sumaron al código de prácticas de la UE sobre contenido generado por IA.