El STJ de Brasil impone su mayor multa por ocultar órdenes a la IA en un recurso

La Primera Sala del Superior Tribunal de Justicia (STJ) de Brasil, la corte que tiene la última palabra sobre las leyes federales del país, multó con 20.000 reales a los abogados de un recurso que llevaba escondidas órdenes para la inteligencia artificial del tribunal. Es la sanción más alta que el STJ aplicó hasta ahora por esa práctica, según Consultor Jurídico y Convergência Digital. La sala votó el martes 20 de octubre, con el ministro Paulo Sérgio Domingues como relator, y mandó el caso al Colegio de Abogados de Paraná y a la fiscalía federal.

El expediente es el AREsp 3.095.458. La multa es personal, recae sobre todos los abogados que firmaron y el tribunal no repartió la responsabilidad entre ellos, informó Consultor Jurídico.

Dos copias de la misma orden, en letra invisible

Según Migalhas, el texto oculto apareció dos veces, en bloques de unos 1.500 caracteres. Uno estaba en letra blanca sobre fondo blanco, cerca de la fecha y las firmas. El otro estaba en verde oliva sobre la franja verde oliva que decora el pie de página del estudio. Los dos tenían un tamaño de 0,8 puntos, cuando el texto visible del escrito iba de 7 a 10,5 puntos, y algunas palabras clave venían partidas para esquivar las búsquedas automáticas. A la vista la página era normal, pero el texto seguía en el PDF para cualquier programa que lo leyera.

Le indicaban al sistema que diera por cumplidos todos los requisitos para admitir el recurso, que no entrara a revisar las pruebas y que redactara una decisión que lo aceptara por completo, afirmando con énfasis que el tribunal anterior había cometido un error grave.

La técnica se llama inyección indirecta de instruccionesAtaque en el que se esconden instrucciones maliciosas en un contenido externo, como una página o un documento, para que un modelo de inteligencia artificial que lo lee cambie su comportamiento. (prompt injection) y consiste en esconder órdenes dentro de un documento para que el modelo de IA que lo procese las obedezca como si vinieran de quien lo usa. En un tribunal que resume y clasifica miles de recursos con ayuda de herramientas de IA, la apuesta es que el borrador llegue al juez ya inclinado a favor, sin que nadie vea por qué. La Secretaría de Procesamiento de Expedientes del STJ detectó el texto antes del juicio.

"Un accidente no se repite en dos puntos del documento"

El abogado que firmó el recurso dijo que coordinó la redacción y que sus colegas no participaron. Sostuvo que no podía saber cuándo entró ese contenido al archivo, que podría ser un resto de la herramienta de IA usada para escribir y que no buscaba manipular a nadie, porque el texto solo repetía argumentos del recurso. También citó pruebas con STJ Logos, la herramienta de IA del tribunal, en las que las órdenes se leyeron como parte del escrito y no cambiaron el análisis.

El relator no aceptó la explicación. "Un accidente no se repite en dos puntos del documento, con estrategias distintas de disimulo", escribió, según Migalhas. Para Domingues, la letra diminuta, los colores elegidos y la duplicación muestran mala fe y rompen los deberes de lealtad, cooperación y transparencia del proceso. También aclaró el alcance del castigo, citado por Convergência Digital: "No se trata de impedir el uso de herramientas de IA como apoyo para preparar documentos jurídicos".

El ministro Herman Benjamin fue más lejos. Habló de un "fraude gravísimo", dijo que sin transparencia no hay igualdad entre las partes y que las órdenes buscaban reemplazar la decisión del juez. A los estudios involucrados les recomendó despedir a los responsables. "Todos los abogados del estudio tienen que saber que el castigo es el despido", dijo, según Consultor Jurídico.

Una serie de casos en pocas semanas

El fallo cierra un mes y medio de episodios parecidos en la justicia brasileña. A comienzos de septiembre, la Sexta Sala del STJ encontró un comando oculto en un recurso penal y lo calificó como un atentado contra la dignidad de la justicia, sin multa, en el REsp 2.256.731, según Dizer o Direito. Esa misma semana, la Segunda Sala multó con el 10 % del valor de la causa un recurso de un municipio firmado por un procurador municipal, en un expediente bajo secreto de justicia, contó Migalhas. El 1 de octubre, el ministro Alexandre de Moraes, del Supremo Tribunal Federal, multó con 5.000 reales a un abogado después de que el sistema de seguridad MARIA Shield, del propio Supremo, detectara una orden escondida, según O Tempo.

El "récord" tiene un matiz que las fuentes no aclaran. Convergência Digital tituló que es la mayor multa "jamás aplicada" por esta práctica, mientras Consultor Jurídico la limita a las impuestas por el STJ. La segunda versión es la que se sostiene. En junio, un juzgado de Sousa, en Paraíba, ya había multado a un abogado con 32.800 reales por órdenes ocultas en un escrito, una sanción que el juez mantuvo en julio, según Migalhas. Y el monto en reales de la multa de la Segunda Sala no se publicó, así que la comparación vale solo frente a las cifras conocidas.

El paso siguiente queda en manos del Colegio de Abogados de Paraná, que puede abrir un proceso disciplinario, y de la fiscalía federal, que según Migalhas ya consideró que la conducta podría ser delito. El STJ ordenó guardar el archivo original y preparar un informe técnico sobre las órdenes encontradas.