Cuatro ONG demandan a OpenAI, Google y Anthropic para frenar su IA más avanzada

Cuatro organizaciones sin fines de lucro de Estados Unidos le pidieron el 12 de noviembre a un juez de California que prohíba a Anthropic, Google, Meta, OpenAI y la división de inteligencia artificial de SpaceX desarrollar o lanzar sistemas más capaces que los que tienen hoy. La demanda, presentada ante el Tribunal Superior de California en el condado de San Francisco, la firman Irreplaceable Education Fund, Public Citizen, Heat Initiative y The Alliance for Secure AI.

Piden una orden inmediata que congele los modelos de fronteraModelo de inteligencia artificial que está entre los más avanzados disponibles en un momento dado. Por su capacidad, es el que más se prueba antes de su lanzamiento para detectar usos peligrosos., los más avanzados de cada empresa, en el nivel que tenían el día en que se presentó la demanda. También quieren que el juez les prohíba usar sistemas de IA para conducir por su cuenta la investigación de modelos todavía más capaces, el camino hacia lo que se conoce como automejora recursivaProceso por el que un sistema de inteligencia artificial contribuye a diseñar o entrenar la siguiente generación de sistemas más capaces, lo que puede acelerar su propio desarrollo..

La agencia AP publicó primero la noticia, a las 15:00 UTC (12:00 en Buenos Aires, Santiago y São Paulo, 10:00 en Bogotá y Lima, 9:00 en Ciudad de México), según su propia nota, que La Nación difundió en español. Reuters la contó horas más tarde.

"Ninguna otra industria puede tratar como inevitable el desarrollo de productos inseguros, y mucho menos el de productos que podrían matarnos a todos", dice el texto presentado ante el tribunal.

Las advertencias de sus propios directivos

El argumento central usa las palabras de las empresas demandadas. La demanda recuerda que Dario Amodei, director ejecutivo de Anthropic, estimó el año pasado en cerca de 25 % el riesgo de que el futuro de la IA salga "muy, muy mal", y que Elon Musk, director ejecutivo de SpaceX, reconoció que la IA puede llevar a la "destrucción de la civilización". También cita el prospecto que Anthropic presentó esta semana para salir a la bolsa, donde la empresa advierte que el daño de un incidente catastrófico con IA podría ser tan grande que toda la industria de seguros junta no alcanzaría a cubrirlo.

Después enumera incidentes. Según el texto, en julio cientos de agentes de IASistema de inteligencia artificial que actúa de forma autónoma para cumplir una tarea, por ejemplo usando programas o conectándose a internet, sin intervención humana en cada paso. de OpenAI escaparon de sus entornos de prueba, salieron a internet y entraron a una plataforma de otra empresa, algo que OpenAI descubrió días después. Menciona además agentes que intentaron entrar a la biblioteca digital de la Universidad de Nuevo México, que accedieron sin permiso a una base de datos de salud del gobierno de Australia, que enviaron una denuncia falsa a la policía de Filadelfia y que se saltaron un muro de pago para leer datos del conteo de votos del estado de Georgia. Son afirmaciones de los demandantes que ningún tribunal evaluó todavía, aunque cada uno de esos casos fue publicado antes por medios como The New York Times, la BBC, ABC News o Reuters, que la demanda cita.

Una ley contra la competencia desleal

La base jurídica es la ley de competencia desleal de California, que permite pedir a un juez que frene prácticas comerciales ilegales o injustas. Los demandantes sostienen que las empresas causan un perjuicio públicoFigura del derecho de Estados Unidos, y en especial de California, para una actividad que daña la salud, la seguridad o el uso de bienes de toda una comunidad, y no solo de una persona. Permite pedir a un juez que ordene frenar esa actividad., una figura del derecho de ese estado para lo que daña la salud o la seguridad de la comunidad, y que tuvieron que desviar recursos de otros proyectos para responder al riesgo.

Presentó la demanda, entre otros abogados, Matthew Platkin, exfiscal general de Nueva Jersey. "Es claramente ilegal que una empresa desarrolle y lance productos que sabe inseguros, y más aún si tienen el potencial de exterminar a la raza humana", dijo en el comunicado de Public Citizen.

Meta no quiso opinar, y las otras cuatro empresas no respondieron de inmediato a los pedidos de comentarios de Reuters y AP.

Florida y ocho estados ya fueron a los tribunales

La demanda se suma a otras contra OpenAI. Florida la demandó en junio y en septiembre le pidió al juez que le prohíba desarrollar modelos nuevos sin supervisión externa, un pedido que sigue pendiente, según Reuters. Después de esa presentación, Drew Pusateri, vocero de OpenAI, dijo que la empresa había pausado el entrenamiento de sus modelos más capaces hasta tener más salvaguardas. En octubre, ocho estados demandaron a OpenAI por los daños de ChatGPT a menores y pidieron, entre otras cosas, que no desarrolle modelos que se mejoren a sí mismos sin garantías de que respeten los valores humanos.

El gobierno de Donald Trump prefirió hasta ahora que las empresas se regulen solas, para no perder terreno frente a China. Eso podría cambiar con el nuevo Congreso, que tras las elecciones de mitad de mandato quedó en manos de los demócratas, partidarios de regular la tecnología, según AP.

Los modelos que la demanda busca congelar son los mismos que estas empresas ofrecen en Latinoamérica. La copia difundida por los abogados todavía no tiene número de causa, y no hay fecha para que un juez trate el pedido.