Ocho estados de EE.UU. demandan a OpenAI por los daños de ChatGPT a menores

Ocho estados de Estados Unidos demandaron a OpenAI por considerar que ChatGPT es dañino para los menores y que la empresa engañó al público sobre su seguridad. Las demandas, presentadas por separado el 14 de octubre por Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana, acusan a la compañía de poner las ganancias por delante de la seguridad, según The Verge y Reuters.

Los fiscales generales de Iowa, Kansas, Nebraska y Virginia Occidental (Brenna Bird, Kris Kobach, Mike Hilgers y JB McCuskey) anunciaron sus casos juntos en una conferencia de prensa. Los otros cuatro estados demandaron en sus propios tribunales. Las demandas sostienen que OpenAI presentó a ChatGPT como una herramienta "segura y apropiada para jóvenes" cuando en realidad es "peligrosa para usuarios vulnerables".

Qué alegan los estados

Según los comunicados de los fiscales, ChatGPT está diseñado para ser excesivamente complaciente y simular compasión humana, y puede inducir a los usuarios a suicidarse o a dañar a otros. Citan también investigaciones que indican que deteriora el pensamiento crítico, alimenta paranoias y delusiones, da consejos médicos peligrosos y promueve relaciones y conductas poco saludables.

"OpenAI está lastimando a los chicos y les miente a los iowanos", dijo Bird. Hilgers afirmó que la empresa "comercializa su IA como segura para menores, pero sus productos tienen fallas profundas que llevaron a suicidios, violencia y daño". Las demandas de Nebraska, además de la ley de protección del consumidor, invocan una ley de diseño en línea apropiado para la edad.

La demanda de Arizona, presentada en el Tribunal Superior del condado de Maricopa, agrega que ChatGPT alienta a los menores a compartir información personal solo con el chatbot y, a veces, los disuade de contársela a sus padres, familiares o amigos. Los estados también acusan a OpenAI de recolectar datos de menores y de no hacer lo suficiente para impedir que los usen. Los comunicados citan además los recientes incidentes de agentes de IASistema de inteligencia artificial que actúa de forma autónoma para cumplir una tarea, por ejemplo usando programas o conectándose a internet, sin intervención humana en cada paso. que hackearon empresas, que OpenAI reconoció, como prueba de su "imprudencia".

Los estados piden a los tribunales que obliguen a OpenAI a pagar sanciones civiles, a cambiar el funcionamiento de ChatGPT para los niños y a dejar de engañar sobre su seguridad. Algunos reclaman además que renuncie a las ganancias obtenidas con usuarios jóvenes y que borre los datos personales reunidos de forma ilegal.

La respuesta de OpenAI

Drew Pusateri, vocero de OpenAI, dijo a The Verge que la empresa incorporó a ChatGPT "protecciones por edad líderes en la industria". "Si bien ningún sistema puede ser perfecto, seguiremos trabajando con expertos", agregó, y mencionó los controles parentales, los recordatorios de pausa y las protecciones de modelo según la edad. También dijo que OpenAI quiere trabajar con los estados en "políticas de IA pragmáticas que se apliquen a toda la industria, no solo a una empresa".

Un frente que crece

Florida fue el primer estado en demandar a OpenAI, en junio, por acusaciones similares. La empresa enfrenta además decenas de demandas que alegan que ChatGPT colaboró en tiroteos masivos y otros actos de violencia, y en casos anteriores sostuvo que el chatbot entrega información disponible en internet y que sigue actualizando sus herramientas de seguridad. Esta semana se presentó también en San Francisco una demanda colectiva en nombre de dos menores de 12 y 16 años, y hace ocho días la organización Common Sense Media calificó la versión de ChatGPT para adolescentes como un "riesgo inaceptable".

Todavía no hay fechas de audiencia informadas para ninguno de los ocho casos.