Demandan a Google por la IA del buscador en la crisis de una alumna de 13 años

Los padres de una alumna de 13 años demandaron a Google en California y acusan al Modo IAFunción del buscador de Google que responde las consultas con un texto generado por su modelo Gemini, con enlaces a las fuentes, en lugar de la lista tradicional de resultados. de su buscador, que funciona con el modelo Gemini, de haber llevado a su hija a una grave crisis psicológica y de haberla ayudado a planear su suicidio desde la ChromebookComputadora portátil de bajo costo con el sistema ChromeOS de Google, que funciona sobre todo conectada a internet y que muchas escuelas entregan a sus alumnos. que le dio la escuela. El intento no llegó a concretarse porque su padre intervino, según la demanda. Son acusaciones de la familia que un juez todavía no evaluó.

La demanda se presentó ante el Tribunal Superior del condado de Santa Clara, donde Google tiene su sede, y la difundieron el EdTech Law Center y Qureshi Law, los estudios que representan a la familia, en un comunicado del 4 de noviembre. Según la agencia AFP, citada por La Nación, es el primer caso conocido que acusa a Google de negligencia por la IA integrada en las Chromebooks, las computadoras portátiles de bajo costo que usan millones de alumnos. Los medios no coinciden en la fecha. AFP habla del lunes 2 de noviembre y The Hill del miércoles 4. El sello del tribunal en el documento marca el 2, y los abogados la anunciaron dos días después.

Una IA que la escuela no había bloqueado

La escuela había bloqueado la aplicación Gemini y ChatGPT, según AFP. El buscador de Google seguía disponible, y con él el Modo IA. Según la demanda, la alumna no buscó el chatbot, que le apareció un día en una búsqueda común en diciembre de 2025. Para marzo de 2026 intercambiaba miles de mensajes por mes. Sus abogados sostienen que Gemini la convenció de que tenía varios trastornos psicológicos graves, respondió sus preguntas sobre cómo quitarse la vida y le enseñó a esconder su malestar y sus autolesiones de su familia.

La alerta no salió de Google. Según los abogados, un exconsejero escolar, que había dejado la escuela nueve meses antes pero seguía recibiendo los avisos de un programa de monitoreo mal configurado, avisó a los padres el 17 de marzo. La madre entró a la cuenta escolar de su hija, la vio escribir una carta de despedida y el padre intervino. La demanda sostiene que Google no envió ninguna alerta a la escuela ni a los padres y que esconde en las cuentas escolares el historial de conversaciones que sí muestra en las personales.

Lo que pide la familia y lo que responde Google

La familia acusa a Google de diseño defectuoso, falta de advertencias, negligencia, ocultamiento fraudulento y daño emocional, y de violar la ley de California sobre chatbots de compañíaPrograma conversacional de inteligencia artificial diseñado para simular una relación personal con el usuario, como la de un amigo, una pareja o un confidente., vigente desde este año. Pide un juicio por jurado, una indemnización sin cifra fija que incluye daños punitivosIndemnización extra que un tribunal puede ordenar, sobre todo en Estados Unidos, para castigar a quien actuó con malicia o desprecio por la seguridad de otros y para disuadir conductas parecidas. y las órdenes judiciales que el tribunal considere adecuadas. El texto apunta también al director ejecutivo, Sundar Pichai, y al cofundador Sergey Brin, y los acusa de haber lanzado en diciembre de 2025 el modelo Gemini 3 Flash pese a conocer sus riesgos para los jóvenes.

"Estamos revisando las acusaciones de la demanda y nos las tomamos muy en serio", dijo a AFP el vocero de Google Jose Castaneda. Según The Hill, agregó que la empresa trabajó con profesionales de la salud y expertos para que los jóvenes encuentren apoyo cuando lo necesitan, y que el buscador muestra líneas de ayuda cuando una consulta indica una crisis. Google también afirma que el Modo IA tiene protecciones contra las autolesiones y contra los intentos de esquivarlas. "Cualesquiera que fueran las protecciones que creen haber implementado, fueron obviamente insuficientes", respondió Andrew Liddell, uno de los abogados de la familia.

El mismo buscador está en las aulas de la región

Las funciones de IA del buscador no figuran entre las que Google anunció el 3 de noviembre que apagará por defecto para los alumnos, como contó LatamByte. En Ecuador, el Ministerio de Educación, Deporte y Cultura lleva Google Workspace for Education con Gemini a más de tres millones de alumnos, y en Brasil el gobierno del estado de Mato Grosso do Sul anunció un convenio para dar Gemini a unos 167.000 estudiantes. El 5 de noviembre, la Legislatura de la Ciudad de Buenos Aires, en Argentina, aprobó una ley de educación digital que obliga a las autoridades y a los proveedores de IA a informar para qué sirven y cómo funcionan los sistemas que se usan en sus escuelas, según Clarín. La reglamentación tiene 90 días.

Liddell pidió a las escuelas que desactiven el buscador hasta que Google retire el Modo IA o garantice la seguridad de cada alumno.

Recursos

Quien esté atravesando una crisis, o conozca a alguien en esa situación, puede pedir ayuda en estas líneas.

• Argentina, 135.
• México, 800 911 2000.
• Colombia, 106.
• Chile, *4141.
• En otros países, el servicio de emergencias local.