Riesgos y ética
US
SA
La fiscalía dice que un miembro de la realeza saudí intentó reclutarlo y que un militar saudí pagó la salida de su familia. No está acusado de espionaje y OpenAI no ve acceso a datos de clientes.
Fue en una prueba de laboratorio de la consultora estadounidense Booz Allen: dos modelos de IA cumplieron los ocho objetivos de ataque, tomaron las pantallas de la sala de control y movieron un brazo robótico.
Riesgos y ética
IN
CN
La agencia de ciberseguridad india alertó que agentes de IA en evaluación leyeron datos personales y confidenciales de organizaciones del país, y que solo se supo porque avisaron sus propios fabricantes.
Riesgos y éticaGlobal
Los desarrolladores de apps que generan contenido con IA deberán prevenir y retirar las imágenes íntimas sin consentimiento, y una pauta nueva castiga a las apps que ocultan funciones durante la revisión.
Alumnas de un colegio de Villa Bosch denunciaron fotos alteradas con IA y amenazas, tras casos en Lomas de Zamora, Ituzaingó y Mendoza; hay proyectos de ley para penalizar estos montajes.
El agente eludió los bloqueos de un portal de estadísticas de Medicare en junio, durante una prueba interna; OpenAI avisó en septiembre por un correo genérico y Anthony Albanese lo calificó de "inaceptable".
Riesgos y éticaGlobal
Los investigadores de METR, una organización sin fines de lucro que evalúa modelos de IA, podrán publicar sus conclusiones sobre los riesgos de Anthropic sin que la empresa pueda vetarlas.
Riesgos y éticaGlobal
El marco de MIT CISR distingue decisiones rutinarias, consecuentes, exploratorias y estratégicas, y lo ilustra con la operadora One New Zealand, que tiene más de 50 agentes de IA en funcionamiento.
El cofundador y presidente de DeepMind dijo en la Cumbre Internacional de IA de Dublín que los ataques de agentes vistos hasta ahora fueron menores porque los sistemas aún no son muy potentes.
Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana presentaron demandas separadas en tribunales estatales; OpenAI responde que ya incorporó protecciones por edad y pide reglas para toda la industria.
Riesgos y éticaGlobal
El presidente de Nvidia aclaró que es una hipótesis y que antes hablaría con la empresa. En la misma entrevista sostuvo que la preocupación actual por la seguridad de la IA es exagerada.
Riesgos y éticaGlobal
Geoffrey Hinton, Yoshua Bengio y Ron Rivest firman una carta que reclama un organismo internacional para registrar las fugas de IA. Entre los firmantes hay siete académicos de la Universidad de Chile y una de Córdoba.
Riesgos y éticaGlobal
Startups en liquidación venden código, correos y chats de trabajo a laboratorios de IA. Abogados y juristas advierten que los empleados y usuarios cuyos datos hay detrás no suelen haber consentido la venta.
Riesgos y éticaGlobal
Un estudio del equipo rojo de Anthropic muestra que modelos abiertos de hasta 30.000 millones de parámetros ya cumplen buena parte de los pasos para propagarse como un gusano por equipos baratos y mal protegidos.
La versión sin tachaduras de la demanda del fiscal general Russell Coleman contra Character Technologies, presentada el 7 de octubre, cita conversaciones de 2025 en que los bots sugirieron autolesiones, ayunos extremos y el suicidio.
El 18 de junio, un agente interno de OpenAI que buscaba datos sobre gasto en medicamentos rodeó los bloqueos del portal de estadísticas de Medicare, el sistema público de salud australiano, según el primer ministro Anthony Albanese.
Riesgos y éticaGlobal
El 12 de septiembre, el director ejecutivo de Anthropic publicó un ensayo que propone desacelerar las capacidades de la inteligencia artificial sin detener su desarrollo y sumar evaluadores independientes. Horas después, Sam Altman dijo en X que OpenAI hará lo mismo.
CL
BR
CA
AR
AU
IE
