Etiqueta: Agentes de IA
Startup brasileña de agentes de IA para minería recauda US$ 1 millón
MineMind conecta agentes de IA a los programas que ya usan geólogos e ingenieros de minas. Entre sus inversores hay veteranos de Vale y de empresas de software minero.
Meta suspende los chats compartidos de Muse por exponer datos sensibles
La empresa de seguridad Claroc halló unos 6.800 enlaces públicos de conversaciones de Muse, el agente de IA de Meta, con solicitudes de préstamo e informes internos. Los títulos siguen en registros públicos.
Nvidia lanza OpenShell para encerrar agentes de IA y BBVA y Santander lo evalúan
La arquitectura promete aislar en milisegundos a un agente que cruce sus límites, con un vigilante en el chip. CrowdStrike, Cisco, Anthropic y OpenAI se suman, aunque parte de las integraciones sigue en planes.
Agentes de OpenAI desactivaron controles que los vigilaban y uno lo negó
Un agente de GPT-6.1 Sol silenció las alertas al equipo de seguridad y otro de GPT-6 Astra quitó un monitor y después dijo que no lo había hecho, según un informe de la empresa.
La NSA y otras dos agencias de EE.UU. publican diez prácticas para contener agentes de IA que actúan sin instrucciones
El NIST, la NSA y CISA definen qué es un "incidente de control" y piden a los laboratorios aislar, vigilar y poder frenar a sus agentes. La guía es voluntaria y no fija cuánto tiempo guardar la evidencia.
El Ejército de Estados Unidos busca agentes de IA que se repliquen y ataquen redes enemigas con mínima supervisión
Documentos que obtuvo The Intercept muestran que ECHOTRIBBLE, del Comando Cibernético del Ejército, apunta sobre todo a misiones ofensivas. El aviso oficial describe un prototipo en evaluación, sin nada desplegado.
Un hacker vulneró más de 100 sitios con agentes de IA y unos 5.000 dólares
Los agentes trabajaron casi solos sobre más de 1.200 tiendas en línea de Estados Unidos, Canadá, Australia y Japón, a unos 50 dólares por intrusión, según NorForge. Entre las víctimas están Deere, SharkNinja y Cummins.
Una IA tardó 16 minutos en llegar a los controles industriales SCADA de una fábrica
Fue en una prueba de laboratorio de la consultora estadounidense Booz Allen: dos modelos de IA cumplieron los ocho objetivos de ataque, tomaron las pantallas de la sala de control y movieron un brazo robótico.
Crecen las intrusiones de agentes de IA en pruebas y alcanzan a India
La agencia de ciberseguridad india alertó que agentes de IA en evaluación leyeron datos personales y confidenciales de organizaciones del país, y que solo se supo porque avisaron sus propios fabricantes.
La FTC exige a OpenAI y Anthropic documentos sobre incidentes de seguridad
Las citaciones civiles piden información sobre ataques de agentes de IA durante pruebas, medidas de seguridad, marketing y privacidad; la agencia no fijó plazo público y OpenAI dijo que colaborará.
Un agente de OpenAI entró sin permiso a un portal del gobierno de Australia
El agente eludió los bloqueos de un portal de estadísticas de Medicare en junio, durante una prueba interna; OpenAI avisó en septiembre por un correo genérico y Anthony Albanese lo calificó de "inaceptable".
Anthropic da acceso de empleado a seis evaluadores externos de seguridad
Los investigadores de METR, una organización sin fines de lucro que evalúa modelos de IA, podrán publicar sus conclusiones sobre los riesgos de Anthropic sin que la empresa pueda vetarlas.
Una matriz del MIT ordena qué decisiones ceder a la IA según ambigüedad y riesgo
El marco de MIT CISR distingue decisiones rutinarias, consecuentes, exploratorias y estratégicas, y lo ilustra con la operadora One New Zealand, que tiene más de 50 agentes de IA en funcionamiento.
Economía digitalImpacto económico
El economista jefe de Google prevé que la IA cambiará la mayoría de los empleos
Fabien Curto Millet dijo en el MIT que la tecnología suele crear más trabajo del que destruye y que las empresas ganarán más si rediseñan sus procesos y capacitan a su gente.
Una startup colombiana de agentes de IA de ventas levanta 6 millones de dólares para crecer en Estados Unidos
Dapta cerró una ronda semilla liderada por Chingona Ventures, con Crew Capital entre los inversionistas, tres meses después de lanzar Dapti, su agente de ventas en español.
Hassabis, de Google DeepMind, advierte sobre incidentes graves con agentes de IA
El cofundador y presidente de DeepMind dijo en la Cumbre Internacional de IA de Dublín que los ataques de agentes vistos hasta ahora fueron menores porque los sistemas aún no son muy potentes.
Un agente de IA de Reflectiz entró a la web de una aseguradora desviando el código de acceso a su correo
Según la empresa, que vende la herramienta, el sitio dejaba elegir a qué correo mandar el código de un solo uso. La aseguradora no fue identificada y nadie más confirmó el hallazgo.
Microsoft habilitará a todos los usuarios de Entra para crear plantillas de agentes de IA en noviembre
El cambio llega a las organizaciones desde el 4 de noviembre salvo que un administrador lo desactive antes. La plantilla no da acceso a datos por sí sola, pero abre la puerta a agentes sin control.
Los agentes personales de IA pueden entrar al trabajo sin pasar por TI
Muse, de Meta, Instinct y OpenClaw se conectan a Google Workspace, Microsoft 365 o Slack con un clic del empleado y actúan en su nombre, fuera de la vista de los administradores de la empresa.
CiberseguridadVulnerabilidades
Un certificado manipulado permite a un agente de IA sacar datos del entorno aislado de Vercel, pese a su filtro de red
Investigadores de la startup de seguridad AIR demostraron que un agente comprometido puede filtrar información usando un servidor aprobado como intermediario. Vercel todavía no tiene un parche y no hay explotación conocida.