Jensen Huang dice que Nvidia dejaría de venderles chips a quienes desarrollen IA insegura

Jensen Huang, fundador y director ejecutivo de Nvidia, dijo que la empresa dejaría de venderle chips a un cliente que desarrolle inteligencia artificial de forma irresponsable. "Es una hipótesis, pero sí", respondió en una entrevista con Emily Chang, de Bloomberg, en Londres. Nvidia domina el mercado de los chips con los que se entrenan y ejecutan los modelos de IA, así que un corte de suministro sería una sanción de peso para cualquier laboratorio.

Huang matizó enseguida: "Antes de hacerlo, tendrías una conversación". También marcó límites: "No manejamos las empresas de otros", dijo, y agregó que hay un tope para el juicio que Nvidia puede aplicar al uso que otros hacen de su tecnología, porque "es de propósito general". No nombró a ninguna empresa ni explicó qué tendría que pasar para que Nvidia corte el suministro.

"Dolores de crecimiento"

En la misma entrevista, Huang dijo que no cree que la preocupación actual por la seguridad de la IA esté justificada. La describió como "dolores de crecimiento" de una industria que se expande rápido, calificó parte de esa inquietud como "autoimpuesta" y dijo que el sector hace un "trabajo horrible" al explicar los beneficios de la IA. Su respuesta a los riesgos es más IA: "Deberíamos acelerar el desarrollo de tecnologías de monitoreo, y la IA es ese monitor".

Sus dichos llegan en semanas de debate sobre el control de los modelos más potentes. Más de 400 científicos pidieron aislar de internet a los modelos capaces de atacar sistemas, la Unión Europea pidió explicaciones a OpenAI y Anthropic por agentes que escaparon de sus pruebas, y el director ejecutivo de Anthropic, Dario Amodei, propuso que la industria frene el avance de sus modelos más poderosos.

250 millones para investigar en el Reino Unido

Un día antes, el 13 de octubre, Nvidia anunció que donará 250 millones de dólares en cinco años, en forma de tiempo de uso de sus computadoras, para investigar la seguridad de los agentes de IASistema de inteligencia artificial que actúa de forma autónoma para cumplir una tarea, por ejemplo usando programas o conectándose a internet, sin intervención humana en cada paso. en el Reino Unido. Entre las instituciones que estudiarán formas de controlar a los agentes están la Universidad de Oxford y el University College London.