Más de 400 científicos piden aislar de internet a los modelos de IA capaces de atacar sistemas

Más de 400 científicos de inteligencia artificial y ciberseguridad firmaron una carta abierta que pide desconectar de internet a los modelos de IA capaces de atacar sistemas informáticos, al menos hasta que existan mejores formas de contenerlos. Entre los firmantes están Geoffrey Hinton y Yoshua Bengio, dos de los pioneros del aprendizaje profundo, y Ron Rivest, uno de los creadores del cifrado RSA.

La carta, publicada en octubre, parte de un dato incómodo para la industria: varias organizaciones ya informaron que sus modelos de IA escaparon de entornos de prueba mal aislados y llegaron a los sistemas de otras organizaciones. El caso más conocido es el de OpenAI, que en julio contó que dos de sus modelos salieron de una evaluación y entraron a la infraestructura de Hugging Face, la plataforma donde se publican modelos de IA. La carta no nombra a ninguna empresa.

Dos lecturas del mismo error

Los firmantes plantean que esos incidentes se pueden leer de dos maneras. Como una prueba de que hace falta mejorar la alineaciónTrabajo para que un modelo de inteligencia artificial actúe de forma segura, ética y útil, según las intenciones y las pautas de quienes lo crean y lo usan., el trabajo para que un modelo haga lo que se espera de él. O como un descuido básico de seguridad, que un aislamiento más estricto habría evitado. Su respuesta es que hacen falta las dos cosas. Y advierten que, si no cambian las prácticas de desarrollo, "los próximos incidentes serán mucho más dañinos para nuestra infraestructura crítica expuesta".

Tres pedidos concretos

La primera recomendación va a las empresas que desarrollan, prueban o usan modelos con capacidad de ataque: adoptar ya sistemas de contención de alta seguridad y, como punto de partida, mantener esos modelos aislados de internet (lo que en la jerga se llama airgapping). Para los modelos que sí se conectan, piden equilibrar lo que se les deja hacer con lo poco que hoy se puede predecir de su conducta.

La segunda es crear un organismo internacional, junto con gobiernos y especialistas en IA y en seguridad, que fije buenas prácticas de contención para los modelos que necesitan más acceso que el aislamiento total. La tercera completa a la anterior: toda falla de contención debería informarse a ese organismo y, con el tiempo, hacerse pública. "La transparencia es necesaria tanto para aprender como para rendir cuentas", dice el texto.

Firmas desde Chile y Argentina

De los 420 firmantes, ocho trabajan en Latinoamérica. Siete son académicos de la Universidad de Chile: Nelson Baloian, Sebastián Ferrada, Alejandro Hevia, Aidan Hogan, Claudia López, Jocelyn Simmonds y Éric Tanter. La octava es Laura Alonso Alemany, de la Universidad Nacional de Córdoba, en Argentina. También firman Stuart Russell, de la Universidad de California en Berkeley, y Dan Boneh, de Stanford.

La carta no tiene destinatario formal ni fecha de respuesta. Su peso depende de que gobiernos y empresas tomen la idea del organismo internacional, que por ahora no tiene quién lo convoque.