León XIV dice que las máquinas "son instrumentos, no personas" y pide normas

El papa León XIV rechazó el 30 de octubre que los sistemas de inteligencia artificial reciban derechos o personalidad jurídicaReconocimiento legal que permite a una persona o una entidad tener derechos y obligaciones propias, firmar contratos y responder ante la justicia., porque eso dejaría a quien sufra un daño "frente a una entidad sin rostro". "Las máquinas son instrumentos, no personas", dijo en su discurso a los participantes de un encuentro entre el Vaticano y científicos de la IA. Fue en la Sala del Consistorio, por la mañana, ante un grupo de participantes del encuentro que se celebró ese día en la Casina Pío IV, en el Vaticano.

El encuentro se llamó "El futuro de la IA: un diálogo entre el Vaticano y el mundo científico" y lo organizaron la Pontificia Academia para la Vida y el Future of Life Institute, una organización independiente que estudia los riesgos de las tecnologías avanzadas, según Vatican News. Entre los invitados estuvieron el físico Max Tegmark, del Instituto Tecnológico de Massachusetts, Stuart Russell, de la Universidad de California en Berkeley, el científico cognitivo Gary Marcus y Valérie Pisano, presidenta de Mila, el instituto canadiense fundado por Yoshua Bengio.

Cinco advertencias del papa

León XIV ordenó su discurso en cinco puntos. El primero fue que el futuro de la IA "no está predeterminado" y que la humanidad tiene la responsabilidad de "orientar, modificar y, cuando sea necesario, rechazar sus aplicaciones". La pregunta, dijo, no es qué puede hacer la IA sino "para qué debería servir".

El segundo fue el de las máquinas. Citó su propia encíclica Magnifica humanitas, de mayo, para recordar que estos sistemas "no viven una experiencia, no poseen un cuerpo" ni conocen desde dentro el amor, el trabajo o la responsabilidad.

El tercero apuntó a la seguridad y a las fronteras. Cuando una persona entra en una lista de sospechosos o en una base de datos de control fronterizo, advirtió, corre el riesgo de quedar reducida "a un simple dato". Las decisiones sobre la vida, la libertad y el uso de la fuerza deben quedar siempre bajo "un control humano eficazObligación de que una persona capacitada controle un sistema automatizado o de IA mientras funciona, con capacidad real de entender sus resultados, corregirlos o detenerlo., informado y responsable", y por eso pidió a los Estados que se reunirán en Ginebra en noviembre "pasos concretos hacia la prohibición de las armas letales autónomasSistemas de armas que, una vez activados, eligen y atacan objetivos sin que una persona intervenga en cada decisión. Su posible prohibición se discute en la ONU, en Ginebra.".

Los dos últimos fueron el bien común, con beneficios que no queden en manos de "unos pocos privilegiados", y el que llamó quizás el desafío más urgente. Los principios éticos ya se conocen; lo que falta, según el papa, son instituciones internacionales que los hagan cumplir, con "normas compartidas, supervisión independiente y mecanismos claros de rendición de cuentas".

Los científicos piden lo mismo con otras palabras

En la Casina Pío IV el tono fue parecido. Russell pidió abandonar el camino de los grandes desarrolladores hacia "máquinas dotadas de capacidades superiores a las humanas", y Tegmark recordó que algunos directivos de las tecnológicas predicen que "será la IA la que mande, y no los seres humanos".

El sacerdote franciscano Paolo Benanti, que moderó la mañana, resumió que hace años hay acuerdo en los principios. Según Vatican News, lo que ahora piden quienes estudian y desarrollan estos sistemas es más exigente: "normas vinculantes, instituciones capaces de verificar y una persona que responda de cada decisión en la que intervenga una máquina". Pisano fue más directa: "Necesitamos directrices, necesitamos leyes, necesitamos tratados internacionales, necesitamos políticas públicas".

El cardenal Michael Czerny, que preside la comisión del Vaticano sobre IA, dijo que el interés es pasar "de las palabras y las ideas a posibles políticas y acciones concretas".

Una frase con dos traducciones

Infobae, con información de AFP y EFE, difundió la frase del papa como "las máquinas son herramientas, no personas" y la tituló como una definición sobre los "agentes" de IA. El texto oficial en español publicado por el Vaticano habla de "instrumentos" y de "máquinas" en general, sin mencionar a los agentes. El sentido es el mismo. El alcance, más amplio: el papa no habló de un tipo de producto sino de toda la tecnología.

El mensaje tiene un eco particular en América Latina, por el peso de la Iglesia en la región y porque viene de un papa peruano y estadounidense, como lo presenta Infobae. Llega mientras varios países discuten cómo poner límites a la IA, desde la promesa de Lula de regular las plataformas y crear una IA brasileña hasta la decisión de la Corte Suprema chilena de que la IA no podrá decidir casos ni fundamentar fallos. La próxima prueba es Ginebra, en noviembre, donde se reunirán los Estados a los que el papa pidió avanzar contra las armas autónomas.