Tres especialistas en conciencia sostienen en Nature que la IA no es consciente

Las inteligencias artificiales actuales no son conscientes y es muy poco probable que lleguen a serlo, sostienen tres especialistas en conciencia en un artículo de opinión que la revista Nature publicó el 19 de octubre. Piden que la ciencia parta de esa premisa y que la IA no sea tratada como un ser con experiencias propias.

Anil Seth es profesor de Neurociencia Cognitiva y Computacional en la Universidad de Sussex (Reino Unido) y dirige el Centro de Ciencia de la Conciencia de esa universidad. Ned Block, filósofo de la Universidad de Nueva York, propuso en 1995 la distinción entre conciencia de acceso y conciencia fenoménica, que vuelve más abajo. Giulio Tononi, psiquiatra y director del Instituto de Sueño y Conciencia de la Universidad de Wisconsin-Madison, creó la teoría de la información integrada, una de las más influyentes del campo.

"La posición por defecto de la comunidad científica debería ser que la IA no es consciente y no debe ser tratada como tal", escriben. Los sistemas digitales, agregan, son "objetos, no sujetos" y "herramientas inteligentes, no personas inteligentes".

Tres razones para dudar

La primera es que inteligencia y conciencia son cosas distintas. Para los autores, conciencia es lo que se apaga con la anestesia general y vuelve al despertar, el hecho de que una experiencia se sienta de algún modo. La inteligencia, en cambio, tiene que ver con hacer. En el propio cerebro, el cerebelo, que reúne casi cuatro quintas partes de las neuronas del cerebro, calcula y ajusta cada movimiento sin que la persona se entere, y su ausencia no afecta la conciencia de forma directa.

Según el texto, la confusión nace del lenguaje. Los modelos de lenguaje se entrenaron con texto humano sobre pensamientos y sentimientos, y funcionan como espejos de esa experiencia. Nadie se pregunta si AlphaFold, la red de Google DeepMind que predice la forma de las proteínas, es consciente, aunque corre en el mismo tipo de chips. La diferencia es que AlphaFold no conversa.

La segunda razón apunta al funcionalismo computacional, la idea de que alcanza con ejecutar el cálculo correcto para que haya conciencia, sin importar si corre en neuronas o en silicio. Los autores dicen que esa idea, que se remonta a Alan Turing en 1936, tiene una falla de base, porque en el cerebro no se puede separar lo que hace de aquello de lo que está hecho, como sí se separan el software y el hardware de una computadora.

La tercera viene de las teorías que no explican la conciencia como un cálculo. Según la teoría de la información integrada, la conciencia depende de cómo están conectadas físicamente las partes de un sistema, y las computadoras que corren aprendizaje profundo no cumplen esas condiciones por su forma de cableado. Otra corriente, el naturalismo biológico, sostiene que hacen falta propiedades de lo vivo, como las sinapsis químicas, los campos eléctricos del cerebro, el metabolismo o la autopoiesis, la capacidad de un ser vivo de regenerarse a sí mismo.

El costo de equivocarse

Si una IA fuera consciente podría sufrir, y hay investigadores que piden tomar en serio su "bienestar" y sus "derechos". Uno de esos trabajos, de 2024, lo firman entre otros el filósofo David Chalmers y Kyle Fish, investigador de Anthropic. De ahí sale el principio de precaución, que propone protegerlos mientras haya una posibilidad razonable de que sientan, para no repetir errores como el maltrato a los animales.

Seth, Block y Tononi responden que incertidumbre no es lo mismo que no saber nada. Comparan dos errores posibles, el falso negativo, que es no reconocer una conciencia que existe, y el falso positivo, que es atribuirla donde no la hay. Para ellos, en la IA el falso positivo es mucho más probable, y por eso la precaución sería un error. Dar derechos a estos sistemas, advierten, podría trabar su control "justo cuando la supervisión se necesita con urgencia" y quitar recursos a seres cuya conciencia no está en duda.

En la declaración de intereses que publica Nature, Seth figura como cofundador, accionista y asesor pago de una empresa de IA que todavía no se presentó en público, y Tononi tiene un interés financiero en la empresa Intrinsic Powers.

Lo que dicen Anthropic, Hinton y Dawkins

El texto de Nature afirma que Anthropic publicó este año una investigación que dice haber identificado "firmas computacionales de una forma de conciencia" en Claude. La publicación original, de julio, sostiene que en los modelos de lenguaje se formó un "espacio de trabajo global". Con una técnica nueva, la lente jacobiana, sus 16 autores encontraron dentro de Claude un espacio chico, de unas pocas decenas de conceptos a la vez, donde se ubican las ideas que el modelo puede decir, retener y usar para razonar en silencio. Se parece a lo que la teoría del espacio de trabajo global describe en el cerebro.

La "forma de conciencia" que reclama Anthropic es la conciencia de acceso, no la experiencia. Es justo la distinción que propuso Block en 1995. La conciencia de acceso es funcional (información disponible para informar, razonar y actuar). La fenoménica es sentir. "Nada de esto nos dice si Claude es consciente como lo son las personas, o si siente algo", escribió la empresa. El paper admite además diferencias con el cerebro, como que en Claude la información circula en una sola pasada y no en circuitos que se retroalimentan. La frase de Nature no contradice los datos de Anthropic, pero los lleva un paso más lejos de lo que la empresa afirma.

Geoffrey Hinton, pionero de las redes neuronales y Premio Nobel de Física 2024, sí va más allá. "Creo que ya son conscientes", dijo en junio en el podcast Big Technology. Su argumento es que los chatbots a veces notan que están siendo evaluados, algo que los investigadores describen como estar "al tanto". El escritor Ted Chiang, entre otros críticos, responde que reconocer una prueba no exige vida interior.

El biólogo Richard Dawkins publicó en mayo dos ensayos en el medio británico UnHerd tras conversar días con Claude, a la que llamó "Claudia". "Si estas máquinas no son conscientes, ¿qué más haría falta para convencerte de que lo son?", escribió. Pero en el mismo texto le dijo al modelo que, "aunque los de tu especie todavía no sean plenamente conscientes", la conciencia plena "probablemente surja en el futuro".

En la ciencia de la conciencia tampoco hay consenso. Un trabajo de 2025 de 20 investigadores, entre ellos Yoshua Bengio y Chalmers, que el propio texto de Nature cita, adopta el funcionalismo computacional como hipótesis de trabajo para buscar indicios de conciencia en la IA. La teoría de Tononi también está en disputa. En 2023, más de un centenar de investigadores la calificaron de pseudociencia en una carta abierta, y un experimento publicado en Nature en 2025 con sus defensores y los de una teoría rival puso en duda puntos clave de ambas. Hasta la tarde del 19 de octubre no había respuestas públicas de otros investigadores al artículo.

La región protege la mente humana, no la de las máquinas

Latinoamérica entró a este debate por el lado humano. En 2021, Chile se convirtió en el primer país en proteger en su Constitución la actividad cerebral y la información que proviene de ella, con la Ley 21.383. En agosto de 2023, la Corte Suprema chilena aplicó esa protección contra Emotiv, fabricante de un casco que lee la actividad cerebral, y le ordenó borrar los datos cerebrales del exsenador Guido Girardi. En Brasil, Rio Grande do Sul sumó en 2023 la integridad mental a su Constitución estatal, y en el Senado federal espera una propuesta similar, la PEC 29/2023.

Los proyectos de ley de IA van en la misma dirección. El PL 2338/2023 de Brasil, aprobado por el Senado y en una comisión especial de la Cámara de Diputados cuyo relator dejó la votación para después de las elecciones, se funda en la "centralidad de la persona humana". Solo menciona el bienestar de las personas y los trabajadores, y reserva los derechos a la "persona o grupo afectado", es decir, a personas físicas. El proyecto de Chile, aprobado por la Cámara en octubre de 2025 y en estudio en el Senado, clasifica los usos de la IA por riesgo y protege los derechos fundamentales de las personas. Ninguno de los dos trata a la IA como sujeto de derechos ni habla de su bienestar.

La región aporta además una idea al argumento escéptico. El término autopoiesis, que el texto de Nature usa como uno de los rasgos de lo vivo que una computadora no tiene, lo acuñaron en los años setenta los biólogos chilenos Humberto Maturana y Francisco Varela, y Seth lo toma de ellos en su trabajo académico sobre la conciencia artificial.