También puedes escuchar este capítulo en Spotify.
🧠 Si quieres profundizar en estas ideas, puedes consultar el Curso Avanzado de Pensamiento Crítico y la Biblioteca Polymata.
La duda inicial
¿Cómo sabemos que la IA no siente?
Yo creo que las IA actuales no sienten ni experimentan nada. Pero si me pides que justifique mi respuesta, me cuesta, la verdad.
En el capítulo anterior hablaba de cómo algunas IAs ya están planteando teorías científicas y participando en distintas fases de una investigación. Pero, de verdad, me cuesta mucho imaginar que experimenten algo. Hay investigadores que creen que podríamos llegar a construir una IA consciente, incluso que ya podría estar entre nosotros. Así que creo que merece la pena escucharles a ver qué tienen que decir.
Tengo unas hormigas diminutas en mi casa. Y cuando las veo moverse de forma errática me pregunto si hay algo que experimenta dentro de esos cuerpecitos. Me parecen seres tan simples, con esos movimientos tan mecánicos, que me cuesta imaginar que tengan una experiencia propia.
Con mi vecino, sin embargo, no me pasa. Doy por hecho que siente, igual que yo. Lo mismo me pasaba con mi gata. Pero con una hormiga me entran dudas. Es como si me costara más creer que un animal siente cuanto menos se parece a mí. Pero realmente no tengo claro que ese sea un buen criterio.
Tener consciencia es tener experiencias. Notar frío, por ejemplo, o ver un color. Ya hablé de esto en “La consciencia explicada”. No es que imagine a la hormiga pensando en qué va a hacer con su vida. Solo me pregunto si siente algo al recorrer mi casa, por básico que sea.
Y claro, la hormiga no va a contármelo. Así que tengo que buscar pistas en su comportamiento y en cómo funciona su sistema nervioso. Y eso es lo que intentan hacer algunos investigadores.
Voy a empezar por un experimento con grillos y luego retomaré el tema de la IA. Al final de este capítulo quiero ver qué tendríamos que encontrar en una máquina para tomar en serio la posibilidad de que sienta. Quédate conmigo hasta el final, creo que te va a interesar.
Del grillo a ChatGPT
En 2026, unos científicos de la Universidad de Sídney hicieron un experimento con grillos. En una de las pruebas tocaban una de sus antenas con una punta caliente y a continuación grababan su reacción.
Estos pobres grillos se llevaban la antena a la boca y la manipulaban con las patas delanteras. Algo parecido a lo que hacemos cuando nos quemamos un dedo.
También hicieron pasar a los mismos grillos por otras dos pruebas. En una les tocaban la antena con la punta, esta vez sin calentar. Y en la otra, los manipulaban de la misma forma, pero sin llegar a tocarles la antena.
Lo que sucedía es que los grillos dedicaban más tiempo a “acicalarse” la antena después de que les aplicasen calor que en las otras dos pruebas. Además, seguían tocándose la antena varios minutos después del contacto, como si les molestara. Por eso los investigadores creen que podrían estar sintiendo dolor.
Pero también debemos contemplar la posibilidad de que su sistema nervioso detectara el calor y activara esa conducta de protección sin necesidad de que sintieran nada. Lo cierto es que no lo podemos saber con seguridad.
La cuestión es que esto también nos pasa con otras personas. Si mi vecino me dice que le duele una muela, le creo. Al fin y al cabo tiene un cuerpo y un sistema nervioso muy parecidos a los míos. Con el grillo es más difícil, porque se parece mucho menos a mí y no puede contarme cómo se siente.
Y ahora volvemos al tema central de hoy, las IA. Si insulto a ChatGPT y me dice que se siente dolido, ¿he de pensar que sufre de verdad?
De primeras, voy a pensar que ha aprendido a responder así. Los modelos de lenguaje se entrenan con enormes cantidades de textos humanos. Y en esos textos hablamos de lo que sentimos, y también de cómo respondemos cuando alguien nos insulta.
Pero claro, que haya aprendido a hablar así tampoco nos dice si tiene consciencia. Así que el siguiente paso es saber qué ocurre dentro del modelo cuando me dice que siente dolor.
La integración según Tononi
Para buscar la consciencia en una máquina, veamos qué cambia en nuestro cerebro cuando la perdemos.
Cuando me duermo, mi cerebro sigue funcionando. Y cuando sueño, sigo teniendo experiencias. Puedo ver cosas, sentir miedo, asco, duda… Pero durante otros momentos de la noche parece que la consciencia desaparece. ¿Qué es lo que ocurre en esos periodos?
Giulio Tononi, el neurocientífico del que hablé en el capítulo de “La consciencia explicada”, lleva años intentando responder a esta pregunta. Su propuesta se llama “teoría de la información integrada”.
En uno de los experimentos realizados por su equipo, lo primero que hicieron fue estimular una zona del cerebro con un pulso magnético. Aplicaron el pulso desde fuera de la cabeza y utilizaron unos electrodos para registrar lo que ocurría.
Cuando los participantes estaban despiertos, la actividad se extendía desde la zona estimulada hacia otras regiones del cerebro. Por contra, durante el sueño profundo ocurría algo distinto. La zona respondía al pulso, pero la actividad se quedaba en una región mucho más pequeña.
Y durante la fase del sueño en la que solemos tener los sueños más vívidos, la respuesta volvía a extenderse por el cerebro y cambiaba de una región a otra, de una forma parecida a lo que sucedía cuando estamos despiertos.
Esto es importante porque el cerebro dormido no está apagado. La diferencia está en cómo responden unas regiones a la actividad de las otras.
Por ejemplo, pensemos en dos grupos de neuronas. El primero envía señales al segundo y modifica su actividad. El segundo responde y también modifica la actividad del primero. De este modo, lo que hace cada grupo depende de lo que está haciendo el otro. Son interdependientes.
Ahora cortamos las conexiones entre los dos grupos. Las neuronas de cada grupo pueden seguir activándose y enviándose señales entre ellas. Pero ya no reciben información del otro grupo. En lugar de una red en la que las dos partes se modifican mutuamente, ahora tenemos dos grupos que funcionan por separado.
A esa dependencia entre las partes se refiere Tononi cuando habla de integración. Su teoría intenta medir cuánta capacidad de influirse entre sí pierde la red cuando separamos sus partes.
Pero para Tononi no es suficiente con que las partes de una red dependan unas de otras. La red también tiene que poder adoptar estados muy diferentes. Si todas sus neuronas se activaran y desactivaran siempre juntas, solo tendríamos dos posibilidades: todas encendidas o todas apagadas. La red podría estar integrada, pero tendría muy poca variedad. Según su teoría, una experiencia tan rica como la nuestra necesita las dos cosas: que la red pueda adoptar muchos estados y que sus partes dependan unas de otras.
Tononi llega a estas dos condiciones fijándose en cómo son nuestras experiencias. Si miro una taza sobre la mesa, puedo distinguir la taza de la mesa, pero no tengo dos experiencias separadas. Todo forma parte de una misma escena. Y mi experiencia podría ser completamente distinta. Podría mirar por la ventana, recordar algo, sentir frío… Las posibilidades son enormes, pero en cada momento vivo una sola experiencia.
Para Tononi, la red del cerebro tiene que cumplir esas mismas condiciones. La dependencia entre sus partes haría que mi experiencia forme un todo. Y como esas relaciones pueden cambiar de muchísimas maneras, la misma red puede dar lugar a experiencias diferentes. La forma concreta en la que las neuronas se influyen en este momento explicaría que esté viendo la taza y no cualquier otra cosa.
Entonces volvamos a ChatGPT. Yo lo uso desde mi ordenador, pero el modelo se ejecuta en los centros de datos de OpenAI. Para saber si experimenta algo, si tiene consciencia, Tononi estudiaría los circuitos físicos de esos centros de datos. Si cambia la actividad de un grupo, ¿cómo afecta a los demás? ¿Y cómo responden esos otros grupos?
Para entender el problema que Tononi ve en los ordenadores actuales, pensemos en el procesador y la memoria. El procesador realiza los cálculos y la memoria guarda los datos que necesita. Para intercambiar esos datos, muchos circuitos utilizan las mismas vías de comunicación. Las señales entre los dos grandes bloques terminan pasando por unos pocos puntos de conexión.
Los servidores pueden hacer muchísimos cálculos a la vez, pero concentrar esos intercambios en unos pocos puntos. Tononi y sus colaboradores creen que esa organización dificulta que los circuitos se influyan unos a otros de la manera que exige su teoría.
Por eso, para Tononi, hacer que ChatGPT fuese mucho más inteligente no sería suficiente para atribuirle consciencia. También tendríamos que cambiar cómo se conectan y actúan los componentes físicos que lo ejecutan.
El espacio de trabajo global
Otros investigadores de la consciencia creen que una máquina podría sentir si organizáramos su software de otra manera. Intentaré explicarlo.
Si voy por la calle dándole vueltas a mis preocupaciones, la mayoría de los ruidos me van a pasar desapercibidos. Pero cuando alguien dice mi nombre, me voy a girar.
Lo que sucede es que mi cerebro ya estaba procesando los sonidos de la calle sin que yo fuera consciente de ello. Pero escuchar mi nombre me hace levantar la cabeza de mis pensamientos y buscar a la persona que me ha llamado.
Para hacerlo colaboran distintas partes del cerebro. Unas procesan el sonido de la voz y otras dirigen mi mirada hacia el lugar del que viene. La teoría del espacio de trabajo global propone que tengo la experiencia de oír mi nombre cuando esa información queda disponible para muchos otros sistemas del cerebro, que pueden utilizarla.
El neurocientífico Stanislas Dehaene cree que podemos reproducir ese funcionamiento en una máquina. Para ello tendríamos que conseguir que distintas partes de su software compartan información y la usen para hacer cosas diferentes, como recordar algo y resolver un problema.
Supongamos que construimos un robot con ChatGPT como cerebro y organizamos su software de esa manera. Sus cámaras y micrófonos captan imágenes y sonidos todo el tiempo, mientras que ChatGPT los procesa, igual que mi cerebro procesa los sonidos de la calle.
Si llamo al robot, esa información pasará a ser prioritaria. Aunque yo ya haya dejado de hablar, seguirá disponible. El programa que controla su cámara recibe la orden y me busca. Al verme, comparte dónde estoy con el resto del software (su cerebro), que prepara una respuesta.
Si el programa del robot reprodujera por completo el espacio de trabajo global, el robot tendría una experiencia propia. Si la teoría fuese cierta, claro.
Y si ejecutáramos ese mismo programa en otro robot con circuitos distintos, para esta teoría también tendría una experiencia. Lo importante es que la información se seleccione y se comparta de la misma manera.
El experimento con Claude
El experimento que vamos a ver con Claude no llega tan lejos. Pero sí muestra cierto parecido.
En julio de 2026, Anthropic publicó un estudio sobre Claude, su modelo de lenguaje. Le mostraron un texto en español y luego modificaron las señales internas con las que el modelo representaba el idioma del texto. Cambiaron el indicador al francés, manteniendo el texto en español.
Cuando le preguntaban a Claude en qué idioma estaba escrito el texto, respondía que en francés. Y al pedirle un escritor que utilizara ese idioma, elegía a Victor Hugo, escritor francés. Pero cuando le pedían que continuara escribiendo, lo hacía en español.
La etiqueta de “francés” que los investigadores habían introducido en el modelo se utilizaba para responder sobre el idioma y también para elegir un escritor. Pero no para elegir el idioma en el que continuaba el texto.
Según la teoría del espacio de trabajo global, en el cerebro ocurre algo parecido. Parte de la información se comparte para que podamos usarla en tareas diferentes (como el indicador de idioma en Claude). Pero muchos otros procesos siguen funcionando sin pasar por ese espacio (como continuar escribiendo el texto).
Dehaene reconoce esa semejanza, pero señala una diferencia con Claude y otros softwares similares. Nuestro cerebro mantiene la actividad incluso cuando estamos en reposo. Puedo estar sin hacer nada en particular y empezar a pensar en algo, sin que nadie me haya preguntado. De hecho, muchas veces lo difícil es dejar de pensar.
Según Dehaene, las conexiones entre las neuronas permiten sostener esa actividad. Un grupo de neuronas envía señales a otro, que a su vez envía señales de vuelta. Así, la actividad puede continuar aunque haya desaparecido el estímulo que la inició.
En los modelos del estudio de Anthropic, Dehaene no encuentra una actividad equivalente que se mantenga por sí sola.
Mi posición
Yo sigo pensando que las IA actuales no sienten. El parecido que hemos visto en Claude todavía no me convence de que tenga una experiencia propia, pero sí me parece una razón para seguir investigando esa vía.
Tengo bastante claro que nuestra experiencia subjetiva surge del funcionamiento del sistema nervioso central. Es lo que conocemos. Por eso, al estudiar una máquina, buscaría semejanzas con los procesos del cerebro que relacionamos con la consciencia, como esas influencias entre neuronas que cambian durante el sueño de las que habla Tononi.
Por otro lado, si el robot que he usado para el ejemplo cumpliera la teoría del espacio de trabajo global, todavía necesitaríamos buenas pruebas de que esa teoría explica nuestra experiencia. Que ese funcionamiento sea suficiente para sentir sigue siendo una hipótesis.
Pero claro, mis creencias parten de cómo funciona nuestra consciencia. La verdad es que ni yo ni nadie sabemos si una máquina necesita funcionar de una manera parecida para sentir o si podría llegar a la consciencia por un camino diferente.
Curso Avanzado de Pensamiento Crítico
Al investigar la consciencia de la IA, he tenido que separar lo que mostraban los experimentos de las interpretaciones que proponían sus autores.
En el Curso Avanzado de Pensamiento Crítico practicamos esa distinción con textos y casos reales. Para ello analizamos qué afirma el autor y discutimos si las pruebas que aporta son suficientes para darle la razón.
Si te apetece practicarlo conmigo y con un grupo motivado, tienes la información sobre la segunda edición del Curso Avanzado de Pensamiento Crítico en las notas del episodio. No esperes mucho, que comienza en octubre.
Referencias
- Manzi y colaboradores (2026), estudio sobre grillos y respuestas a estímulos potencialmente dolorosos, Proceedings of the Royal Society B. Artículo.
- Albantakis y colaboradores (2023), IIT 4.0, PLOS Computational Biology. Artículo.
- Gurnee y colaboradores (2026), estudio técnico sobre representaciones internas y espacio de trabajo global en modelos de lenguaje. Artículo técnico.
- Dehaene (2026), entrevista sobre modelos de lenguaje y consciencia artificial. CEA Paris-Saclay.
Deja una respuesta