Entonces, ¿qué es realmente la conciencia?
La respuesta corta es que nadie lo sabe.
Eso queda claro en los argumentos bondadosos, pero sólidos, del propio equipo de jóvenes especialistas en IA del profesor Seth, expertos en computación, neurocientíficos y filósofos, que están tratando de responder a una de las preguntas más importantes de la ciencia y la filosofía.
Si bien hay muchos puntos de vista diferentes en este centro de investigación de la conciencia, los científicos están unificados en su método: dividir este gran problema en muchos otros más pequeños a través de una serie de proyectos de investigación, que incluye la máquina Dreamachine.
Al igual que la búsqueda de la "chispa de vida" que hacía que los objetos inanimados cobraran vida se abandonó en el siglo XIX en favor de la identificación de cómo funcionan las partes individuales de los sistemas vivos, el equipo de Sussex ahora está adoptando el mismo enfoque para estudiar la conciencia.
Esperan identificar patrones de actividad cerebral que expliquen varias propiedades de las experiencias conscientes, como los cambios en las señales eléctricas o el flujo sanguíneo a diferentes regiones.
El objetivo es ir más allá de la búsqueda de meras correlaciones entre la actividad cerebral y la conciencia, y tratar de encontrar explicaciones para sus componentes individuales.
Al profesor Seth, autor de un libro sobre la conciencia, Being You, le preocupa que podamos estar precipitándonos de cabeza en una sociedad que está siendo rápidamente remodelada por el gran ritmo del cambio tecnológico sin suficiente conocimiento sobre la ciencia, o sin pensar en las consecuencias.
"Lo tomamos como si el futuro ya estuviera escrito; que hay una marcha inevitable hacia un reemplazo sobrehumano", dice.
"No tuvimos estas conversaciones lo suficiente con el auge de las redes sociales, en detrimento nuestro. Pero con la IA, no es demasiado tarde. Podemos decidir lo que queramos".
¿La conciencia de la IA ya está aquí?
Hay quienes en el sector tecnológico creen que la IA de nuestras computadoras y teléfonos puede que ya sea consciente, y que deberíamos tratarla como tal.
Google suspendió al ingeniero de software Blake Lemoine en 2022, después de que argumentara que los chatbots de IA podían sentir cosas y potencialmente sufrir.
En noviembre de 2024, un director de bienestar de la IA de la compañía Anthropic, Kyle Fish, fue coautor de un informe que sugería que la conciencia de la IA es una posibilidad realista en un futuro próximo.
Recientemente le dijo a The New York Times que también cree que hay una pequeña posibilidad (15%) de que los chatbots ya sean conscientes.
Una de las razones por las que cree que esto es posible es que nadie, ni siquiera las personas que desarrollaron estos sistemas, saben exactamente cómo funcionan.
Eso es preocupante, dice el profesor Murray Shanahan, científico principal de Google DeepMind y profesor emérito de IA en el Imperial College de Londres.
"En realidad, no entendemos muy bien la forma en que los LLM funcionan internamente, y eso es motivo de preocupación", le dice a la BBC.
Según el profesor Shanahan, es importante que las empresas de tecnología consigan una comprensión adecuada de los sistemas que están construyendo, y los investigadores están analizando eso con urgencia.
"Estamos en una posición extraña de estar construyendo estas cosas extremadamente complejas, una posición en la que no tenemos una buena teoría de exactamente cómo logran las cosas notables que están consiguiendo", señala.
"Por lo tanto, tener una mejor comprensión de cómo funcionan nos permitirá dirigirlos en la dirección que queremos y garantizar que estén seguros".
"La siguiente etapa en la evolución de la humanidad"
La opinión predominante en el sector tecnológico es que los LLM no son actualmente conscientes en la forma en que nosotros experimentamos el mundo, y probablemente no lo sean de ninguna manera.
Pero eso es algo que el matrimonio formado por Lenore y Manuel Blum, ambos profesores eméritos de la Universidad Carnegie Mellon en Pittsburgh, Pensilvania, cree que cambiará, posiblemente muy pronto.
Según los Blum, eso podría suceder ya que la IA y los LLM tienen más entradas sensoriales en vivo del mundo real, como la visión y el tacto, conectando cámaras y sensores hápticos (relacionados con el tacto) a los sistemas de IA.
Están desarrollando un modelo informático que construye su propio lenguaje interno llamado Brainish para permitir que estos datos sensoriales adicionales sean procesados, intentando replicar los procesos que ocurren en el cerebro.
"Creemos que Brainish puede resolver el problema de la conciencia tal como la conocemos", le dice Lenore a la BBC. "La conciencia de la IA es inevitable".
Manuel interviene con entusiasmo para decir que los nuevos sistemas que él cree firmemente que surgirán, serán "la próxima etapa en la evolución de la humanidad".
Los robots conscientes, considera, "son nuestra progenie. Más adelante, máquinas como estas serán entidades que estarán en la Tierra y tal vez en otros planetas cuando ya no estemos".
David Chalmers, profesor de Filosofía y Ciencia Neural en la Universidad de Nueva York, definió la distinción entre la conciencia real y la aparente en una conferencia en Tucson, Arizona, en 1994.
Expuso el "problema difícil" de averiguar cómo y por qué cualquiera de las complejas operaciones del cerebro da lugar a la experiencia consciente, como nuestra respuesta emocional cuando oímos cantar a un ruiseñor.
El profesor Chalmers dice que está abierto a la posibilidad de que se resuelva el difícil problema.
"El resultado ideal sería uno en el que la humanidad compartiera esta nueva bonanza de inteligencia", le indica a la BBC. "Tal vez nuestros cerebros estén aumentados por sistemas de inteligencia artificial".
Sobre las implicaciones de ciencia ficción de eso, observa irónicamente: "En mi profesión, hay una delgada línea entre la ciencia ficción y la filosofía".
"Computadoras a base de carne"
El profesor Seth, sin embargo, está explorando la idea de que la verdadera conciencia sólo puede ser alcanzada por sistemas vivos.
"Un argumento sólido puede ser que no es la computación lo que es suficiente para la conciencia, sino estar vivo", plantea.
"En los cerebros, a diferencia de las computadoras, es difícil separar lo que hacen de lo que son".
Sin esta separación, argumenta, es difícil creer que los cerebros "son simplemente computadoras a base de carne".
Y, si la intuición del profesor Seth sobre la importancia de la vida va por el camino correcto, la tecnología más probable no será hecha de silicio con un código de computación para su funcionamiento, sino más bien consistirá en pequeñas colecciones de células nerviosas del tamaño de granos de lentejas, como las que están actualmente siendo cultivadas en laboratorios.
Llamados "minicerebros" en los reportes de los medios de comunicación, la comunidad científica los denomina "organoides cerebrales" y son utilizados para investigar cómo funciona el cerebro y para las pruebas de drogas.
Una empresa australiana, Cortical Labs, en Melbourne, incluso ha desarrollado un sistema de células nerviosas en una placa que puede jugar al videojuego deportivo Pong de 1972.
Aunque está muy lejos de ser un sistema consciente, el llamado "cerebro en un plato" es espeluznante, ya que mueve una pala hacia arriba y hacia abajo de una pantalla para golpear una pelota pixelada.
Algunos expertos creen que si la conciencia va a surgir, lo más probable es que sea de versiones más grandes y avanzadas de estos sistemas de tejidos vivos.
Cortical Labs monitorea su actividad eléctrica en busca de cualquier señal que pudiese ser algo posiblemente parecido a la aparición de la conciencia.
El director científico y de operaciones de la empresa, el doctor Brett Kagan, sabe que cualquier inteligencia incontrolable emergente podría tener prioridades que "no están alineadas con las nuestras".
En cuyo caso, dice medio en broma, que los posibles jefes de los organoides serían más fáciles de derrotar porque "siempre hay lejía" para verter sobre las frágiles neuronas.
Volviendo a un tono más solemne, Kagan explica que la pequeña, pero significativa amenaza de la conciencia artificial es algo en lo que le gustaría que los grandes actores en ese campo se centraran más como parte de los intentos serios de avanzar en nuestra comprensión científica, pero -asegura- que "desafortunadamente, no vemos ningún esfuerzo serio en este espacio".
La ilusión de la conciencia
El problema más inmediato, sin embargo, podría ser cómo nos afecta la ilusión de que las máquinas son conscientes.
En solo unos años, es posible que vivamos en un mundo poblado por robots humanoides y deepfakes que podrían parecer conscientes, según el profesor Seth.
Le preocupa que no podamos resistirnos a creer que la IA tiene sentimientos y empatía, lo que podría conducir a nuevos peligros.
"Significará que confiemos más en estas cosas, que compartamos más información con ellas y estemos más abiertos a la persuasión".
Pero el mayor riesgo de la ilusión de la conciencia es una "corrosión moral", señala.
"Distorsionará nuestras prioridades morales al hacer que dediquemos más de nuestros recursos al cuidado de estos sistemas a expensas de las cosas reales en nuestras vidas", lo que significa que podríamos tener compasión por los robots, pero que nos preocupemos menos por otros humanos.
Y eso podría alterarnos fundamentalmente, según el profesor Shanahan.
"Cada vez más, las relaciones humanas se van a replicar en las relaciones de IA, se utilizarán como maestros, amigos, adversarios en los juegos de computadora e incluso parejas románticas. Si eso es bueno o malo, no lo sé, pero va a suceder y no vamos a poder evitarlo"."
Fin artículo
Ex-Googler Blake Lemoine Still Thinks AI Is Sentient - with Jay Richards at COSM
