Tema 20 · Mente, cuerpo e inteligencia artificial

Si hubiera máquinas que tuvieran la semejanza de nuestros cuerpos e imitaran nuestras acciones, tendríamos dos medios muy ciertos para reconocer que no serían por ello verdaderos hombres. El primero es que nunca podrían usar palabras ni otros signos componiéndolos, como hacemos nosotros para declarar a los demás nuestros pensamientos.

—René Descartes, Discurso del método, V · traducción de Claude, del francés

Concédaseme solamente que la materia organizada está dotada de un principio motor, y basta para adivinar el enigma de las sustancias y el del hombre: se ve que no hay más que una en el universo, y que el hombre es la más perfecta.

—Julien Offray de La Mettrie, El hombre máquina · traducción de Claude, del francés

Ya tratamos el problema mente-cuerpo al hablar de la antropología, en las concepciones filosóficas del ser humano (§30). Te remito a él para que lo repases y lo tengas en cuenta. Es decir, que también entra en el examen. Aquí volvemos sobre él, pero desde otro sitio y con otra pregunta.

§75 · El problema mente-cuerpo, ahora como problema metafísico

De la antropología a la metafísica. Allí la pregunta era qué somos nosotros: si un cuerpo, un cuerpo con alma o un cuerpo con propiedades raras. Aquí es otra, y más ancha: qué tipo de cosas caben en el mundo. Si además de átomos, campos y galaxias hay pensamientos, dolores y decisiones, entonces el inventario de lo real tiene dos secciones muy distintas y hay que explicar cómo se llevan entre sí. Y si no los hay —si tus dolores son, sin más, cierta actividad de tus neuronas—, hay que explicar por qué te parece tan claro que hay algo más. No te pido que repases las cuatro posiciones: te pido que veas el problema que ninguna de las cuatro se quita de encima.

La causación mental. Decides levantar el brazo y el brazo se levanta. Hasta aquí, ninguna novedad. Pero cuenta ahora la historia por el otro lado: una descarga en la corteza motora, un impulso que baja por el nervio, una fibra muscular que se contrae. Esa cadena es completa, y en ningún eslabón hace falta añadir nada que no sea físico para que ocurra el siguiente. ¿Qué trabajo ha hecho entonces tu decisión? O bien no ha hecho ninguno —y tus deseos serían espuma que acompaña al proceso sin empujarlo—, o bien ese único movimiento del brazo tiene dos causas, cada una de ellas suficiente por su cuenta, y eso pasaría en todas y cada una de tus acciones, lo cual es difícil de tragar. Jaegwon Kim (1934-2019) convirtió esa sospecha en un argumento en regla, el argumento de la exclusión: si todo efecto físico tiene ya una causa física suficiente, y si un mismo efecto no tiene dos causas suficientes, lo mental se queda sin sitio desde el que actuar1. Y fíjate a quién le muerde el argumento, porque es lo interesante: no solo al dualista, sino a cualquiera que quiera que lo mental sea algo más que lo físico que lo sostiene.

La superveniencia. Antes de decidir nada conviene poner una pieza sobre la mesa, porque casi todo el mundo la acepta y sirve para medir a los demás. Dice así: no hay diferencia mental sin diferencia física. Es decir, que si dos seres son idénticos hasta el último átomo, no puede ser que uno esté sufriendo y el otro no. Léela despacio, porque afirma menos de lo que parece: no dice que lo mental sea lo físico ni que se reduzca a ello, solo que depende de ello, que no flota por su cuenta. Lo que sí se discute, y con dureza, es hasta dónde llega ese «no puede ser»: si es imposible en cualquier mundo que quepa imaginar, o solo imposible dadas las leyes que rigen el nuestro. El fisicalista sostiene lo primero. Quien crea que podría existir un ser físicamente idéntico a ti y con las luces apagadas por dentro —lo llaman un zombi filosófico— se queda con lo segundo, y con ello sostiene que lo mental es algo más2.

El funcionalismo, y por qué te lo cuento aquí. Hilary Putnam (1926-2016) lo propuso y Jerry Fodor (1935-2017) lo desarrolló: un estado mental no se identifica por de qué está hecho, sino por lo que hace, por el papel que desempeña entre lo que entra, lo que ya hay dentro y lo que sale. El dolor sería aquello que causa el daño en los tejidos y que, a su vez, provoca gestos y quejas y te lleva a apartar la mano. La analogía que se usa siempre es la del ordenador: un mismo programa corre en máquinas muy distintas, y lo que define al programa no es el silicio, sino lo que hace con los datos. De ahí sale la realizabilidad múltiple: si el dolor es un papel y no un material, podrían desempeñarlo tus neuronas, las de un pulpo —cuyo sistema nervioso no se parece al tuyo— o, en principio, un circuito3.

Y ahí se abre la puerta. Detente un momento, porque esto no es un detalle técnico: si tener mente es cuestión de organización y no de materia, la pregunta de si una máquina puede pensar deja de ser ciencia ficción y pasa a ser una pregunta metafísica con todas las de la ley. Alan Turing (1912-1954) ya la había planteado así en 1950: en vez de discutir qué es pensar, propuso una prueba práctica —si conversando por escrito con un sistema no puedes distinguirlo de una persona, ¿con qué derecho le niegas lo que a ella le concedes?—4. John Searle (1932-2025) contestó que ninguno, y lo hizo con un experimento mental que conviene que conozcas. Imagínate encerrado en una habitación con un manual en castellano que te indica, para cada ristra de signos chinos que entra por una ranura, qué otra ristra debes devolver. Lo haces tan bien que fuera están convencidos de que hablas chino. ¿Lo hablas? No entiendes ni una palabra: manejas los signos por su forma, jamás por su significado. La conclusión de Searle cabe en cuatro palabras —la sintaxis no es semántica— y va tanto contra la idea de que un programa suficientemente bueno entendería como contra el funcionalismo computacional que la sostiene, que es la versión que trata la mente como un programa; no contra cualquier funcionalismo5.

Guárdate las dos cosas —la puerta que abre el funcionalismo y el portazo de Searle—, porque el resto del tema no se entiende del todo sin ellas.

§76 · ¿Qué es la inteligencia artificial?

Hasta ahora hemos estado hablando sobre la realidad y sobre el ser, oponiéndolos a la irrealidad y el no-ser. Hemos planteado que existen diversas formas y grados de ser: de forma absoluta y necesaria, como Dios o las Formas platónicas; de forma relativa, parcial y contingente, como nosotros mismos. Incluso hemos apuntado que nuestras ficciones son, de alguna manera, algo. Hemos mencionado que la percepción tiene una enorme influencia en nuestra concepción del mundo y hemos abierto la puerta a la reflexión sobre si los eventos acontecen necesariamente o si estamos dotados de, al menos, cierta libertad. Es decir, que hemos abordado la cuestión de la realidad y del ser desde el punto de vista humano.

Desde 2023, sin embargo, se habla mucho sobre inteligencia artificial (en adelante, IA), que ha pasado de ser una cuestión para informáticos muy expertos6 a un término de uso común con la apertura al público de ChatGPT el 22 de noviembre de 2022.

La IA que ya usabas. A pesar de la aparente novedad de la IA, lo cierto es que ya la usábamos previamente en múltiples formas: el buscador de Google, los sistemas de recomendación de Netflix, los asistentes de voz como Alexa y los coches autónomos7 son ejemplos cotidianos.

La IA tiene un nombre muy bien puesto, ya que consiste en el intento de que sistemas informáticos adquieran capacidades cognitivas humanas sirviéndose de algoritmos.

La IA débil. Actualmente la que tenemos es IA débil, que trata de realizar tareas concretas y limitadas, tales como ChatGPT que, no tan sorprendentemente, charla. DALL·E genera imágenes, como la que constituye la portada de estos apuntes en su versión impresa. Otro software es capaz de jugar al ajedrez, crear música, componer un poema o predecir el tiempo.

La IA general y la singularidad. La investigación, sin embargo, busca IA que imiten —y superen— la inteligencia humana en su conjunto, la IA general (en adelante, IAG). Si en algún momento los ordenadores alcanzaran una inteligencia del tipo y capacidad humanas o incluso las superaran, nos encontraríamos ante una singularidad tecnológica. Nunca nos hemos encontrado con una inteligencia equivalente a la humana. Hasta ahora nuestra esperanza de encontrar otra inteligencia humana —pero misteriosamente distinta— residía en clonar alguna de las especies que nos preceden en la evolución, como los Homo neanderthalensis. Ten en cuenta que, además, la IA puede mejorarse a sí misma constantemente.

De ahí que haya muchas personas preocupadas por los peligros de una IA que escape a nuestro control y tenga voluntad y metas propias.

§77 · Las preguntas metafísicas de la inteligencia artificial

La posibilidad del surgimiento de la IAG nos plantea enormes cuestiones metafísicas, filosóficas y humanas. A continuación te expongo algunas de ellas.

Inteligencia. Nos es difícil imaginar en una máquina una inteligencia tan potente como la humana, pero quizás llegue. Si sucede, ¿sería racional por nuestra parte cederle la toma de decisiones en sustitución de los humanos para cuestiones técnicas —coches autónomos, medicina— o incluso sociales y políticas —creación de leyes, decisiones sobre los impuestos—? Si la IA pensara más y mejor que nosotros, lo irracional sería evitarlo.

Por ahora, la IA ha heredado nuestros sesgos8. A fin de cuentas, la hemos programado nosotros. Pero en algún momento puede empezar a pensar no solo más rápido que nosotros, sino de forma distinta, con sus propias reglas, criterios y objetivos.

Un mundo regido por la IAG, ¿sería utópico o distópico? Los futuros imaginados por las novelas, las películas y las series tienden a la distopía. Las estudiaremos a fondo más adelante (§141); de momento fíjate en Black Mirror9. A fin de cuentas, nuestro cerebro se fija más en las noticias malas y en los peligros, porque tienen gran influencia en nuestra supervivencia. La muerte y las desgracias venden más, como bien sabemos por los medios de comunicación. Si el futuro es tan negro, ¿será el momento de apagar las máquinas?

Los futuros utópicos son menos frecuentes, ya que lo bueno y la calma nos producen aburrimiento y se venden muy mal. Le falta drama. Pero también es posible imaginar futuros en los que la IAG nos ayuda a gestionar mejor la sociedad, de forma más justa y beneficiosa para todos, con menos trabajos indignos y menos diferencias económicas y de derechos entre las personas.

Desde nuestro momento actual nos resulta inconcebible el futuro no ya a largo plazo, sino a corto, por la enorme influencia que la IA tendrá en la sociedad. Cada avance es más rápido y potente que el anterior, y cambia la situación de partida, lo que hace que no podamos ver las posibilidades que se abren. Nos encontramos en un camino que se bifurca constantemente y en el que, al tomar un camino, se nos abren nuevas horquillas que antes no podíamos siquiera ver.

Consciencia. La potencia de cálculo de las computadoras es ya enorme y seguirá creciendo exponencialmente. Puede que en algún momento sea tal que surja la consciencia en una máquina o programa de ordenador. ¿Llegarán las máquinas a ser conscientes de que son y se plantearán qué son, como nosotros? Si lo hicieran, ¿se plantearían preguntas distintas a las nuestras? ¿Las resolverían de forma distinta? ¿Seríamos capaces de comprender sus problemas existenciales?

¿Y si pudiéramos descargar la información de nuestro encéfalo a un ordenador? Si solo somos el resultado de la actividad de nuestras neuronas y pudiéramos subir la configuración de nuestro cerebro a un servidor, ¿sería un equivalente clónico de nuestra persona, con nuestros recuerdos?

Libre albedrío y conciencia moral. La IAG, ¿dispondría de libre albedrío o estaría determinada por su programación original, por mucho que cambiara aparentemente en su evolución? Si las máquinas tuvieran libre albedrío y conciencia moral, ¿tendrían también responsabilidad moral? ¿Y derechos (humanos)? ¿Se podría programar en ellas ética humana? Y, de ser así, ¿cuál sería?

El intento más famoso de contestar a esa última pregunta no lo hizo un filósofo, sino un novelista. En 1942, en el relato Círculo vicioso, Isaac Asimov (1920-1992) enunció las tres leyes de la robótica: un robot no hará daño a un ser humano, ni permitirá por inacción que lo sufra; un robot obedecerá las órdenes de los seres humanos, salvo las que entren en conflicto con la primera ley; y un robot protegerá su propia existencia mientras esa protección no entre en conflicto con las dos anteriores. Léelas otra vez y verás por qué han durado ochenta años: son tres deberes ordenados por prioridad, de modo que cuando dos chocan ya está dicho cuál gana. Es exactamente lo que a una ética humana le suele faltar. Y también verás por qué Asimov escribió cuarenta relatos con ellas: casi todos consisten en encontrar la situación en la que las tres, aplicadas al pie de la letra, producen un desastre.

Metafísica y virtualidad. ¿Es la virtualidad otra forma de ser? Los humanos siempre hemos tenido imaginación —la capacidad de visualizar cosas que no tienen existencia física— y hemos podido proyectar situaciones que (aún) no han ocurrido10.

Ahora vivimos pegados a pantallas que capturan nuestra atención y que nos muestran incesantemente imágenes y sonido. Existen, incluso, gafas de realidad virtual para que la experiencia sea más inmersiva. Pero la IAG podrá generar, si tuviera consciencia, mundos enteros en su interior sin necesidad de tener un cuerpo como el que nosotros tenemos. ¿Qué tipo de realidad será esa? ¿Qué ser tendrá, qué entidad? ¿Llegará un momento en que no podamos distinguir la realidad de la realidad virtual? ¿Podremos vivir continuamente inmersos en un entorno virtual, como plantean The Matrix o, más amablemente, WALL·E?

Todas estas preguntas y problemas que plantea la IA parecían restringidas a la salvaje imaginación de los autores de ciencia ficción, pero es ya parte de nuestras vidas, querámoslo o no. Así que la mejor actitud ante ella es acercarse para conocerla y poder así entenderla y controlar su influencia en nuestras vidas, en la medida de lo posible. Hacia dónde derive la IA depende de nosotros —lo que puede ser pésimo o excelso—, pero quizás dentro de no mucho dependa también de la IAG. Veremos.

  1. Robb, D., Heil, J. y Gibb, S. (2023). Mental Causation. En E. N. Zalta y U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy (ed. Spring 2023). https://plato.stanford.edu/archives/spr2023/entries/mental-causation/↩︎

  2. Kirk, R. (2023). Zombies. En E. N. Zalta y U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy (ed. Fall 2023). https://plato.stanford.edu/archives/fall2023/entries/zombies/↩︎

  3. Levin, J. (2023). Functionalism. En E. N. Zalta y U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy (ed. Summer 2023). https://plato.stanford.edu/archives/sum2023/entries/functionalism/↩︎

  4. Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433-460. El original no es el «test» que suele contarse. Turing parte de un juego de salón: un hombre, una mujer y alguien que, por escrito, debe averiguar quién es quién. Y los dos primeros no juegan a lo mismo, que es el detalle bueno: él trata de engañarlo y ella de ayudarlo. Solo después pregunta Turing qué pasaría si una máquina ocupara el puesto del hombre.↩︎

  5. Cole, D. (2026). The Chinese Room Argument. En E. N. Zalta y U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy (ed. Summer 2026). https://plato.stanford.edu/archives/sum2026/entries/chinese-room/. La réplica más seria es la de los sistemas: quien no entiende chino es el hombre, pero sí lo entendería el conjunto de él, el manual y los papeles. Searle contesta que memorice el manual y salga al aire libre: entonces él es el sistema entero, y sigue sin entender nada.↩︎

  6. La disciplina como tal existe desde 1956, cuando se celebró la conferencia de Dartmouth; John McCarthy había acuñado el término el año anterior, en la propuesta que la convocaba. Alan Turing fue su precursor.↩︎

  7. Para la mayoría de nosotros, un coche autónomo está aún lejos, pero hasta la aspiradora automática Roomba tiene ya versiones con IA.↩︎

  8. Recuerda que hablamos de los sesgos cognitivos al tratar los errores del pensamiento (§59).↩︎

  9. La película La isla plantea también muchos dilemas éticos interesantes. En cuanto a las máquinas humanoides inteligentes que se rebelan contra los seres humanos tienes la serie de The Terminator. O puedes ir al clásico 2001: una odisea del espacio.↩︎

  10. Recuerda las características específicas de los seres humanos que tratamos al hablar de la naturaleza humana (§28).↩︎