habitación china

La versión básica de la respuesta del sistema argumenta que es el "sistema completo" el que entiende chino. ^{[ 61 ] [ n ]} Si bien el hombre solo entiende inglés, cuando se combina con el programa, papel borrador, lápices y archivadores, forman un sistema que puede entender chino. "Aquí, la comprensión no se atribuye al simple individuo, sino a todo este sistema del cual forma parte", explica Searle. ^{[ 29 ]}

Searle señala que (en esta versión simplificada de la respuesta) el "sistema" no es más que una colección de objetos físicos comunes; otorga la capacidad de comprensión y conciencia a "la conjunción de esa persona y trozos de papel" ^{[ 29 ]} sin hacer ningún esfuerzo por explicar cómo este conjunto de objetos se ha convertido en un ser consciente y pensante. Searle argumenta que ninguna persona razonable debería estar satisfecha con la respuesta, a menos que esté "bajo el dominio de una ideología" ^{[ 29 ]} ; para que esta respuesta sea mínimamente plausible, hay que dar por sentado que la conciencia puede ser producto de un "sistema" de procesamiento de información y que no requiere nada que se asemeje a la biología real del cerebro.

Searle responde entonces simplificando esta lista de objetos físicos: pregunta qué sucede si el hombre memoriza las reglas y lo recuerda todo mentalmente. En ese caso, todo el sistema se reduce a un solo objeto: el propio hombre. Searle argumenta que si el hombre no entiende chino, el sistema tampoco lo entiende, porque ahora tanto «el sistema» como «el hombre» describen exactamente el mismo objeto. ^{[ 29 ]}

Los críticos de la respuesta de Searle argumentan que el programa le ha permitido al hombre tener dos mentes en una sola cabeza. Si asumimos que una "mente" es una forma de procesamiento de información, entonces la teoría de la computación puede explicar dos computaciones que ocurren simultáneamente, a saber: (1) la computación para la programabilidad universal (que es la función instanciada por la persona y los materiales de toma de notas independientemente de cualquier contenido particular del programa) y (2) la computación de la máquina de Turing que es descrita por el programa (que es instanciada por todo, incluido el programa específico). ^{[ 63 ]} La teoría de la computación explica así formalmente la posibilidad abierta de que la segunda computación en la Habitación China pudiera implicar una comprensión semántica equivalente a la humana de las entradas chinas. El enfoque debe estar en la máquina de Turing del programa en lugar de en la de la persona. ^{[ 64 ]} Sin embargo, desde la perspectiva de Searle, este argumento es circular. La cuestión en disputa es si la conciencia es una forma de procesamiento de información, y esta respuesta requiere que hagamos esa suposición.

Las versiones más sofisticadas de la respuesta del sistema intentan identificar con mayor precisión qué es "el sistema" y difieren en la forma exacta en que lo describen. Según estas respuestas, la "mente que habla chino" podría ser, entre otras cosas: el "software", un "programa", un "programa en ejecución", una simulación de los "correlatos neuronales de la conciencia", el "sistema funcional", una "mente simulada", una " propiedad emergente " o una "mente virtual".

Marvin Minsky sugirió una versión de la respuesta del sistema conocida como la "respuesta de la mente virtual". ^{[ o ]} El término " virtual " se usa en ciencias de la computación para describir un objeto que parece existir "en" una computadora (o red de computadoras) solo porque el software hace que parezca existir. Los objetos "dentro" de las computadoras (incluidos archivos, carpetas, etc.) son todos "virtuales", excepto los componentes electrónicos de la computadora. De manera similar, Minsky propone que una computadora puede contener una "mente" que es virtual en el mismo sentido que las máquinas virtuales , las comunidades virtuales y la realidad virtual .

Para aclarar la distinción entre la respuesta sobre sistemas simples dada anteriormente y la respuesta sobre mentes virtuales, David Cole señala que dos simulaciones podrían estar ejecutándose en un mismo sistema al mismo tiempo: una hablando chino y otra hablando coreano. Si bien solo hay un sistema, puede haber múltiples "mentes virtuales", por lo que el "sistema" no puede ser la "mente". ^{[ 68 ]}

Searle responde que tal mente es, en el mejor de los casos, una simulación, y escribe: «Nadie supone que las simulaciones por computadora de un incendio de grandes proporciones arrasarán el vecindario o que una simulación por computadora de una tormenta nos dejará a todos empapados». ^{[ 69 ]} Nicholas Fearn responde que, para algunas cosas, la simulación es tan buena como la realidad. «Cuando usamos la función de calculadora de bolsillo en una computadora de escritorio, aparece la imagen de una calculadora de bolsillo en la pantalla. No nos quejamos de que no sea realmente una calculadora, porque los atributos físicos del dispositivo no importan». ^{[ 70 ]} La pregunta es: ¿es la mente humana como la calculadora de bolsillo, compuesta esencialmente de información, donde una simulación perfecta de la cosa es simplemente la cosa? ¿O es la mente como la tormenta, algo en el mundo que es más que su simulación, y que no puede realizarse completamente mediante una simulación por computadora? Durante décadas, esta cuestión de la simulación ha llevado a investigadores de IA y filósofos a considerar si el término « inteligencia sintética » es más apropiado que la descripción común de tales inteligencias como «artificial».

Estas respuestas explican quién entiende chino. Si hay algo más que el hombre en la habitación que pueda entender chino, Searle no puede argumentar que (1) el hombre no entiende chino, por lo tanto (2) nada en la habitación entiende chino. Esto, según quienes responden, demuestra que el argumento de Searle no prueba que la "IA fuerte" sea falsa. ^{[ p ]}

Estas respuestas, por sí solas, no proporcionan ninguna evidencia de que la IA fuerte sea cierta. No demuestran que el sistema (o la mente virtual) entienda chino, más allá de la premisa hipotética de que supera la prueba de Turing. Searle argumenta que, si consideramos que la IA fuerte es mínimamente plausible, el caso de la Habitación China es un ejemplo que requiere explicación, y es difícil o imposible explicar cómo podría "emerger" la conciencia de la habitación o cómo el sistema tendría conciencia. Como escribe Searle, "la respuesta del sistema simplemente incurre en una petición de principio al insistir en que el sistema debe entender chino" ^{[ 29 ]} y, por lo tanto, evade la pregunta o es irremediablemente circular.

Supongamos que, en lugar de una habitación, el programa se colocara en un robot que pudiera deambular e interactuar con su entorno. Esto permitiría una " conexión causal " entre los símbolos y las cosas que representan. ^{[ 72 ] [ q ]} Hans Moravec comenta: "Si pudiéramos injertar un robot en un programa de razonamiento, ya no necesitaríamos a una persona para proporcionar el significado: provendría del mundo físico". ^{[ 74 ] [ r ]}

La respuesta de Searle consiste en suponer que, sin que la persona en la habitación china lo supiera, algunas de las entradas provenían directamente de una cámara montada en un robot, y algunas de las salidas se usaban para manipular los brazos y las piernas del robot. Sin embargo, la persona en la habitación simplemente sigue las reglas y desconoce el significado de los símbolos. Searle escribe: «No ve lo que entra por los ojos del robot». ^{[ 76 ]}

Algunos responden que la habitación, tal como la describe Searle, está conectada con el mundo: a través de los hablantes de chino con quienes "habla" y a través de los programadores que diseñaron la base de conocimientos en su archivador. Los símbolos que manipula Searle ya tienen significado, solo que no lo tienen para él. ^{[ 77 ] [ s ]}

^{Searle afirma que los símbolos solo tienen un significado "derivado", como el significado de las palabras en los libros. El significado de los símbolos depende de la comprensión consciente de los hablantes de chino y de los programadores que se encuentran} fuera de la sala. La sala, como un libro, no tiene comprensión propia.

Algunos han argumentado que los significados de los símbolos provendrían de un vasto "trasfondo" de conocimiento de sentido común codificado en el programa y los archivadores. Esto proporcionaría un "contexto" que daría significado a los símbolos. ^{[ 75 ] [ u ]}

Searle coincide en que este trasfondo existe, pero no está de acuerdo en que pueda integrarse en los programas. Hubert Dreyfus también ha criticado la idea de que el "trasfondo" pueda representarse simbólicamente. ^{[ 80 ]}

Ante cada una de estas sugerencias, la respuesta de Searle es la misma: por mucho conocimiento que se incorpore al programa y por mucho que este se conecte con el mundo, él sigue estando en la habitación manipulando símbolos según reglas. Sus acciones son sintácticas y esto jamás podrá explicarle el significado de los símbolos. Searle escribe: «La sintaxis es insuficiente para la semántica». ^{[ 81 ] [ v ]}

Sin embargo, para quienes aceptan que las acciones de Searle simulan una mente independiente de la suya, la cuestión importante no es qué significan los símbolos para Searle, sino qué significan para la mente virtual. Si bien Searle está atrapado en la habitación, la mente virtual no lo está: está conectada con el mundo exterior a través de los hablantes de chino con quienes se comunica, a través de los programadores que le otorgaron conocimiento del mundo y a través de las cámaras y otros sensores que los expertos en robótica pueden proporcionar.

Supongamos que el programa simula con gran detalle la acción de cada neurona en el cerebro de un hablante de chino. ^{[ 83 ] [ w ]} Esto refuerza la intuición de que no habría una diferencia significativa entre el funcionamiento del programa y el funcionamiento de un cerebro humano vivo.

Searle responde que tal simulación no reproduce las características importantes del cerebro: sus estados causales e intencionales. Insiste en que "los fenómenos mentales humanos dependen de las propiedades físico-químicas reales de los cerebros humanos reales". ^{[ 26 ]} Además, argumenta:

Imaginemos que, en lugar de un hombre monolingüe en una habitación manipulando símbolos, este opera un complejo sistema de tuberías con válvulas que las conectan. Al recibir los símbolos chinos, consulta en el programa, escrito en inglés, qué válvulas debe abrir y cerrar. Cada conexión de agua corresponde a una sinapsis en el cerebro chino, y todo el sistema está configurado de tal manera que, tras realizar las activaciones correctas (es decir, tras abrir todas las válvulas adecuadas), las respuestas en chino aparecen en la salida del sistema de tuberías. Ahora bien, ¿dónde reside la comprensión en este sistema? Recibe el chino como entrada, simula la estructura formal de las sinapsis del cerebro chino y produce chino como salida. Pero ni el hombre ni las tuberías entienden el chino, y si nos vemos tentados a adoptar la absurda idea de que la conjunción del hombre y las tuberías sí entiende, recordemos que, en principio, el hombre puede interiorizar la estructura formal de las tuberías y realizar todas las "activaciones neuronales" en su imaginación. ^{[ 85 ]}

Estrechamente relacionado con la respuesta del simulador cerebral, esto afirma que una arquitectura conexionista masivamente paralela sería capaz de comprender. ^{[ aa ]} El aprendizaje profundo moderno es paralelo y ha mostrado un comportamiento inteligente en múltiples dominios. Nils Nilsson argumenta que la IA moderna está utilizando "señales dinámicas" digitalizadas en lugar de símbolos del tipo utilizado por la IA en 1980. ^{[ 51 ]} Aquí es la señal muestreada la que tendría la semántica, no los números individuales manipulados por el programa. Este es un tipo de máquina diferente a la que Searle visualizó.

Esta respuesta combina la respuesta del robot con la respuesta de la simulación cerebral, argumentando que una simulación cerebral conectada al mundo a través de un cuerpo robótico podría tener una mente. ^{[ 93 ]}

Una mejor tecnología en el futuro permitirá que las computadoras comprendan. ^{[ 27 ] [ ab ]} Searle está de acuerdo en que esto es posible, pero considera este punto irrelevante. Searle está de acuerdo en que puede haber otro hardware además de los cerebros que tenga comprensión consciente.

Estos argumentos (y las respuestas basadas en el conocimiento robótico o el sentido común) identifican una tecnología especial que ayudaría a crear comprensión consciente en una máquina. Pueden interpretarse de dos maneras: o bien afirman que (1) esta tecnología es necesaria para la consciencia, la habitación china no la implementa o no puede implementarla, y por lo tanto no puede superar la prueba de Turing o (incluso si la superara) no tendría comprensión consciente. O bien afirman que (2) es más fácil ver que la habitación china tiene mente si visualizamos que esta tecnología se utiliza para crearla.

En el primer caso, donde se requieren características como un cuerpo robótico o una arquitectura conexionista, Searle afirma que la IA fuerte (tal como él la entiende) ha sido abandonada. ^{[ ac ]} La habitación china posee todos los elementos de una máquina Turing completa y, por lo tanto, es capaz de simular cualquier computación digital. Si la habitación de Searle no puede superar la prueba de Turing, entonces no existe ninguna otra tecnología digital que pueda superarla. Si la habitación de Searle pudiera superar la prueba de Turing, pero aún así no tuviera mente, entonces la prueba de Turing no es suficiente para determinar si la habitación posee una "mente". En cualquier caso, niega una u otra de las posiciones que Searle considera "IA fuerte", lo que demuestra su argumento.

Los argumentos sobre el cerebro, en particular, niegan la IA fuerte si asumen que no hay una forma más sencilla de describir la mente que crear un programa tan misterioso como el cerebro mismo. Él escribe: «Pensaba que la idea principal de la IA fuerte era que no necesitamos saber cómo funciona el cerebro para saber cómo funciona la mente». ^{[ 27 ]} Si la computación no proporciona una explicación de la mente humana, entonces la IA fuerte ha fracasado, según Searle.

Otros críticos sostienen que la habitación, tal como la describió Searle, sí posee inteligencia, aunque argumentan que resulta difícil percibirla: la descripción de Searle es correcta, pero engañosa. Al rediseñar la habitación de forma más realista, esperan que esto se haga más evidente. En este caso, estos argumentos se utilizan como apelaciones a la intuición (véase la siguiente sección).

De hecho, la habitación puede rediseñarse fácilmente para debilitar nuestras intuiciones. El argumento Blockhead de Ned Block ^{[ 94 ]} sugiere que el programa podría, en teoría, reescribirse en una simple tabla de búsqueda de reglas del tipo "si el usuario escribe S , responder con P y ir a X". Al menos en principio, cualquier programa puede reescribirse (o " refactorizarse ") en esta forma, incluso una simulación cerebral. ^{[ ad ]} En el escenario Blockhead, todo el estado mental está oculto en la letra X, que representa una dirección de memoria : un número asociado con la siguiente regla. Es difícil visualizar que un instante de la experiencia consciente de una persona pueda capturarse en un solo número grande, sin embargo, esto es exactamente lo que afirma la "IA fuerte". Por otro lado, dicha tabla de búsqueda sería ridículamente grande (hasta el punto de ser físicamente imposible), y los estados podrían, por lo tanto, ser demasiado específicos.

Searle argumenta que, independientemente de cómo esté escrito el programa o cómo se conecte la máquina al mundo, la mente está siendo simulada por una simple máquina (o máquinas) digital que opera paso a paso. Estas máquinas son siempre como el hombre en la habitación: no entienden nada y no hablan chino. Simplemente manipulan símbolos sin saber lo que significan. Searle escribe: «Puedo tener cualquier programa formal que quieras, pero sigo sin entender nada». ^{[ 95 ]}

Muchas de estas críticas enfatizan la velocidad y complejidad del cerebro humano, ^{[ ae ]} que procesa información a 100 mil millones de operaciones por segundo (según algunas estimaciones). ^{[ 99 ]} Varios críticos señalan que el hombre en la habitación probablemente tardaría millones de años en responder a una pregunta simple y requeriría "archivadores" de proporciones astronómicas. ^{[ 100 ]} Esto pone en duda la claridad de la intuición de Searle.

Una versión particularmente vívida de la respuesta sobre velocidad y complejidad proviene de Paul y Patricia Churchland . Proponen este experimento mental análogo:

Imaginemos una habitación oscura con un hombre sosteniendo un imán de barra u objeto cargado. Si el hombre mueve el imán hacia arriba y hacia abajo, según la teoría de la luminancia artificial (LA) de Maxwell , se generará un círculo de ondas electromagnéticas y, por lo tanto, será luminoso. Pero como bien sabemos quienes hemos experimentado con imanes o bolas cargadas, sus fuerzas (o cualquier otra fuerza), incluso en movimiento, no producen luminancia alguna. ¡Es inconcebible que se pueda generar luminancia real simplemente moviendo fuerzas! ^{[ 87 ]}

El argumento de Churchland es que el problema radica en que tendría que mover el imán hacia arriba y hacia abajo unas 450 billones de veces por segundo para poder ver algo. ^{[ 101 ]}

Stevan Harnad critica las respuestas rápidas y complejas cuando se desvían de abordar nuestras intuiciones. Escribe:

Algunos han convertido la velocidad y la sincronización en un culto, sosteniendo que, al acelerarse a la velocidad adecuada, lo computacional puede experimentar una transición de fase hacia lo mental. Debe quedar claro que esto no es un contraargumento, sino simplemente una especulación ad hoc (al igual que la opinión de que todo se reduce a aumentar gradualmente el grado de «complejidad»). ^{[ 102 ] [ af ]}

Searle argumenta que sus críticos también se basan en intuiciones, pero que las intuiciones de sus oponentes carecen de fundamento empírico. Escribe que, para considerar la «respuesta sistémica» como remotamente plausible, una persona debe estar «bajo el dominio de una ideología». ^{[ 29 ]} La respuesta sistémica solo tiene sentido (para Searle) si se asume que cualquier «sistema» puede tener conciencia, simplemente por ser un sistema con el comportamiento y las partes funcionales adecuadas. Esta suposición, argumenta, no es sostenible dada nuestra experiencia de la conciencia.

La «Respuesta de las otras mentes» señala que el argumento de Searle es una versión del problema de las otras mentes , aplicada a las máquinas. No hay forma de determinar si la experiencia subjetiva de otras personas es la misma que la nuestra. Solo podemos estudiar su comportamiento (es decir, aplicándoles nuestra propia prueba de Turing). Los críticos de Searle argumentan que él está aplicando a la habitación china un estándar más alto del que aplicaríamos a una persona común. ^{[ 106 ] [ ag ]}

Nils Nilsson escribe: «Si un programa se comporta como si estuviera multiplicando, la mayoría diríamos que, de hecho, está multiplicando. Por lo que sé, Searle podría estar simplemente actuando como si estuviera reflexionando profundamente sobre estos asuntos. Pero, aunque no esté de acuerdo con él, su simulación es bastante buena, así que estoy dispuesto a reconocer que ha reflexionado de verdad». ^{[ 108 ]}

Turing anticipó la línea argumental de Searle (a la que llamó "El argumento de la conciencia") en 1950 y hace que las otras mentes respondan. ^{[ 109 ]} Observó que las personas nunca consideran el problema de las otras mentes cuando interactúan entre sí. Escribe que "en lugar de discutir continuamente sobre este punto, es habitual tener la convención cortés de que todos piensan". ^{[ 110 ]} La prueba de Turing simplemente extiende esta "convención cortés" a las máquinas. No pretende resolver el problema de las otras mentes (ni para máquinas ni para personas) y no cree que debamos hacerlo. ^{[ ah ]}

Si aceptamos la descripción de Searle sobre la intencionalidad, la conciencia y la mente, nos vemos obligados a aceptar que la conciencia es epifenoménica : que «no proyecta sombra», es decir, es indetectable en el mundo exterior. Las «propiedades causales» de Searle no pueden ser detectadas por nadie ajeno a la mente; de ​​lo contrario, la Habitación China no superaría la prueba de Turing: las personas de fuera podrían determinar que no hay ningún hablante de chino en la habitación al detectar sus propiedades causales. Dado que no pueden detectar propiedades causales, no pueden detectar la existencia de lo mental. Por lo tanto, las «propiedades causales» de Searle y la conciencia misma son indetectables, y todo aquello que no puede ser detectado o bien no existe o bien carece de importancia.

Mike Alder denomina a esto la «Respuesta de la Espada Láser Flamígera de Newton». Argumenta que todo el argumento es frívolo, porque no es verificacionista : no solo la distinción entre simular una mente y tener una mente está mal definida, sino que además es irrelevante porque no se han propuesto, ni se pueden proponer, experimentos para distinguir entre ambas. ^{[ 112 ]}

Daniel Dennett ofrece esta ilustración: supongamos que, por alguna mutación, nace un ser humano que no posee las "propiedades causales" de Searle, pero que, sin embargo, actúa exactamente como un ser humano. Este es un zombi filosófico , tal como se formula en la filosofía de la mente . Este nuevo animal se reproduciría como cualquier otro humano y, con el tiempo, habría más de estos zombis. La selección natural favorecería a los zombis, ya que su diseño es (podríamos suponer) un poco más simple. Finalmente, los humanos se extinguirían. Por lo tanto, si Searle tiene razón, lo más probable es que los seres humanos (tal como los vemos hoy) sean en realidad "zombis", que, sin embargo, insisten en que son conscientes. Es imposible saber si todos somos zombis o no. Incluso si todos fuéramos zombis, seguiríamos creyendo que no lo somos. ^{[ 113 ]}

Varios filósofos sostienen que la conciencia, tal como la describe Searle, no existe. Daniel Dennett describe la conciencia como una " ilusión del usuario ". ^{[ 114 ]}

Esta postura se conoce a veces como materialismo eliminativo : la visión de que la conciencia no es un concepto que pueda "reducirse" a una descripción estrictamente mecánica, sino que simplemente se eliminará una vez que se comprenda plenamente el funcionamiento del cerebro material , del mismo modo que el concepto de demonio ya se ha eliminado de la ciencia en lugar de reducirse a una descripción estrictamente mecánica. Otras propiedades mentales, como la intencionalidad original (también llamada "significado", "contenido" y "carácter semántico"), también se consideran comúnmente propiedades especiales relacionadas con las creencias y otras actitudes proposicionales. El materialismo eliminativo sostiene que las actitudes proposicionales como las creencias y los deseos, entre otros estados mentales intencionales que tienen contenido, no existen. Si el materialismo eliminativo es la explicación científica correcta de la cognición humana, entonces debe rechazarse la suposición del argumento de la habitación china de que "las mentes tienen contenidos mentales ( semántica )". ^{[ 115 ]}

Searle discrepa de este análisis y argumenta que "el estudio de la mente comienza con hechos como que los humanos tienen creencias, mientras que los termostatos, los teléfonos y las máquinas de sumar no... lo que queríamos saber es qué distingue a la mente de los termostatos y los hígados". ^{[ 76 ]} Da por sentado que podemos detectar la presencia de la conciencia y descarta estas respuestas por estar fuera de lugar.

La conclusión de Searle de que "los fenómenos mentales humanos dependen de las propiedades físico-químicas reales de los cerebros humanos reales" ^{[ 26 ]} se ha descrito a veces como una forma de " chovinismo del carbono ". ^{[ 117 ]} Steven Pinker sugirió que una respuesta a esa conclusión sería realizar un experimento mental contrario al de la Habitación China, donde la incredulidad va en la dirección opuesta. ^{[ 118 ]} Cita como ejemplo el cuento " Están hechos de carne", que describe una raza alienígena compuesta por seres electrónicos que, al encontrar la Tierra, expresan incredulidad ante la posibilidad de que los cerebros de carne de los humanos puedan experimentar conciencia y pensamiento. ^{[ 119 ]}

Sin embargo, el propio Searle negó ser un chovinista del carbono. ^{[ 120 ]} Dijo: «No he intentado demostrar que solo los sistemas de base biológica como nuestros cerebros pueden pensar... Considero que este tema está abierto a debate». ^{[ 121 ]} Afirmó que incluso las máquinas de silicio podrían, en teoría, tener conciencia y pensamiento similares a los humanos, si las propiedades físico-químicas reales del silicio pudieran utilizarse de forma que produjeran conciencia y pensamiento, pero «hasta que no sepamos cómo lo hace el cerebro, no estamos en condiciones de intentar hacerlo artificialmente». ^{[ 122 ]}