¿Cómo es posible que una máquina posea conciencia si la computación es una idea humana?

Supongamos que una computadora simula un cerebro humano para que pase la prueba de Turing. Supongamos que este cerebro recibe estímulos sensoriales que corresponden a una experiencia de estar en un mundo similar a la Tierra. Según tengo entendido, los defensores del computacionalismo suponen que este cerebro simulado tendría qualia.

La red neuronal, su estado y el código del programa se almacenan en una computadora y solo se pueden observar si alguien sabe cómo usar esta computadora. La forma en que se representa una red neuronal en la memoria y en el disco depende de las estructuras de datos, la arquitectura de la computadora, el endianismo , etcétera.

Supongamos entonces que muere el último ser humano en la Tierra, pero la simulación continúa ejecutándose en la computadora. Si no hay nadie en el Universo que entienda cómo funciona esta computadora en particular, entonces nadie podría observar este cerebro simulado. En otras palabras, este cerebro sería imposible de "descifrar" y, sin embargo, supuestamente seguiría experimentando qualia.

De ello se deduce que si este es el caso, entonces nada impide que existan otros cerebros "invisibles".

Sabemos que una computadora es un dispositivo computacional y está ejecutando una red neuronal compleja que corresponde a una mente similar a la humana, pero el Universo no lo "sabe". Es nuestra interpretación de lo que está sucediendo. No puedo desviarme de la conclusión de que si la premisa es cierta, entonces puede haber diferentes procesos que correspondan isomórficamente a los cálculos, algunos de los cuales pueden corresponder isomórficamente a las mentes, pero no lo sabremos porque no vemos esto. isomorfismo

¿Por qué los procesos dentro del Sol no podrían corresponder a algún cálculo (aunque de una manera no directa) que corresponde a una mente? Según esa lógica, podría haber infinitas mentes, todas experimentando algún tipo de qualia, "codificadas" de diferentes maneras en todos los procesos del mundo.

Por el contrario, ¿qué pasa si reemplazamos una computadora con un hombre (con una gran vida útil) siguiendo meticulosamente el algoritmo en papel? ¿Sus cálculos darían lugar de algún modo a la conciencia dentro de un cerebro simulado en papel?

Esto simplemente no tiene sentido para mí. ¿Los computacionalistas creen esto o tienen un argumento en contra?

Esta pregunta podría ser de interés para una definición más matizada de la conciencia.
"... ¿Sus cálculos de alguna manera darían lugar a la conciencia dentro de un cerebro simulado en papel?" esta idea se explora en la Habitación china de Searle . Searle dice que no es inteligencia, otros dicen que lo es.

Respuestas (3)

Introducción

Tus pensamientos parecen estar a caballo entre el panpsiquismo y el computacionalismo . También es posible que solo esté planteando una pregunta sobre el fisicalismo : "si los pensamientos mentales son el resultado de interacciones físicas, ¿por qué la conciencia se limitaría a las cosas con cerebro?". Bueno, la respuesta corta es que fundamentalmente no lo es, pero tampoco lo es una reacción de fusión y no los ves apareciendo por todas partes. Solo aparecen (o "emergen", por así decirlo) en lugares específicos donde las condiciones son las adecuadas. Así, supone el fisicalista, lo hace la mente. También señalaré que el fisicalismo (una forma de monismo) es básicamente la postura científica dominante.

Computacionalismo

Tenga en cuenta que su sugerencia:

¿Sus cálculos darían lugar de algún modo a la conciencia dentro de un cerebro simulado en papel?

sería una interpretación extrema del computacionalismo. En esencia, el computacionalismo simplemente dice que los estados mentales se basan en representaciones mentales (semántica) que operan en el contexto (sintaxis): son parte del proceso cognitivo. Los especialistas en computación individuales pueden interpretar, en diversos grados, qué tan estrictos son los requisitos en el hardware subyacente.

La lingüística chomskiana y la teoría de la visión de David Marr fueron dos estudios empíricos que influyeron mucho en la percepción de los científicos cognitivos a favor del computacionalismo en los años 70. La literatura neurocientífica más reciente ha favorecido la visión conexionista (tenga en cuenta que los dos no son necesariamente excluyentes entre sí).

Una revisión de la literatura más reciente sobre la conciencia, Hacia una neurociencia cognitiva de la conciencia: evidencia básica y un marco de trabajo , resume sus hallazgos empíricos:

Tres hallazgos empíricos fundamentales sobre la conciencia :

  1. El procesamiento cognitivo es posible sin conciencia
  2. La atención es un requisito previo de la conciencia.
  3. La conciencia es necesaria para operaciones mentales específicas.

3. parecería ser consistente con el computacionalismo (la unión de la computación y la conciencia). Más apoyo a la postura computacionalista :

El principio de la energía libre: ¿una teoría del cerebro unificado?

Los agentes pueden suprimir la energía libre cambiando las dos cosas de las que depende: pueden cambiar la información sensorial actuando sobre el mundo o pueden cambiar su densidad de reconocimiento cambiando sus estados internos. Esta distinción se relaciona muy bien con la acción y la percepción.

Conexionismo:

Otra perspectiva empírica proviene de otro punto de vista fisicalista llamado conexionismo. El conexionismo ha ganado popularidad entre los neurocientíficos a medida que desarrollamos tecnología para sondear mejor los cerebros y modelar computacionalmente los mecanismos neuronales.

La conciencia como información integrada: un manifiesto provisional

(i) la cantidad de conciencia corresponde a la cantidad de información integrada generada por un complejo de elementos; (ii) la calidad de la experiencia está especificada por el conjunto de relaciones de información generadas dentro de ese complejo.

Alguna literatura que apoya la idea de Tononi:

Ruptura de la conectividad efectiva cortical durante el sueño.

Un índice de conciencia con base teórica independiente del procesamiento sensorial y el comportamiento

Más apoyo al conexionismo :

Brainweb: sincronización de fases e integración a gran escala

El surgimiento de un momento cognitivo unificado se basa en la coordinación de mosaicos dispersos de regiones cerebrales funcionalmente especializadas.

Su respuesta realmente no contradice la mía. Escribí: "Desde la perspectiva de la ciencia experimental, no existe una operacionalización universalmente aceptada de la 'conciencia'". (a) Concebir el cerebro como una computadora, no significa que se pueda medir la conciencia. (b) Y no veo cómo la "información integrada" se relaciona de alguna manera con lo que se ha significado por conciencia durante los últimos milenios: conciencia y consideración crítica de sus propios pensamientos y motivaciones. Ese experimento (Casali et al., 2013) [cont.]
[cont.] solo llega a las probabilidades (por lo que hay un gran margen de identificación errónea [falta de] conciencia), y el método comparativo utilizado solo se aplica a sujetos que sabemos (o creemos) que pueden tener conciencia: los investigadores compararon pacientes en coma a las personas que informan (o que conocemos por experiencia propia ) de ser conscientes. Si quisiéramos probar una computadora o un animal con este método, tendríamos que confiar en que sabían y decían la verdad cuando reclamaban la conciencia. Lo cual no es lo mismo que medir directamente la conciencia. Lo que confirma mi respuesta.
El único conflicto es tu tono de despedida. Podríamos ir al intercambio de pila de física y cuestionar sus puntos de vista sobre la gravedad utilizando el solipsismo, pero eso no es muy constructivo. Usamos el empirismo en la ciencia, por lo que tuvimos la física newtoniana durante mucho tiempo antes de la física cuántica. Y eso está bien, necesitábamos la física newtoniana como base para construir.
Además, para mayor claridad, con respecto a la "información integrada", está seleccionando un estudio de seguimiento que demuestra la importancia clínica del trabajo de Tononi. El artículo original de Tononi sobre información integrada sí menciona el espacio de qualia (justo en abstracto). Su extensión a la práctica clínica (Casali et al 2013) no es una limitación, sino una medida clínica de la definición teórica. Además, muchos de sus puntos se reconocen en la introducción del artículo de Tononi (lo animo a leerlo, es gratis).

Respuesta corta: esto se conoce formalmente como el problema difícil de la conciencia : si puede resolverlo, probablemente ganará un premio Nobel:

El problema difícil de la conciencia es el problema de explicar cómo y por qué tenemos qualia o experiencias fenoménicas: cómo las sensaciones adquieren características, como colores y sabores.

Tenga en cuenta que este problema supone que los " qualia " son construcciones válidas, lo que no se acepta universalmente (consulte otra pregunta para obtener más información al respecto). Todas las variantes del funcionalismo (incluido el conductismo, el fisicalismo y el computacionalismo) tienen este problema si aceptan los qualia como válidos.

what if we replace a computer with a man (with a large lifespan) meticulously
following the algorithm on paper. Would his computations somehow give
rise to consciousness within a brain simulated on paper?

Irónicamente, el término "computadora" solía referirse a un hombre. Hubo un tiempo en que las " computadoras " eran personas que... computaban. Alan Turing se refirió a tales "computadoras" procesando símbolos en "cinta" (carretes de papel) cuando describió las máquinas informáticas en sus artículos muy proféticos sobre inteligencia artificial y aprendizaje automático en la primera mitad del siglo XX.

Estas " máquinas de papel " llevaron al filósofo Ned Block a formular el experimento mental de la nación china (1978):

Supongamos que toda la nación de China fue reordenada para simular el funcionamiento de un solo cerebro (es decir, para actuar como una mente según el funcionalismo). Cada persona china actúa como (digamos) una neurona y se comunica por radio especial de dos vías de la manera correspondiente a las otras personas. El estado mental actual del cerebro de China se muestra en satélites que se pueden ver desde cualquier lugar de China. Luego, el cerebro de China se conectaría por radio a un cuerpo, uno que proporcione las entradas sensoriales y las salidas de comportamiento del cerebro de China.

Tenga en cuenta que esto difiere del argumento de la habitación china de John Searle , que se centra en si el sistema "entiende", mientras que el experimento del cerebro chino se centra en si la máquina da lugar a la fenomenología (qualia).

We know that a computer is a computational device, and it is running a complex
neural network that corresponds to a human-like mind, but the Universe doesn't
“know” it. It is our interpretation of what is happening.

Hablando de John Searle :

... los procesos de información son relativos al observador: los observadores eligen ciertos patrones en el mundo y los consideran procesos de información, pero los procesos de información no son cosas en el mundo en sí mismos. Dado que no existen a nivel físico, argumenta Searle, no pueden tener una eficacia causal y, por lo tanto, no pueden causar conciencia.

Tenga en cuenta que este argumento no es universalmente aceptado ( ejemplo , ejemplo ).

Why couldn't processes inside the Sun correspond to some computation (albeit in
a non-straightforward way) which corresponds to a mind? By that logic, there
could be infinitely many minds, all experiencing some sorts of qualia,
“encoded” in different ways in all processes in the world.

Esto se ha denominado el " argumento de la trivialidad ". Hay 4 ejemplos bien conocidos en la literatura: el cubo de Hinck, la pared de Searle (WordStar), la roca de Putnam y el reloj y la esfera de Chalmers. Estos filósofos argumentan que, lejos de necesitar un Sol, los objetos cotidianos, como paredes, rocas y cubos de agua, tienen la complejidad suficiente para codificar estados computacionalmente conscientes.

Un concepto similar es un " cerebro de Boltzmann ":

... una entidad autoconsciente que surge debido a fluctuaciones aleatorias extremadamente raras fuera de un estado de equilibrio termodinámico. ... en muchas teorías existentes sobre el Universo, los cerebros humanos en el Universo actual parecen ser ampliamente superados en número por los cerebros de Boltzmann en el Universo futuro quienes, por casualidad, tienen exactamente las mismas percepciones que nosotros ...

Los filósofos a menudo usan tales experimentos mentales para argumentar por reductio ad absurdum . Sin embargo, el hecho de que algo parezca absurdo o no tenga sentido no significa necesariamente que sea falso (por ejemplo, el experimento mental del gato de Schrödinger ), por lo que este tipo de argumento tiene limitaciones cuando se aplica a un misterio como la conciencia. La realidad es que no sabemos cómo o si las máquinas pueden llegar a poseer conciencia (consulte otra pregunta para obtener más información al respecto).

Siendo esto cogsci.SE, no filosofía.SE, no podemos simplemente aceptar una definición filosófica de la conciencia. Desde la perspectiva de la ciencia experimental, no existe una operacionalización universalmente aceptada de la "conciencia".

Por ejemplo, es imposible medir la conciencia directamente. Un enfoque habitual es dejar que los sujetos humanos informen de sus pensamientos. Pero, por supuesto, no sabemos si informan verazmente (todos) sus pensamientos conscientes, o si tal vez incluso están equivocados sobre lo que sucede en sus mentes. Además, no podemos investigar la conciencia de seres con los que no podemos comunicarnos (de manera confiable), como animales, niños y personas discapacitadas. Lo que hacemos es deducir del comportamiento que aparecea nosotros para reflejar la conciencia que la conciencia debe estar presente. Pero los experimentos han demostrado que incluso los sujetos humanos pueden mostrar tal comportamiento (por ejemplo, con un propósito) mientras ellos mismos son completamente inconscientes (es decir, no conscientes) de esto. La única conciencia que está directamente disponible para un investigador es la suya propia, pero la introspección ha sido abandonada en gran medida como método científico confiable hace más de cien años porque, por supuesto, desde la perspectiva de otras personas , nuestros informes no son confiables para ellos . las razones expuestas anteriormente.

Lo que sigue es que mientras las ciencias cognitivas intentan estudiar la conciencia, aún no han ideado un medio para medirla. Por lo tanto, nosotros, los científicos cognitivos, no podemos concluir si una computadora, un software o el sol tienen conciencia. Lo que hace que las discusiones sobre el estado de esa conciencia después de la desaparición de los seres humanos sean bastante inútiles para nosotros.

Pero estoy seguro de que los filósofos podrán escribir libros enteros sobre el tema ;-) Podrías preguntarles .

De hecho, hay una gran cantidad de artículos de neurociencia que definen la conciencia y sacan varias conclusiones empíricas. Publicaré enlaces más tarde. He querido llegar a este hilo.
También debo señalar que el enfoque computacional no es exclusivamente filosofía; es un enfoque destacado de la psicología cognitiva (como se analiza en el enlace wiki publicado por el OP).
@Qué: las ciencias cognitivas tienen muchos enfoques y el enfoque filosófico podría no ser el más popular en este momento, pero si se toma en serio, es de interés. En cuanto a las definiciones computacionales de conciencia en neurociencia, ya tenemos una buena pregunta al respecto .