Conciencia en la teoría de la simulación y la IA, ¿por qué algunos creen que es posible?

Usted pide "un buen argumento" para la idea de que la conciencia es posible en una simulación. No estoy seguro de que exista tal argumento, porque en ausencia de un acuerdo sobre qué es realmente la conciencia, o cualquier forma objetiva de medirla o definirla, es imposible argumentar de manera significativa.

Sin embargo, intentaré presentar una interpretación de la conciencia en la que es claramente posible dentro de una simulación; No espero convencerte de que esta interpretación sea correcta, pero quizás te ayude a comprender lo que alguien como Nick Bostrom podría estar pensando al escribir sobre simultacionismo o IA.

El comportamiento, es decir, las emociones y acciones aparentes del yo real y el cerebro simulado digital de mí, serían idénticos. Sin embargo, es obvio para mí que el cerebro digital simulado no sería consciente [...] porque el cerebro digital son solo cálculos de lo que haría un cerebro real...

Creo que este es el punto clave de la posible confusión; ¿Qué es lo que crees que hace un cerebro real? Desde mi perspectiva, la función relevante de un cerebro es procesar datos para tomar decisiones, y parece obvio que la conciencia es una parte esencial de ese proceso de toma de decisiones.

(Un cerebro real también realiza varias funciones autónomas, como regular la temperatura corporal y los latidos del corazón, pero supongo que podemos estar de acuerdo en que esas funciones son irrelevantes en este contexto).

Si tomamos mi congelador y ejecutamos una simulación física del congelador, ¿esperaría que su CPU se enfríe o algo así, no, porque es solo un cálculo de dónde terminarán los átomos en el congelador simulado?

La acción de un congelador es de naturaleza física: transfiere calor de un lugar a otro. Simular una acción física es claramente distinto de realizar realmente esa acción.

Por otro lado, no hacemos ninguna distinción entre "sumar dos números" y "simular la suma de dos números", ni argumentamos que una computadora solo es capaz de hacer lo último. Esto se debe a que la suma es una acción conceptual, no física. Todo lo que importa es el algoritmo, no la implementación física del mismo: ya sea que use un ábaco, un cerebro o un sumador binario, todavía está sumando números.

La toma de decisiones -y por lo tanto, en mi interpretación, la conciencia- es muy claramente una acción del segundo tipo, conceptual y, por lo tanto, independiente de la implementación física.

Nuevamente, no estoy tratando de convencerlo de que esta interpretación sea correcta, simplemente que es tanto coherente como plausible. Personalmente, creo que la navaja de Occam favorece la idea de que la conciencia tiene algún tipo de existencia física independiente, o es un aspecto de lo sobrenatural, pero esa es solo una opinión. Lo que preguntaría es: ¿tiene un buen argumento para su interpretación de la conciencia?

Nadie ha encontrado ninguna evidencia creíble de que el cerebro humano sea algo más que una computadora muy complicada que ejecuta un software extraño. Nadie ha encontrado ninguna evidencia creíble de que los humanos no sean lo mismo que los p-zombies. En particular, no tienes ninguna evidencia creíble de que no eres un p-zombie.

"Pero eso es ridículo", puedes decir. "Es completamente obvio que no soy un p-zombie".

Sí, bueno, ¡muchas falsedades son completamente obvias! Por ejemplo:

• Es completamente obvio que la tierra está inmóvil.
• En la ilusión de la sombra del tablero , es completamente obvio que el cuadrado en la sombra es más claro (lo que significa que está impreso con una tinta más clara o que se muestra con un mayor brillo de píxeles) que el cuadrado fuera de la sombra.
• Si lanzas una moneda normal un gran número de veces, es completamente obvio que la diferencia entre el número de caras y el número de cruces oscilará alrededor de 0.
• Si una prueba para una determinada enfermedad es precisa el 99 % de las veces, y alguien se hace la prueba y el resultado es positivo, es completamente obvio que hay un 99 % de posibilidades de que la persona tenga la enfermedad.
• Supongamos que hay un hombre que es mayor que una mujer. Es completamente obvio que la mujer nunca podrá, más tarde, ser mayor que el hombre.
• Supongamos que hay dos objetos y queremos aumentar la distancia entre ellos. Es completamente obvio que la única forma de que eso suceda es que al menos uno de los dos objetos se mueva.

Todas estas declaraciones han parecido completamente obvias para alguna persona en algún momento y, sin embargo, todas son falsas.

Así que está claro que el simple hecho de ser completamente obvio no es razón suficiente para creer algo. Para que podamos estar justificados al pensar que los humanos tienen un tipo de conciencia que los p-zombis no tienen, deberíamos tener algún tipo de corroboración de esta noción. Algunas pruebas adicionales para ello.

Pero no hay evidencia adicional para ello.

Perspectiva del materialismo

Uno de los argumentos a favor de la posibilidad de mentes simuladas proviene de la suposición de que, en general, la física puede simularse. Si toda la física se puede simular, entonces debe ser conceptualmente posible simular (entre otras cosas) todos los procesos que suceden en la Tierra, incluida la biología, las células, los organismos, los seres vivos y también los seres humanos.

La perspectiva del materialismo (o fisicalismo) asume y afirma, en esencia, que "la física es todo lo que hay en la realidad", por lo que si la física de estos seres, incluida la física en sus cerebros, es correcta, entonces todo su comportamiento externo e interno. también sería "correcto". Por lo tanto, afirmar que estos seres simulados son sustancialmente diferentes de nosotros en algún aspecto requiere afirmar que nuestra función mental implica algo más que "solo" la física y la química que suceden en nuestros cerebros, lo que el enfoque materialista niega fundamentalmente como una suposición extraordinaria irrazonable sin ninguna razón. evidencia de apoyo.

¿Qué es la conciencia?

No existe una definición comúnmente aceptada de conciencia (que yo sepa).

Esta falta de una definición precisa presenta el primer y mayor problema a la hora de dar una respuesta concreta a "¿puede la inteligencia artificial ser consciente?".

La página de Wikipedia sobre la conciencia animal entra en detalles sobre esto. Enumera un ejemplo en 2004 donde ocho neurocientíficos dijeron lo siguiente en "Función del cerebro humano":

... no sabemos si la conciencia puede surgir de sistemas no biológicos, como las computadoras... En este punto el lector esperará encontrar una definición cuidadosa y precisa de conciencia. Estarás decepcionado. La conciencia aún no se ha convertido en un término científico que pueda definirse de esta manera. ...

¿Cómo puedes decir que algo es o no es consciente si no sabes qué es exactamente la conciencia?

¿Cómo medimos la conciencia?

Así que no tenemos una definición, pero consideremos cómo podría medirse.

Ambos de los siguientes presentan algunos problemas, pero no creo que haya otras formas de medir la conciencia (cubren una gama bastante amplia de formas posibles de medirla).

Por lo tanto, es posible que nunca estemos 100% seguros de que algo es consciente , incluso con una definición formal y una forma de medirlo.

Pero veamos qué podrían decir estas formas de medir sobre la inteligencia artificial.

Análisis interno físico

Una forma de medirlo sería mirar el funcionamiento interno de una entidad (por ejemplo, un escáner cerebral o un mapa o mirar la arquitectura o el flujo de una computadora o programa de computadora).

Medirlo de esta manera daría la respuesta más concluyente, pero también es muy, muy difícil. ¿Qué sucede si no puede ver este funcionamiento interno con suficiente detalle? ¿Qué pasa si no puedes entenderlo completamente? ¿Cómo traducirías lo que estás viendo en una respuesta a "es esta cosa consciente"? Si no puede comprenderlo completamente, ¿sería capaz de compararlo con una entidad que funciona de manera fundamentalmente diferente? Todavía hay mucho que no entendemos sobre lo que sucede en la mente humana, por lo que no estamos realmente en un punto en el que podamos usar eso para saber si algo completamente diferente es consciente.

Aunque en realidad uno podría argumentar bastante bien que algunas inteligencias artificiales pueden ser conscientes (en teoría). Suponga que las "almas" (como en las partes no naturales de nuestra mente) no existen o no son necesarias para la conciencia (este argumento no funcionaría muy bien sin esta suposición). Entonces, los cerebros son solo sistemas biológicos que a menudo se crean en la naturaleza durante la reproducción. No parece haber ninguna buena razón para creer que es fundamentalmente imposible crear artificialmente algo que pueda crearse naturalmente, o crear algo que funcione exactamente igual. De hecho, las redes neuronales artificialesson, como sugiere el nombre, creados para ser estructuralmente similares a cómo funciona el cerebro (pero, por supuesto, construidos a partir de código en lugar de biología). Aunque son mucho, mucho más simples, ya que no hay suficiente poder de cómputo en el mundo para acercarse a lo que hace un cerebro humano (esto parece ser más un desafío práctico que un problema teórico).

Análisis observacional

La otra forma de medir la conciencia sería a través de la observación, por ejemplo, observando cómo se comporta en respuesta a los estímulos.

Podemos comparar esto con el tema estrechamente relacionado de la autoconciencia . Esto generalmente se mide exclusivamente a través de la observación. Una forma común de medir esto es poniendo a la entidad frente a un espejo y viendo si se reconoce a sí misma. También podría hacerle preguntas (si es posible) para ver si sus respuestas demuestran autoconciencia.

Esto tiene lo que yo llamaría "el problema de la simulación". Si soy consciente y algo actúa exactamente como yo lo haría, ¿es esa cosa también consciente? Dado que solo estamos midiendo la conciencia a través de la observación, la única respuesta posible que podemos dar aquí es "sí".

Ahora, la inteligencia artificial puede estar todavía muy lejos de lo que los humanos son capaces de hacer, pero han hecho un gran progreso hacia lo que los humanos son capaces de hacer en muchas áreas complejas (como el procesamiento del lenguaje natural y la visión por computadora ) . Por supuesto, todavía queda un largo camino por recorrer, pero no veo una razón para creer que una computadora u otro dispositivo artificial sea fundamentalmente incapaz de simular el comportamiento de un ser humano. Como referencia, soy un científico informático que trabaja con inteligencia artificial.

Entonces, con este tipo de análisis, concluiríamos que algunas futuras inteligencias artificiales pueden ser conscientes (en teoría).

Decir que la conciencia no es posible en un ser simulado tiene también extrañas consecuencias. Supongamos que creamos una simulación que se parece mucho a un ser humano. Digamos, hacemos su caso 2 en alguien que nunca ha estado interesado en la conciencia todavía, y luego, desafortunadamente, la persona real muere, pero la simulación continúa y luego se interesa en la conciencia (la persona real también lo habría hecho, pero falleció antes de eso). punto). Digamos que la simulación no tiene acceso a ninguna literatura ni a nadie con quien hablar sobre esto, pero descubre muchos de los mismos conceptos (ya que la persona real podría haber hecho lo mismo): se le ocurre la idea de qualia , el argumento del espectro invertido , el argumento del conocimiento, etc. Argumenta ferozmente de manera similar a como lo haces tú. ¿Realmente pensamos que podría haber descubierto estos conceptos sin tener acceso a la conciencia real?

Parece que cuando comencé a pensar en la conciencia, tener acceso inmediato a la cosa real, la experiencia consciente, afectó mucho mi pensamiento; fueron los datos utilizados por mi (espero) razonamiento lógico. Entonces, ¿cómo puede la simulación terminar razonando de la misma manera sin tener acceso a ella?

Tienes razón al encontrar absurda esta posición. Y no se trata solo de filósofos y comp. científicos, pero también físicos, como Brian Greene, que admiten abiertamente que lo que piensan es que la conciencia se "crea" mediante computación/manipulación de símbolos. Hay tres puntos que me gustaría hacer.

1. Nunca definen qué es esta "conciencia" que esperan replicar. Si tiene la impresión de que mi conciencia es una acumulación de átomos en un rango muy estrecho de trayectorias, entonces, según la gente del campo materialista, la replicación de ese arreglo debería replicarme. Aquí está el problema. Puedo tomarte como persona, desintegrarte por completo en tus átomos, luego agregar más átomos y reconfigurarte en el mismo arreglo. De todos modos, esto está sucediendo todo el tiempo, estamos comiendo, excretando, perdiendo piel, cabello, perdiendo algunas neuronas, etc. Ahora, cuando los reúna en dos personas, ¿a través de qué ojos están mirando? Si dices persona 1, tiene sentido preguntar la diferencia en el material de la persona 1 y la persona 2 para identificar el proceso exacto que hace que te apegues al cuerpo de la persona 1 y no a la persona 2. Si esto te suena tonto, es porque lo es. La conciencia es un proceso que no es nuestro, ni creado por nosotros, porque si ese fuera el caso, mi conciencia tendría una etiqueta que la haría diferente de la conciencia de otra persona que tendría otra etiqueta adherida. Pero no es así.

2. Toma gases anestésicos y supuestamente estás "inconsciente", por lo que tiene sentido postular que tu conciencia fue causada por procesos obstaculizados por la anestesia. Sin embargo, ese proceso también es material, por lo que no hay nada que nos impida replicarlo. De hecho, ese proceso se encuentra en cada cerebro. Los contenidos de la conciencia pueden ser diferentes, pero la conciencia de los contenidos es universalmente idéntica. Eres consciente de X significa que eres consciente. Esa es la conclusión. Se puede decir que la conciencia es equivalente a conocer. El conocimiento puede replicarse en libros, videos, etc. El conocedor puede replicarse como un perro, un gato, un hombre o una mujer. Pero el acto mismo de conocer no se ve afectado por todos los parámetros identificables.

3. Los teoremas de incompletitud de Gödel resaltan el hecho de que ningún sistema formal de símbolos puede ser consistente y completo al mismo tiempo. Esto es obvio incluso si no eres un lógico entrenado. Puedes seguir cuestionando tus axiomas y construir oraciones que enfrenten dos de tus axiomas. La forma en que me gusta pensar en esto es pensar en ti mismo como un observador, hecho de los mismos símbolos que estás tratando de observar y luego llegar a una conclusión sobre los símbolos que estás observando. ¿Dónde se encuentra entonces la base del entendimiento? Una vez que llegas a la conclusión de que las hojas son verdes, te preguntas ¿qué es verde? El verde ciertamente no está fuera de lugar. El verde tampoco es perceptible a menos que tenga las células cónicas correctas en su retina. El verde tampoco es perceptible si tu cerebro no No saber formar un contexto dentro del cual pueda contrastar lo que significa verde. Percibir verde significa percibir lo que no es verde. Pero entonces, ¿cómo puedes saber fundamentalmente lo que es verde, sin su contexto o límites? no puedes Gödel muestra exactamente esta semántica con la lógica. No se puede asumir un conjunto de axiomas para explicarlo todo. Se derrumbarán en alguna parte, y si lo hacen, nunca tendrás una explicación simbólica completa de todo. Luego está la otra interpretación que le gusta dar a Roger Penrose: si puedes construir una oración como la paradoja de un mentiroso, que es perfectamente consistente con el algoritmo para construir oraciones en tu sistema, pero que, sin embargo, el sistema no puede probar o decidir. , entonces allí' un factor en la mente humana tal que puede ver la validez de la declaración y salir de la regresión infinita de probar esa declaración. Una computadora no sería capaz de responder a esto y entraría en un bucle infinito.Las computadoras no pueden entender el sarcasmo.

El paradigma materialista comete el error de tomar el comportamiento consciente como equivalente a la conciencia. Que no es. No hay razón para que sea así. El problema es que la otra posibilidad de que la conciencia sea anterior a la materia es tan radical que pondría patas arriba a la ciencia fundamental: pensar en algo que sea más fundamental que la física, dando lugar a la física como surge la física a la química y posteriormente a la biología. Los científicos simplemente no están lo suficientemente vendidos como para darse por vencidos porque operan bajo el paradigma en el que esperan mezclar símbolos y esperar una respuesta. La conciencia se reserva el poder de tomar completamente un sí por un no y un no por un sí. Tal clase de inconsistencia no es tolerada en ninguna ciencia que yo sepa. Por lo que' Esta inverosímil conciencia será incluso reconocida como un fenómeno radicalmente diferente en la ciencia actual. El problema duro sigue persistiendo porque es el resultado de no aceptar la conciencia de algo diferente a la materia.

este es un debate que ha estado ocurriendo durante cientos, si no miles de años, y continuará por muchos más.

hay muchos argumentos en ambos lados de la "trinchera" y asumo que estás familiarizado con algunos de ellos dado que conoces el término zombi filosófico.

Mi opinión sobre esta pregunta es que es posible que esté al tanto de algo obvio que la mayoría de las personas parecen estar ciegas. Las tradiciones religiosas en todo el mundo y durante miles de años informan que la "conciencia" y la "ceguera" tienen diferentes nombres.

Por ejemplo, en el Advaita Vedanta hindú, esto se refiere a ser capaz de ver la naturaleza divina de la mente y de la realidad última. A estas personas se les llama literalmente videntes - rishi - y hay paralelos en otras tradiciones.

Sin embargo, tener una posición sobre esta cuestión central de la filosofía de la mente no implica en sí mismo ver o no ver, ya que hay muchas razones "equivocadas" y argumentos falsos para ambas posiciones. Tenemos una capacidad infinita para debatir interminablemente cualquier cosa y enterrarla bajo montañas de argumentos y jerga.

Finalmente, esta explicación parecería naturalmente absurda para la mayoría de las personas, pero lamentablemente no se puede evitar.

Hace unos días he subido un paper que he escrito sobre esto, y en el que hago un repaso extenso de este problema y de la multitud de opiniones al respecto, y sin vergüenza lo enchufo aquí. Se llama "Una llave oculta a simple vista":

https://philarchive.org/rec/AIDAKH

Me encantaría saber qué piensas al respecto (ten en cuenta que no soy un filósofo profesional).

Creo que ciertamente es posible construir un dispositivo que sea consciente y construir una verdadera Inteligencia General Artificial (no sé si esto último requiere lo primero, y tampoco creo que nadie más lo sepa). Después de todo, un ser humano es en sí mismo un dispositivo de este tipo.

Sin embargo, tampoco veo evidencia alguna, muchos argumentos contrarios, para creer que nuestras tecnologías actuales están cerca de lograr esto. Ni siquiera veo ninguna razón para creer que cualquier extensión de nuestras tecnologías actuales lograría esto. Los únicos dispositivos que sabemos que logran esto son los cerebros, y los cerebros no funcionan exactamente como las computadoras. Incluso se puede argumentar que cuanto más poderosas hacemos nuestras computadoras, menos se parecen a los cerebros humanos, no más: ya son mucho más rápidos que los cerebros y los superan con creces en cualquier tarea que implique el cálculo, y esto hasta ahora no los ha convertido en ningún otro. más consciente que un ábaco por lo que puedo ver.

Nota: un gran libro sobre esto que leí recientemente es The Promise of Artificial Intelligence de Brian Cantwell Smith. Es un descendiente de la crítica fenomenológica de la IA que Hubert Dreyfus articuló en los años 70 (creo) pero expresado con más simpatía (soy un gran admirador de Dreyfus, pero su burla mordaz alienó innecesariamente a la comunidad de IA en mi opinión e impidió la recepción de sus ideas). Tenga en cuenta que Cantwell Smith está más enfocado en hacer un AGI y el desafío allí, en lugar de crear conciencia. Como dije antes, no creo que esté claro si estos desafíos diferentes o el mismo.