¿Alguna vez las computadoras tendrán conciencia?

¿Alguna vez las computadoras tendrán conciencia?

Depende de a quién le preguntes. 3 respuestas posibles:

1. La conciencia y la mente son fenómenos no físicos, y las computadoras son sistemas físicos, así que no, las computadoras no pueden ser conscientes ya que carecen del componente no físico. La idea de que la conciencia no es física se llama dualismo (mente-cuerpo) . Hay diferentes tipos de dualismo, y el dualismo no necesariamente dice que la mente no física deba encontrarse en un organismo vivo. Es posible que la mente pueda existir en todas las cosas, pero sin cerebro para usar la mente. Es posible que las computadoras ya sean conscientes sin suficiente "poder cerebral" para mostrar signos de conciencia. (Ver Panpsiquismo).

2. La conciencia es un fenómeno físico, el cerebro es una computadora biológica y la mente es solo un software implementado en el cerebro. Esta posición se conoce como funcionalismo o teoría computacional de la mente . En cuyo caso, las computadoras pueden y muy probablemente se volverán conscientes.

3. La conciencia es física, pero tiene un componente no computacional o algorítmico. John Searle, del famoso Chinese Room , sostiene tal punto de vista: la conciencia es un fenómeno puramente físico, pero la simulación de la conciencia no es lo mismo que la conciencia, al igual que la simulación de un pájaro volando en una computadora no constituye un vuelo real. En este caso, las computadoras digitales nunca se volverán conscientes, pero diferentes tipos de biocomputadoras futuristas podrían volverse conscientes, siempre que obtengamos una mejor comprensión de la física y la biología de la conciencia.

¿Qué se necesitaría para lograrlo?

En el caso de (2), simplemente necesitamos hacer más avances en la programación de computadoras. Hace 30 años no sabíamos cómo programar computadoras para reconocer el habla o rostros y ahora podemos. De manera similar, las capacidades de software y hardware avanzarán lo suficiente en 20 o 30 años hasta el punto en que podamos programar la conciencia.

En el caso de (3), se deben descubrir los principios físicos y bioquímicos detrás de la conciencia. Solo así podremos duplicarlos.

¿Cómo podemos determinar si una computadora tiene uno?

Esta es la pregunta más interesante de este post. Las otras respuestas mencionan la prueba de Turing. La prueba de Turing es para la inteligencia (puede una computadora ser tan inteligente como un ser humano), no para la conciencia. No sabemos cómo determinar la conciencia, y este problema ha sido descrito como el problema difícil de la conciencia . De hecho, la idea de que, por un lado, existe la conciencia, pero por el otro no podemos medirla o determinarla utilizando ningún medio empírico, se utiliza como argumento a favor del dualismo y en contra del fisicalismo. El razonamiento es el siguiente: si algo es físico, entonces se puede determinar usando experimentos físicos. Sabemos que la conciencia existe, pero no podemos determinar su existencia por ningún medio físico, por lo tanto, debe ser un fenómeno no físico (ver el argumento del conocimiento de Frank Jackson).).

Para más detalles ver las siguientes publicaciones:

• ¿Es la simulación de estados emocionales equivalente a experimentar emociones realmente?
• ¿Puede ser cierto el Funcionalismo Mente-Cuerpo y, sin embargo, la Inteligencia Artificial General sigue siendo imposible?
• ¿Afirmar que la IA fuerte es imposible implica una creencia en el dualismo de sustancias?
• https://philosophy.stackexchange.com/a/30575/13808

Como PeterJ señala en los comentarios, una posición adicional con respecto al problema mente-cuerpo es el idealismo o el inmaterialismo, lo que significa básicamente que todo está formado por mentes e ideas (cuyo proponente más famoso es Berkeley ). En esta cosmovisión: la mente y la conciencia son inmateriales, pero también lo es todo lo demás, por lo que casi todas las apuestas están canceladas. Presumiblemente, en algunas versiones del inmaterialismo, las computadoras tendrán conciencia, ya que, como todo lo demás, están hechas del mismo material que las mentes.

El idealismo/inmaterialismo no es una posición popular en estos días y los filósofos que trabajan en cuestiones de IA casi nunca se suscriben a esta visión del mundo, por lo que no se ha abordado la cuestión de la conciencia informática en un universo inmaterialista.

La pregunta final es la "más fácil" de responder. Nuestro método actual para determinar si una computadora es "consciente" o no es ver si podemos distinguirla de un ser humano. Esta prueba se llama Prueba de Turing. Si, después de hablar tanto con las computadoras que ejecutan la IA como con las personas reales, no podemos saber quién es quién, decimos que la IA ha pasado la prueba de Turing. ¿Es esta prueba realmente capaz de determinar si una IA está consciente? No. Pero, de nuevo, no podemos decir realmente si alguien con quien estamos hablando está realmente consciente o no.

¿Se creará alguna vez una IA que al menos parezca consciente? Creo que sí. El poder de procesamiento de las computadoras todavía está evolucionando rápidamente. El aprendizaje automático sin duda ha hecho grandes avances. Pero aún pasará un tiempo antes de que surja la verdadera IA (lo que no se conoce como inteligencia general artificial).

En cuanto a lo que se necesita, esa es una pregunta más difícil de responder. Hay una serie de teorías sobre el tema. Mi teoría personal está relacionada con el lenguaje. Creo que necesitamos tener una IA que tenga una voz externa y una voz interna, de la misma manera que nos hablamos a nosotros mismos para resolver los problemas. También creo que necesitamos una prueba mejor. La prueba de Turing actual es un resultado de todo o nada. No nos dice qué tan lejos estamos de la marca o en qué dirección debemos movernos.

Para responder a estas preguntas, primero debemos determinar qué es la conciencia humana. Esto no es tan simple como parece y conduce a uno de los debates más interesantes de la cosmología.

Stephen Hawking (y muchos otros cosmólogos y astrofísicos) creen que el universo es determinista (o algorítmico) por naturaleza. Si este es el caso, entonces significa que la conciencia humana, por definición, tiene que ser de naturaleza algorítmica porque el universo no puede contener algo que funcione más allá de sus propias leyes fundamentales.

Si este es el caso, entonces SÍ; las computadoras pueden tener conciencia porque las computadoras también son algorítmicas por naturaleza. Todo lo que se requeriría (bajo el concepto matemático de formalismo) es que la computadora esté ejecutando un algoritmo de suficiente complejidad. Esto también se conoce como teoría de IA fuerte. En tal caso, la Prueba de Turing (como se ha descrito en la respuesta de Daniel) es la forma de detectarlo. La prueba de Turing es esencialmente una prueba 'doble ciego'; si no puede distinguir la diferencia entre A y B, entonces A debe ser igual a B. (Más sobre esto más adelante).

El problema con este modelo es que si el universo es de naturaleza algorítmica, eso significa que si conoce el algoritmo y conoce el estado del universo en cualquier momento dado, puede 'determinar' el estado del universo en cualquier otro momento, ya sea hacia adelante o hacia atrás. Dicho de otra manera, significa que el libre albedrío (y la conciencia para el caso) es una ilusión y no tenemos poder de elección; cada decisión que tomamos es el resultado de la programación original del universo y solo nos parece una elección porque los algoritmos en nuestro cerebro son lo suficientemente complejos como para formar una conciencia localizada.

Por otro lado, hay matemáticos como Roger Penrose que afirman que el universo NO es de naturaleza algorítmica, y que los algoritmos son simplemente un gran subconjunto de las construcciones matemáticas en el universo. Lo más importante es que afirma que la mente humana en sí misma no es algorítmica y tiene que serlo para que seamos conscientes. En su libro 'La nueva mente del emperador', explica que este elemento no algorítmico es algo que él describe como Insight.

En el universo de Penrose, la conciencia y la sensibilidad son un subproducto de una función no algorítmica que SÍ permite el libre albedrío y nos permite tomar decisiones (y cambios) en el universo que lo alteran de tal manera que su estado futuro NO PUEDE determinarse a partir de un estado anterior. Esta es una buena noticia para nosotros porque significa que el libre albedrío que creemos tener es real.

Sin embargo, son malas noticias para las computadoras conscientes. Debido a que las computadoras son algorítmicas por naturaleza, nunca podrían ser conscientes, aunque podrían parecerlo si se aplicara la prueba de Turing. Aquí es donde falla la prueba de Turing; es una prueba de salida, no de proceso. El hecho de que una computadora pueda simular respuestas humanas, no lo hace igual a un humano, IE; Consciente.

Lo que hace que la prueba de Turing parezca funcionar es algo llamado antropomorfización, o la tendencia de los humanos a ver patrones similares a los humanos en objetos no humanos. La antropomorfización es la razón por la que jugamos con minifigs y muñecos de lego, etc. Cuando algo nos parece o responde de una manera que se siente humana, tendemos a atribuirle un marco humano. En este caso, un algoritmo de computadora que puede pasar una prueba de Turing es más como una muñeca sofisticada.

Asi que; tenemos que elegir: o las computadoras PUEDEN ser conscientes y libres y nuestra propia conciencia es una ilusión, O las computadoras NO PUEDEN ser conscientes porque el libre albedrío es real pero TIENE que existir fuera de los límites de los algoritmos.

Algunas advertencias sobre todo esto.

Primero, estoy usando la palabra conciencia en el sentido semántico convencional, ya que esa es la forma en que se ha usado en esta pregunta. En la investigación que estoy haciendo para mi doctorado en conciencia de las máquinas, estoy construyendo una ontología de términos relacionados con la conciencia y en la que la conciencia se refiere a la capacidad 'siempre activa' para asimilar nuevas entradas sensoriales e integrar los nuevos aprendizajes en un entorno interno. visión conceptualizada del mundo. Lo que llamamos conciencia en esta respuesta es realmente sensibilidad (o posiblemente vitalidad).

En segundo lugar, incluso si es posible un programa de computadora inteligente, eso no lo haría humano. Esta respuesta ya es lo suficientemente larga, por lo que no lo aburriré con la neurofisiología, pero en resumen, los humanos tienen instintos y emociones que se encuentran debajo de los centros de razonamiento del cerebro. Las computadoras serían efectivamente toda la corteza cerebral. Esto significa que no pueden tener instintos y emociones reales como los humanos aunque puedan simularlos. En resumen, una computadora no puede tener instinto de supervivencia (Skynet no puede suceder de la forma en que se describe), no puede estar feliz o triste, etc. Por eso, la idea de aplicarle los derechos humanos sería inválida. .

Finalmente, debemos tener claro qué es realmente el comportamiento 'inteligente'. Tengo un programa para recoger palos que funciona muy bien. En algunas configuraciones de recuento inicial de palos, número que puede recoger, etc., es imposible de superar. Esto no es porque sea una IA, es porque el juego es 'matemáticamente completo'. Una vez que comprenda la fórmula matemática requerida para jugar el juego, es fácil programar una computadora para jugar el juego 'perfectamente'. Una vez que explicas la fórmula matemática a un humano, se vuelve igual de bueno.

Este último punto es sutil pero fundamental. Tendemos a ver una respuesta a algo que no entendemos completamente como 'inteligente', pero este programa de computadora no juega mejor que nosotros porque haya aprendido algo que no sabemos, juega mejor porque está siguiendo un secuencia numérica que está programada en él. Tener acceso a datos que nosotros no tenemos puede hacer que parezca inteligente, pero todo lo que realmente hace es seguir ciegamente un conjunto de instrucciones, como cualquier algoritmo. Eso significa que inferimos inteligencia de nuestras interacciones con ella. No implica esa inteligencia.

Respuesta larga, pero para resumir; las computadoras solo pueden ser conscientes si nuestro propio sentido de libre albedrío es una ilusión. Esto no quiere decir que las computadoras no puedan simular la sensibilidad, pero la verdadera prueba de la sensibilidad no son los resultados (según Turing) sino el proceso. Un algoritmo sensible DEBE tener la capacidad de conceptualizar el significado como una estructura interna y construir sobre ese significado a través de nueva información.