¿Tiene sentido definir una computadora como un dispositivo de manipulación de símbolos?

Sí, él (correctamente) significa "un dispositivo de manipulación de símbolos formales". Pero la "manipulación" necesita una pequeña aclaración. El formalismo habitual de los libros de texto está dado por el cálculo lambda, por ejemplo, https://en.wikipedia.org/wiki/Lambda_calculus#Formal_definition (google "lambda calculus" para mucho más).

Pero los dispositivos electrónicos implementan de forma nativa solo un lenguaje de máquina mucho más simple (dependiente de la arquitectura), algo típicamente más o menos como el MIX de Knuth, por ejemplo, https://en.wikipedia.org/wiki/MIX (google "Knuth MIX") .

Sin embargo, un intérprete de cálculo lambda siempre se puede escribir en cualquier lenguaje de máquina. De hecho, la "Tesis de la Iglesia" y la "Integridad de Turing" (más términos para buscar en Google) garantizan que casi cualquier idea formal sensata de "manipulación" es, en última instancia, equivalente a todas las demás.

Es decir, hay una clase de las llamadas "funciones computables" (google eso), lo que significa que una secuencia de símbolos que representan la entrada (el argumento de la función) se puede manipular en otra secuencia que representa la salida (el valor de la función). Si no existen tales manipulaciones, la función no es computable (google "función de detención" para un ejemplo no computable). Y todos los lenguajes de programación, es decir, todas las ideas formales de "manipulación", pueden en última instancia calcular exactamente la misma clase de funciones computables.

Entonces, Searle dice en última instancia y de manera equivalente que la conciencia no es (no puede ser simulada por) funciones computables. Pero su comentario, "... definir una computadora como un dispositivo de manipulación de símbolos solo parece agregar niebla al panorama de la IA", parece combinar la IA con la conciencia. La IA, también conocida como "sistemas expertos", es ciertamente computable, pero ciertamente no es conciencia. Y nadie nunca reclama tal cosa. Creo que tal vez su pregunta surge de un malentendido al respecto.

Editar... Hmm, ahora echando un vistazo a tu perfil, no imagino que tengas ninguna confusión/malentendido al respecto. Pero entonces no veo cómo podría tener alguna pregunta sobre el comentario de Searle. Entonces, ¿cuál es tu pregunta, más exactamente?

Editar (responda al comentario de Roddus a continuación)... En primer lugar, para ser más concretos, eliminemos esta terminología de "nivel de voltaje" innecesariamente vaga, que ha utilizado aquí y en los comentarios anteriores. Ver, por ejemplo, https://en.wikipedia.org/wiki/Bit#Physical_representation para la correspondencia entre bits y niveles de voltaje. Estamos hablando de los "símbolos" de Searle (secuencias de bits), independientemente de su representación física, que simplemente resultan ser niveles de voltaje en computadoras digitales electrónicas.

Con respecto al "significado", con respecto a las computadoras, supongo que lo que podría querer estudiar podría ser "semántica denotacional" (por ejemplo, https://en.wikipedia.org/wiki/Denotational_semantics y muchos otros resultados de Google) y " teoría del dominio" (p. ej., https://en.wikipedia.org/wiki/Domain_theory ). Entonces es la llamada "función semántica", que mapea la sintaxis (la denotación representada por cadenas de símbolos) a la semántica (el significado de la sintaxis representado en el llamado dominio de Scott), que captura la idea matemática de "significado" tal como se refiere a la computabilidad. El artículo breve https://www.cs.colorado.edu/~bec/courses/csci5535/reading/densem.pdfme parece una introducción bastante buena (no estoy buscando en Google nada de tipo wikipedia que se acerque a lo adecuado). Una introducción más larga pero más completa es (me parece) http://homepage.divms.uiowa.edu/~slonnegr/plf/Book/Chapter9.pdf Y/o intente buscar en Google "función semántica" denotacional (poner " función semántica" entre comillas, como se muestra, seguido de denotativo) para artículos tutoriales adicionales.

En cuanto a las conclusiones de Searle y su Habitación China, necesitaría comparar y contrastar el "significado" con respecto a las computadoras, versus el "significado" con respecto a la conciencia. Pero solo el primero está lo suficientemente bien definido para cualquier comparación rigurosa. Y si está realmente interesado, creo que es posible que deba estudiar más los dominios, tal vez particularmente la idea de aproximación representada por su ordenamiento poset, por el cual el "significado" puede comenzar siendo vago y definirse cada vez mejor con más- y más sintaxis. Pero eso supondría un esfuerzo bastante significativo, muy alejado de cualquier relación directa con la "conciencia". Así que no lo recomendaría a menos que esté realmente interesado.

Los aspectos teóricos de las ciencias de la computación podrían (nuevamente a juzgar por su perfil) ser adecuadamente interesantes, pero tal vez no los aspectos relacionados con la conciencia... ¿Son las computadoras (es decir, pueden simular las computadoras) "conscientes"? ¿O pueden exhibir un comportamiento indistinguible de la conciencia? Searle aparentemente dice "no". Ya sea que su argumento sea concluyente o no, es discutible, pero su definición de "computadora" es completamente adecuada. Cualquier argumento adicional tendría que discutir las capacidades finales de la "manipulación de símbolos": ¿hasta dónde puede llevarlo eso? Y eso es de hecho una pregunta abierta. Está cerrado con respecto a la teoría de funciones computables, pero el significado/semántica/etc. no está igualmente bien cerrado.

Creo que Searle, como casi todo el mundo en computación, está totalmente de acuerdo con la definición de computación mecánica de Turing. Por "computadora" Searle se refiere a cualquier dispositivo computacional mecánico (piense en la máquina Enigma y otras "computadoras" que destruirían ese estúpido comercial de manzana si lo vieran) que tiene una función muy simple. Si bien "manipula los símbolos formales" no es la mejor redacción, definitivamente no está mal; como ingeniero de software que tomó CIS en la universidad, no puedo estar en desacuerdo con la simplificación; de hecho, en un nivel sutil, el reconocimiento de símbolos de nivel base es bastante astuto por parte de Searle (por ejemplo, lenguajes de programación de bajo nivel frente a alto nivel, lex frente a parse, etc.)

Creo que, en general, la idea de Searle de "una computadora" es más flexible e incluiría todas las cosas que se considerarían máquinas de Turing. Desde la perspectiva de la escuela de nombres, usar el término "computadora" como término inclusivo sería mucho más fácil, pero requeriría la declaración explicativa a finales de los 90.

Para obtener una respuesta, primero se debe hacer una distinción entre una "computadora" y su "implementación" subyacente. Permítanme usar dos ejemplos para aclarar esto.

"Computer"     "Implementation"  

IBM 370 ------------ transistores
Cerebro humano------- neuronas

Tanto IBM 370 como un cerebro humano son capaces de manipular símbolos, por lo que está claro que una "computadora" es capaz de manipular símbolos, mientras que una "implementación" no lo es. Por lo tanto, es sensato definir una computadora como un dispositivo de manipulación de símbolos. En cuanto a cuál fue el propósito de Searle al hacerlo, supongo que le permite al lector saber que cuando usa el término "computadora", se refiere a su capacidad, no a su implementación.

Gracias Juan Cuando tu dices:

1. SÍMBOLOS . "... para ser concretos, eliminemos esta terminología innecesariamente vaga de "nivel de voltaje", que ha utilizado aquí y en los comentarios anteriores. Consulte, por ejemplo, https://en.wikipedia.org/wiki/Bit #Representación_física para la correspondencia entre bits y niveles de voltaje. Estamos hablando de los "símbolos" (secuencias de bits) de Searle, independientemente de su representación física, que simplemente son niveles de voltaje en computadoras digitales electrónicas".

No estoy de acuerdo con los bits. Hablar de una secuencia de bits es usar una abstracción computacional. Veo la representación física en sí misma como la clave para comprender la semántica de la máquina (en el sentido de semántica de Searle, es decir, intencionalidad). Podría llevar esto más lejos y decir que la computación presupone una semántica extrínseca (y que el concepto de computación debe abandonarse antes de intentar comprender la semántica intrínseca ).

Parece importante tomar lo que John Searle hace como la CPU en la sala china y luego decir, OK, ¿cuál es el equivalente exacto en una computadora digital electrónica real? No en una máquina abstracta, no en una máquina de Turing, sino en la pieza real de hardware sobre un escritorio.

En la sala china, las tarjetas inscritas con ideogramas chinos caen por la ranura de la puerta. Desconocido para Searle, estas son preguntas chinas sensatas (él no sabe chino). Percibe las formas inscritas en las cartas y manipula las cartas sobre la base de las formas (presumiblemente el libro de reglas, el programa, contiene ejemplos de las formas, pero Searle también dice que las reglas describen las formas). Searle reacciona a la forma. Pero sin que Searle lo supiera, la gente fuera de la habitación le ha asignado un significado a la forma. Searle no tiene acceso al significado, sino sólo a la forma.

La forma en que las personas externas asignan un significado a una forma es primero percibir la forma y luego pasar por un proceso mental de asignación de significado (aprender el significado, y hay más de una forma de hacerlo). Este aprendizaje puede considerarse como la creación de instancias de una relación de 2 términos. Un término es la forma, el otro el significado.

Entonces, ¿cuál es el equivalente exacto en la computadora digital electrónica, si la habitación china refleja con precisión los elementos esenciales de la computadora? La CPU recibe niveles de voltaje cronometrados. Sin que la CPU lo sepa, las personas ajenas a la computadora han asignado significados a los niveles de voltaje cronometrados.

Bueno, por supuesto que esto es ridículo. No se han asignado tales significados, ni podrían jamás serlo. Las personas externas pueden percibir formas y asignarles significados (creando así instancias de la relación de 2 términos), pero los humanos son biológicamente incapaces de percibir niveles de voltaje cronometrados, por lo que no pueden asignarles significados. No se pueden crear instancias de la relación de 2 términos, cuyo primer término sería el nivel de voltaje sincronizado.

Por lo tanto, la sala china no refleja -semánticamente hablando- con precisión lo que sucede con las computadoras. La semántica es el punto central de la CRA. Searle no ha logrado comprender correctamente el procesamiento informático desde la perspectiva semántica.

Esto, arriba, es solo un punto de partida para un examen comparativo detallado de la sala china frente a las computadoras electrónicas. (Creo que varias otras cosas también están mal con la sala china).

2. SIGNIFICADO . Usted dice: "En cuanto a las conclusiones de Searle y su Habitación China, necesitaría comparar y contrastar el "significado" con respecto a las computadoras, versus el "significado" con respecto a la conciencia. Pero solo el primero está lo suficientemente bien definido para cualquier comparación rigurosa.“

La historia de la IA también ha sido una historia de redefinición de términos mentales para que parezca que las computadoras tienen propiedades mentales (cuando no las tienen, al menos no cuando ejecutan los programas ofrecidos). Minsky fue uno de los maestros en el fino arte de la redefinición académica para conseguir estudiantes y financiación. En su increíblemente influyente primer libro, Semantic Information Processing (él y sus estudiantes de posgrado fueron colaboradores), los programas que presentó tienen cero contenido semántico. Él incluso (con un giro maravilloso) indica esto: "... uno no puede evitar estar asombrado de lo lejos que llegaron [los programas en el libro] con su débil dotación semántica". En realidad tenían cero dotación semántica.

Estoy de acuerdo en que un problema grave es que no se entiende la mente, no se entienden las funciones de nivel superior del cerebro. Quizás redefinir los términos mentales utilizando la terminología informática (para que los conceptos redefinidos puedan realizarse en una computadora) parezca la única opción. Pero para refutar la CRA (que es el objetivo de examinar con mucho cuidado la sala china), el intento de refutación necesita usar los conceptos que usa Searle en sus argumentos y en sus descripciones de la sala. Es apropiado apelar a una definición de significado que Searle no usa. Lo que menos se necesita es una traducción convincente de su significado a uno de Ciencias de la Computación (que sería una reducción del significado en el sentido de Searle al significado en el sentido de las Ciencias de la Computación).

3. DEFINICIÓN DE COMPUTADORA . Usted dice: "Ya sea que su argumento sea concluyente o no, tal vez sea discutible, pero su definición de "computadora" es completamente adecuada".

Searle define la computadora como una máquina de Turing universal. Sin embargo, una máquina de Turing procesa cosas que tienen significados extrínsecos (0,1, las diversas formas a las que reacciona la máquina universal como se describe en el artículo de Turing de 1936), pero las computadoras electrónicas no. Las cosas que procesan las computadoras electrónicas no tienen semántica alguna. Ese es el punto clave. Se dice que las máquinas de Turing son entidades puramente computacionales. La computación presupone una semántica extrínseca. Las computadoras electrónicas, en el sentido de procesar cosas que carecen de una semántica extrínseca, por lo tanto, no son computacionales. Si se adopta este punto de vista (realmente radical), probablemente tenga relevancia para la validez o solidez del argumento de la habitación china.

4. MANIPULACIÓN DE SÍMBOLOS . Usted dice: “Cualquier argumento adicional tendría que discutir las capacidades últimas de la 'manipulación de símbolos', ¿hasta dónde puede llevarlo eso? Y eso es de hecho una pregunta abierta”.

Afirmo que las computadoras electrónicas no procesan símbolos en el sentido de "símbolo" de Searle. Si esto es correcto, entonces la idea de manipulación de símbolos (en el sentido de manipulación de símbolos de Searle, que es el sentido de la máquina de Turing) es inadecuada para comprender completamente lo que hacen y podrían hacer las computadoras.

Desde el comienzo de la Era de la Computación, las computadoras electrónicas se han entendido utilizando los conceptos de computación (de ahí el nombre del dispositivo). Pero, ¿y si estos conceptos no son adecuados a la hora de tratar de entender cómo podría pensar una computadora electrónica (así llamada)? ¿Qué pasa si el pensamiento es fundamentalmente no computacional? ¿Y si, cuando la computadora electrónica se entiende con diferentes conceptos, queda claro cómo una computadora podría realizar las operaciones de inteligencia no computacionales necesarias?

Al hacer la pregunta "¿Tiene sentido definir una computadora como un dispositivo de manipulación de símbolos?", Estaba preguntando si Searle estaba tratando de obligarnos a tragarnos la idea (falsa) de que las computadoras electrónicas procesan objetos que tienen una semántica extrínseca. Estos objetos siendo símbolos es el sentido de "símbolo" de Searle. Que las computadoras manipulen símbolos y solo símbolos (en el sentido de "símbolo" de Searle) es una premisa de varias versiones del CRA. Al definir las computadoras como dispositivos manipuladores de símbolos, parece estar tratando de evitar cualquier discusión sobre la pregunta: Bueno, ¿las computadoras procesan símbolos (en el sentido de "símbolo" de Searle)? Si no lo hacen, entonces una premisa de CRA es falsa y el argumento no es sólido.

Como usted dice, la diferencia entre la semántica de manipulación de símbolos extrínseca (basada en el observador) e intrínseca (subjetiva) es clave para el argumento de la habitación china (CRA) (cf. el problema de puesta a tierra del símbolo ). Sin embargo, no veo que la distinción entre lo abstracto y lo físico entre la teoría de la computación y los dispositivos informáticos físicos aborde este problema directamente.

La teoría de la computación es solo otro modelo matemático, como el cálculo o la geometría. Encontrar símbolos lógicos "0, 1" en una computadora física no es diferente a encontrar líneas rectas y ángulos de 90 grados en edificios. Si creemos que las teorías de ingeniería abstractas y matemáticamente evitan que los rascacielos se caigan y los aviones vuelen, entonces los voltajes que bailan en la computadora de mi banco también representan realmente el "saldo" lógico de mi "cuenta corriente" lógica. Las computadoras físicas "manipulan símbolos" en la misma medida en que los edificios "obedecen a la estática" y los planos a la "aerodinámica".

Afortunadamente, la distinción entre las matemáticas idealizadas y el mundo real no es necesaria para comprender completamente el CRA. Debido a que se basa en la teoría de la máquina de Turing (TM), el análisis de la CRA puede ser mucho menos esotérico y mucho más preciso y objetivo.

La CRA enfoca expertamente la atención de todos en los símbolos equivocados: las entradas y salidas chinas. Como un mago, Searle te hace ignorar al elefante en el Salón Chino: el programa. También es una entrada simbólica para la computadora Searle. (¡También espera que te pierdas el hecho de que está en inglés!)

El programa (también conocido como el libro de reglas) es la entrada simbólica clave porque solo dicta cómo se procesan los símbolos chinos. La única razón por la que la computadora Searle puede (y debe) procesar los símbolos chinos de manera puramente formal es porque también tiene los símbolos de las reglas del programa, que puede (y debe) interpretar de manera no formal . Como TM universal , la principal responsabilidad de la computadora Searle se centra en el programa mismo. Searle dirige la atención de todos únicamente hacia sí mismo y los símbolos chinos, ¡sin embargo, es completamente superfluo para su cálculo!

La computadora Searle y su entrada de programa podrían, y deberían, eliminarse por completo de la consideración. Reemplácelo por una implementación directa, no programable del programa y la sala funcionará de manera idéntica. Por lo tanto, la afirmación de Searle de que la sala procesa los símbolos chinos de manera puramente formal (a diferencia de solo su Searle-CPU) es totalmente infundada porque no tiene en cuenta el propio cálculo del programa (cuya existencia se explica de manera irrefutable por la teoría de la máquina de Turing).

El grado en que el cómputo del programa interpreta el chino semánticamente (o no) sigue sin determinarse. Por lo tanto, la CRA no establece absolutamente nada sobre la semántica en la sala con respecto a los símbolos chinos.

Referencias: sintaxis frente a semántica , chineseroom.info

Está bien para Phil-132, no estoy seguro de entender todos los puntos, pero esto es lo que creo que está pasando en la Sala China. Hay dos sistemas de procesamiento de símbolos separados: (1) el sistema que procesa los símbolos chinos que ingresan a la habitación desde el exterior y (2) el sistema que procesa los símbolos que componen el programa. La sala también tiene un conjunto de operaciones básicas (como Escanear, Imprimir, Borrar, Izquierda y Derecha de la máquina de Turing). En una computadora real, estos están integrados en el hardware. En la sala china, vienen de Searle entendiendo lo que significan los símbolos del programa.

Los símbolos del programa definen la secuencia de estas operaciones simples una vez que el programa comienza a ejecutarse. Las operaciones simples luego manipulan los símbolos chinos (y hacen otras cosas). El programa puede ser reemplazado por cableado. En este caso, la secuencia de operaciones simples no está definida por los símbolos del programa, sino por el cableado. Pero el "programa como cableado" aún debe poder tratar diferentes símbolos de entrada chinos de diferentes maneras. Entonces, ¿cómo va a hacer esto? De alguna manera, las formas de todos los símbolos chinos posibles deben integrarse en el cableado. Pero la única forma de hacer esto es que el cableado contenga ejemplos de símbolos chinos (cuyos ejemplos pueden ser comparados por el cableado con los que ingresan a la habitación desde el exterior).

Entonces, el cableado debe contener símbolos. Aunque las operaciones simples se pueden ejecutar mediante cableado en lugar de símbolos de programa, aún debe haber literales, aún debe haber ejemplos de todos los símbolos chinos posibles, que las operaciones simples pueden usar para compararlos con los chinos reales que llegan como entrada.

Este proceso de coincidencia realizado por el cableado es puramente formal porque todo lo que hace es comparar las formas de los símbolos chinos de ejemplo preexistentes con las formas de los que ingresan a la habitación como entrada. "Deshacerse del programa" solo elimina los símbolos del programa que desencadenan operaciones simples. No se deshace de los literales contenidos en el programa. Entonces, para la línea del programa: IF INPUT = "A" THEN GO DO , deshacerse del programa elimina: IF INPUT = "" THEN GO DO , pero no elimina A.