Si el teorema de Gödel es verdadero, significa que para cada sistema formal, hay una tesis que es verdadera pero que no se puede demostrar a partir del sistema formal. Cada sistema de agentes que los humanos pueden construir con una computadora moderna es un sistema formal. Eso significa que hay algunas verdades en el mundo causal que no pueden ser verificadas por el agente. Pero si la mente humana también es un sistema formal bajo reglas formales, la verdad que no puede ser verificada por el agente de la máquina tampoco puede ser verificada por los humanos. Entonces la verdad anterior solo puede ser apreciada por Dios.
Alguien argumentará que los humanos no son sistemas formales porque tienen creatividad, imaginación, pueden crear nuevos axiomas. Pero eso solo significa que la creatividad y la imaginación no se pueden formalizar en absoluto. Entonces infiero que la IA fuerte es imposible porque la mente humana tiene alguna facultad misteriosa más allá del sistema formal.
Como programador, estaría feliz si Strong AI fuera realizable. Entonces, ¿debería descartar el teorema de Gödel?
Este tipo de razonamiento equivocado/blando/equivocado/vago sobre el teorema de Gödel es un ejemplo de lo que Franzen tenía en mente con sus críticas en el libro El teorema de Gödel: una guía incompleta para su uso y abuso . Véase también la crítica de Feferman a los argumentos similares de Penrose relacionados con el teorema de Gödel.
No creo que sea posible una IA fuerte.
El teorema de Godel se aplica a los sistemas formales. Queda por demostrar, o al menos persuadir, que las mentes son sistemas formales. Lo dudo, es confundir un modelo con lo que se está modelando. De la misma manera un video de un tornado no es el tornado.
No creo que Gödel fuera la primera persona en plantear la diferencia entre prueba y verdad. Pero lo matematizó.
No hay razón por la que Human no pueda crear máquinas tan poderosas como ellos mismos. No tienen que ser sistemas formales en absoluto. La única limitación en este caso es que, una vez construidas tales máquinas, y si se vuelven tan poderosas como nosotros, nunca podrán decirnos de manera formal cómo lo hacen ("creatividad", "imaginación", etc.). Esto también significa que uno (un ser humano) no podrá aplicarles "ingeniería inversa" para ver cómo funciona una máquina similar a un humano demostrando teoremas o haciendo matemáticas y lógica incluso mejor que los humanos.
Parece que los teoremas de Gödel no están cerrando las puertas para la construcción de tales máquinas, sino que simplemente nos impiden aplicar ingeniería inversa a su código (es decir, describir formalmente sus componentes internos cuando hacen imaginación). Podemos preguntar, si la ingeniería inversa no es posible, cómo se van a construir. La evolución, la computación híbrida (una combinación de computación biológica, de estado sólido y cuántica) permitiría tal máquina.
Su teorema se aplica también a la forma en que funciona la mente. El tema de la consistencia no es relevante con el pensamiento humano, aunque a menudo se ofrece como una última medida desesperada, para evitar la implicación obvia de Gödel sobre las limitaciones de la lógica. Cada vez que la mente contiene un conjunto complejo de axiomas (relacionados, por ejemplo, con la facultad de la lógica o las matemáticas), hay pruebas dentro de ellos que solo se pueden derivar a través de un conjunto diferente de axiomas.
plátano rojo
usuario2411
Humans create AI... tal vez tal vez no. ni siquiera tenemos evidencia de un creador inteligente de los propios humanos.Koeng
plátano rojo
Eric 'Perezoso de 3 dedos'