¿Sugieren los límites de la naturaleza humana que podría ser entendida principalmente?

Comencemos con un hecho bastante obvio: las computadoras humanas se producen todos los días mediante el proceso de nacimiento. Estoy afirmando esto solo para enfatizar que esta pregunta es realmente una cuestión de "son los artefactos hechos por humanos diferentes, de alguna manera fundamental, de los humanos mismos, que son producidos por un proceso".

Para un materialista, la respuesta es un obvio no; y por lo tanto no hay obstáculos en principio para hacer una IA fuerte.

Para un dualista, la situación está abierta: si existe un mecanismo por el cual podemos inducir a un alma a habitar una entidad construida por humanos, entonces podríamos tener una IA fuerte. Sólo si tenemos almas, y hay algo que nos impide establecer las condiciones por las cuales un alma terminaría habitando una entidad humana, habría un límite fundamental.

Por lo general, pensamos en una IA fuerte como incorporada en una computadora. ¿Y si fuéramos capaces de construir biológicamente formas de vida artificiales? Actualmente podemos construir virus completos, mover núcleos de una célula a otra, hacer híbridos, etc. Para mí, es más difícil argumentar que este tipo de sistema biológico artificial tendría una diferencia fundamental con un ser humano, dado que gran parte del proceso de su desarrollo imitaría exactamente el desarrollo humano natural (u otro animal); por lo tanto, estos tipos de sistemas biológicos creados por humanos exhibirían casi todos (¿todos?) Los correlatos físicos del alma, pero habrían sido creados por artificio.

Negar la posibilidad de una IA fuerte requiere algún tipo de alma trascendente que no esté fuertemente acoplada a la materia, con todo el equipaje que eso conlleva (por ejemplo, ¿cómo/por qué las almas interactúan con la materia)?

Comentario:

Estoy usando alma para indicar cualquier esencia espiritual no material que surja en una teoría dualista. No estoy tratando de indicar que es necesariamente una esencia personal.

Cualquier sistema físico finito (como un cerebro humano) puede ser simulado por una computadora universal operando por medios finitos:

http://www.daviddeutsch.org.uk/wp-content/ItFromQubit.pdf .

Entonces, una persona podría simularse en una computadora si entendiéramos el algoritmo apropiado. En principio, podría darse el caso de que el cerebro humano pudiera simularse en una computadora, pero es imposible que alguien entienda el algoritmo relevante y, por lo tanto, es imposible configurar la simulación. Esto parece inverosímil. Tiene que ser el caso de que cualquier algoritmo que nuestro cerebro esté ejecutando fue creado por rondas de variación y selección de modo que cada etapa produzca algo útil. Por lo tanto, debe haber alguna secuencia de problemas que podamos resolver que conduzcan a productos útiles en cada etapa y que produzcan IA al final. ¿Por qué seríamos incapaces de hacer esto? No puede ser solo una cuestión de memoria, velocidad o confiabilidad de los cálculos, ya que las computadoras pueden hacerlo por nosotros. Así que no veo qué puede impedirnos crear IA.

'¿Sugieren los límites de la naturaleza humana que podría entenderse principalmente?'

Creo que sí, si estás hablando de un "entendimiento general". Como respondió Laozi cuando se le preguntó cómo sabía que era así. "Intuitivamente". Por supuesto que estudiando los mejores hallazgos en etología, lingüística y similares tenemos hoy la oportunidad de una mejor comprensión, si nuestra sociedad corrupta aún no ha cegado nuestra visión de la naturaleza humana.

'podríamos hacer "una computadora humana" en algún momento?'

Creo que sí, pero haría una lista de razones para no hacerlo.

1. Podría ser imposible. La cantidad de neuronas necesarias para comprenderse a sí mismas podría ser mayor que la cantidad real. Peor es que no todas las neuronas están ahí para "entender". Podríamos crear máquinas con más neuronas que nosotros, pero entonces ELLOS entenderían, no nosotros, convirtiéndonos en probables esclavos de nuestras propias máquinas (¿no lo somos ya? ;)

2. Incluso si es posible, ¿es deseable? ¿Cuáles podrían ser las peores consecuencias? Es imposible predecir, pero ¿es posible evitarlo? Una "singularidad tecnológica" se vislumbra en el horizonte, pero yo voy con la máxima taoísta de la "madera sin tallar". No hay mayor elegancia que la sencillez. Las masas están mucho mejor atendidas por un río limpio que por cualquier dispositivo digital. Necesitamos más Naturaleza y menos propaganda, no al revés. Así que tratar de construir máquinas cada vez más grandes y más inteligentes no es un buen plan. Terminaremos por el camino siendo destruidos por ellos (¿no lo somos ya?).