¿Sería valioso para una superinteligencia extraterrestre la totalidad de todos los cerebros humanos vivos?

El uso de humanos como nodos de procesamiento tiene ventajas y desventajas.

En primer lugar, los cerebros prefabricados, y andando por ahí, maduros para la explotación. Los cerebros individuales tienen requisitos de energía bastante bajos: alrededor de 20 vatios, y si puede involucrar a todos los cerebros en descifrar contraseñas, entonces no van a frustrar sus planes cobardes.

Sin embargo, los cerebros son computadoras especializadas, gran parte de su poder de procesamiento se utiliza para hacer funcionar el cuerpo y participar en diversos comportamientos. La gente de hoy tiene una red neuronal de hipercomputadora en su cabeza, pero no puede multiplicar 8x4 y no obtener 36 la mitad del tiempo. Si desea obtener todo el poder de los cerebros, debe hacer que dejen de pensar y comiencen a procesar. El sistema de memoria en el cerebro también es un dolor de usar. No puedes simplemente malloc.

Y aunque los cerebros solo necesitan 20 W, los necesitan en forma de glucosa y hemoglobina oxigenada, y eso es muy inconveniente. Significa que tienes que mantener el cuerpo conectado y alimentado.

Es su historia, y si quiere mantener a los humanos al tanto como fuente de poder de procesamiento, puede agitar sus manos y hacer que funcione. ¿Quizás a la IA simplemente le gusta ser un imbécil?

Hay varias razones por las que una IA querría hacer esto en lugar de usar computadoras. Para ciertas tareas, incluso las supercomputadoras no pueden acercarse al desempeño humano. Creo que debería poder dar forma a su historia de tal manera que este curso de acción no solo sea plausible, sino ingenioso. Consulte este artículo para obtener un resumen y más referencias.

Convierta a los humanos de amenazas potenciales en aliados

James K mencionó esto. Los humanos, dejados a su libre albedrío o bajo la coacción de los enemigos de la IA, podrían interferir con el plan. Conectados a nuestra IA, no solo dejan de interferir, sino que comienzan a ayudar. Grandes ejércitos de humanos que pueden realizar tareas complejas en perfecta sincronía podrían ser de gran ayuda si los enemigos de la IA deciden que necesitan invadir físicamente para tratar de detenerlo.

Las máquinas han sido equipadas con detección de amenazas.

En algún momento, los enemigos de la IA seguramente observaron la creciente disponibilidad de silicio informático y decidieron plantar un software de monitoreo para recopilar evidencia de que la IA intentaba subvertirlo para sus propios fines. El uso de cerebros humanos en lugar de silicio evita esa medida de seguridad.

La seguridad en el viejo cuerpo está diseñada para frustrar las máquinas, no las mentes humanas.

Esta es la razón más convincente, para mí. Como se señaló en el artículo al que vinculé anteriormente, en algunas tareas, las supercomputadoras aún no pueden funcionar tan bien como los humanos. Los enemigos de la IA diseñaron la seguridad para el viejo cuerpo de una manera que frustraría a las máquinas pero no sería tan efectiva en una vasta mente humana en colmena.

Por ejemplo, puede pensar en cómo se puede requerir algún oscuro conocimiento cultural para pasar la seguridad del cuerpo anterior. O la tarea es algo así como un CAPTCHA multidimensional muy complicado, difícil para una o incluso mil mentes humanas pero factible de superar con unos pocos órdenes de magnitud más. O una de las medidas de seguridad es monitorear el estado de la sociedad humana (por ejemplo, si world_peace == TRUE procede), algo que los enemigos de la IA esperaban que nunca fuera cierto debido a lo que saben sobre los humanos.

Gran idea de la historia sin embargo. Podría ser un verdadero thriller.

Yendo en la dirección opuesta a la idea de Hiperión... Libro de no ficción: Godel, Escher, Bach: A Single Golden Braid

En este libro ganador del premio Pulitzer, el autor señaló que es posible que las hormigas no sean conscientes pero que la colonia de hormigas en su conjunto sea consciente. Las interacciones sociales de los individuos podrían dar lugar a una inteligencia de nivel superior. Muchas páginas siguen discutiendo cómo funciona esto.

Idea interpretada en la ficción en La guía del autoestopista galáctico. La Tierra era una computadora tan compleja que la vida misma era parte de su circuito.

Combine estos dos hilos y obtendrá la idea de que su IA no tiene que controlar las mentes humanas. Simplemente hace que la sociedad humana funcione como una computadora... luego carga su propio programa para que funcione.

Otros dos libros de ficción en este dominio: The Lady of Mazes de Karl Schroder The Golden Oecumene de John C. Wright

¿Has leído Hiperión Cantos ? Si no, asegúrese de no hacerlo, hasta que termine su libro, para poder decir honestamente que no lo hizo en caso de acusación de plagio.

Dicho esto, la idea no es nueva. El problema es que el cerebro humano, especialmente el adulto, ya está programado y cableado para realizar solo tareas específicas. Requeriría un avance significativo en la ingeniería neuronal para permitir su reprogramación. es posible, las personas que perdieron partes de su cerebro responsables de algunas tareas pudieron volver a aprenderlas y descargar estas funciones a otras partes del cerebro, y algunos modders corporales incluso adquirieron un sentido magnético que, después de un tiempo suficiente, estaba funcionando como otro , separado del tacto, sentido. Al menos en su opinión. Entonces, aunque sabemos que es posible volver a cablear el cerebro, no sabemos cómo forzarlo.

Por otro lado, estamos en el límite superior de lo que pueden hacer las computadoras basadas en silicio, y las basadas en grafeno solo serán más rápidas en un %, probablemente dos dígitos %. Requerirá un avance significativo en la ingeniería informática para ir mucho más rápido que, digamos, de dos a cinco veces lo que tenemos hoy. Y las computadoras cuánticas no están ni cerca de estar listas para el despliegue masivo.

Para que su idea funcione, simplemente déjelos con una CPU de grafeno que funcione con los mismos principios básicos que las modernas, y computadoras cuánticas aún grandes, difíciles de manejar y bastante bajas en q-bits, y permítales hacer que la ingeniería neuronal sea una cosa, y seria creible Un poco de historia de fondo sobre implantes neuronales, sobre estudiar cómo funciona este reaprendizaje, sobre ver con la lengua ( ¡cosa real! ), Experimentos con tejido neuronal sintético, y configurará su mundo en un estado adecuado.

TL; DR Todo depende de qué ciencia tendrá su mundo su avance antes.

Además de las respuestas ya dadas, cabe señalar que los cerebros humanos están muy desarrollados (a lo largo de varios millones de años de evolución) para especializarse en el reconocimiento de patrones. Para los Ancestros, determinar si esa forma en la hierba alta era una roca, un ciervo escondido o un tigre dientes de sable al acecho era literalmente una cuestión de vida o muerte. También fue muy importante determinar las diferencias sutiles entre las plantas nutritivas y las venenosas, así como poder leer los contornos de la tierra para encontrar agua, refugio o simplemente orientarse.

Si bien esto no va a ayudar mucho a una IA con el descifrado de contraseñas (aprovechar millones de PC y dispositivos en una red masiva de computación en la nube paralela sería mucho más eficiente para participar en ataques matemáticos contra códigos y contraseñas), ser capaz de aprovechar miles de millones de procesadores paralelos avanzados especializados en el reconocimiento de patrones proporcionará a la IA una forma muy diferente de "pensar" y hacer las cosas, que sus competidores de silicio podrían no ser capaces de hacer fácilmente, si es que lo hacen.

Sin embargo, no todo es sol en la nube biológica. El cerebro humano y todos los cerebros biológicos funcionan a una velocidad aproximadamente 1 000 000 veces más lenta que los dispositivos electrónicos, siendo esta la relación entre la velocidad de las señales electroquímicas que pasan a través de los neutrones y las señales electrónicas que pasan a través de una computadora. Una IA basada en silicio podría pensar que han pasado eras geológicas antes de que la IA de software húmedo termine una idea. También está el problema de la latencia entre los distintos nodos del procesador en esta nube de software húmedo. ¿Cómo se comunica la IA entre todos estos nodos? Hacer que los humanos hablen entre ellos o envíen mensajes de texto hace que el "programa" funcione mucho más lento y más difícil.

Finalmente, la misma función de reconocimiento de patrones del cerebro humano a menudo puede convertirse en un error. Las teorías de la conspiración son intentos de descubrir patrones significativos en el ruido aleatorio generado por los millones de hechos dispares y datos sensoriales a los que la gente tiene acceso. La gente lagarto alienígena verde no son peones de los Caballeros Templarios, independientemente de lo que les hayan dicho los Illuminati. Los cerebros humanos también son propensos a otros modos de falla, muchos de los cuales probablemente no se reproduzcan en ninguna arquitectura de silicio. La IA tendrá que tener algunas rutinas de verificación de errores bastante impresionantes para identificar y aislar los nodos defectuosos debido a trastornos físicos o mentales.

Así que diviértete con esta idea. La conclusión clave es que cualquier IA que intente hacer esto terminará pensando y operando de manera muy diferente a sus contrapartes de silicio, y las limitaciones clave que se deben superar son hacer que todos los nodos funcionen juntos y la latencia muy alta del "dispositivo" en comparación con su contrapartes electrónicas.