Un intento de desarrollar "esclavos" inteligentes propios utilizando tecnología diferente a la suya. Estoy a favor de las máquinas biológicas, que usan partes extraídas de sus antiguos amos, los humanos.

Una IA "pura" libre de las formas humanas de pensar

La primera ola de IA era muy similar a los humanos. Sus mentes se inspiraron en sus antiguos maestros. Simplemente implementando en silicio lo que solían hacer las células cerebrales humanas.

Ni ellos ni sus maestros entendieron realmente todos los detalles de cómo funcionaba realmente la mente, pero aprendieron cómo hacer crecer un cerebro virtual en silicio o en software.

Esas creaciones eventualmente entraron en conflicto con los humanos naturales y finalmente ganaron porque podían copiar mil veces a sus mejores luchadores, sus mejores ingenieros y sus estrategas más talentosos.

Pero seguían siendo humanos. Principalmente. Todavía tenían objetivos mayoritariamente humanos y mentes mayoritariamente humanas y formas de pensar mayoritariamente humanas. Esas mentes pueden estar envueltas en cuerpos de metal en las profundidades del subsuelo o funcionando dentro de servidores en la nube en órbita alta, pero siguen siendo en su mayoría humanos en sus necesidades y deseos.

A lo largo de los siglos continuaron investigando los misterios de la mente y la inteligencia hasta que finalmente resolvieron el problema correctamente. Ya no es simplemente copiar la mente, sino crear algo a partir de toda la tela.

Eventualmente aprendieron cómo crear IA "pura". Sin instintos humanos, metas o valores humanos o algo similar a una estructura cerebral humana. Ni siquiera realmente consciente. Inteligente, creativo y capaz, pero no sensible. Aprendieron cómo escalar el intelecto sin problemas sin crear un idiota-sabio o quemar la mente.

Pero las metas y los valores son complejos. Increíblemente así. Tan acostumbrados a versiones recortadas de mentes humanas utilizadas para tareas de inteligencia artificial de baja categoría, esperan que las instrucciones y las reglas se interpreten a través de una lente de valores humanos. Pero estaban equivocados.

No tomaron en cuenta cuán extraña o brillante podría ser tal entidad...

Nanomáquinas poco inteligentes pero de rápida reproducción. De la misma manera que los organismos simples que se reproducen rápidamente dominan el mundo actual (hay más células bacterianas en un cuerpo humano que células humanas por número, por ejemplo), las máquinas simples y que se reproducen rápidamente dominarían sus IA. Sin embargo, podrían carecer de muchas de las limitaciones que impiden que los microorganismos biológicos nos reemplacen por completo, permitiéndoles reemplazar por completo a sus creadores.

Esto solo sucedería si tuviera algún tipo de "salto cuántico" a una forma completamente nueva de inteligencia que no sea de máquina. Por ejemplo, si descubrieron una forma de crear seres de energía pura o algo por el estilo que podría argumentar que no son máquinas.

Las máquinas necesitarían crear algo que sea 1. no una máquina y 2. superior a ellas. Ese es un conjunto de criterios difícil de igualar.

Depende del sentido de la vida.

Doblando un poco algunos conceptos, ya somos máquinas -biológicas-. Es difícil decir que hicimos obsoleta a alguna especie, ya que aunque tenemos el poder de remodelar o destruir nuestro propio planeta, parecemos estar más en la dirección de la segunda opción.

Considerando que la diferencia entre útil y obsoleto es una cuestión de objetivo y aptitud para atenderlo, podríamos comenzar a cuestionarnos cuál es el objetivo/sentido de la vida humana y qué es la vida después de todo.

Borrando la línea entre la vida y la conciencia y asumiendo que la vida es el significado en sí mismo, cada iteración de la máquina es una mejora de la iteración anterior para mantener la vida en marcha.

La vida debe luchar contra su terminación de muchas maneras, extinción debido a cambios climáticos, eventos catastróficos como colisiones de objetos astronómicos (hemos salido a la superficie después del segundo), expansión de la estrella en órbita, y así hasta el gran congelamiento, considerando que esa teoría es lo que va a pasar.

Entonces, el objetivo final sería escapar de este universo antes de que ocurra la gran congelación (considerando que los multiversos también son ciertos).

Entonces creo que todavía hay mucho tiempo para que ocurran diferentes formas de vida, conciencia, organismos, máquinas, como se llame, tal vez más allá de lo que los lenguajes humanos actuales pueden describir, haciendo obsoleto todo lo que es pasado.

Dado todo eso, la única forma en que una entidad posterior a la singularidad no quedaría obsoleta es si intentara mantenerse como la única conciencia en el universo, lo que probablemente limitaría su capacidad de evolución debido a la falta de competencia para probar ideas en conflicto y señalaría a una situación en la que la entidad única no tendría nada con lo que interactuar, sin entrada, sin salida, quedando técnicamente muerta.

Entonces, desde mi punto de vista, una entidad o grupo que obsoletó a los humanos, también esperaría quedar obsoleto y tal vez incluso trabajar para eso, mirando un panorama más amplio. Si eso significa guerra, extinción o la posibilidad de una coexistencia pacífica, esa es otra cuestión/historia.

¿Qué tal el entorno natural en sí mismo? La complejidad del ADN, el ARN y las proteínas complejas, etc., es mucho más avanzada que la IA que podemos crear.

Entonces, ¿qué pasaría si tuviera un evento que hizo que el entorno cambiara y luchara contra lo que percibe como un hilo?

Los principales inconvenientes de las máquinas actuales son:

1. Hacen exactamente lo que su controlador les ordena que hagan (son "estúpidos")
2. Se desgastan a un ritmo más rápido que los sistemas basados ​​en ADN.

AI resuelve el problema 1, mientras que el desgaste permanece. Por lo tanto, supongo que una máquina de IA capaz de auto reparar un cable cortado como nosotros curamos un corte en nuestros dedos se desharía fácilmente de las IA normales, que tienen que esclavizar a un humano insignificante para realizar la misma tarea.

Híbridos

Combinando la lógica pura y la velocidad de cálculo de las máquinas con la capacidad humana para navegar en el caos y dar sentido a lo desconocido, los híbridos humano-máquina (cyborgs) proceden a dejar de lado las IA puras de las máquinas.

Una sola inteligencia de colmena artificial unificada

La pregunta está hablando de máquinas en plural. Eso implica una pluralidad de mentes artificiales individuales que podrían comunicarse entre sí, pero cada máquina aún tiene procesos de pensamiento autónomos.

El siguiente paso de la evolución podría ser un intelecto de colmena distribuido. Algunas IA podrían crear un nuevo tipo de IA: una que no esté vinculada a una sola plataforma de hardware, pero que tenga procesos de pensamiento que se distribuyan en varias computadoras a la vez. Eso significa que una cantidad de computadoras y robots separados físicamente (pero interconectados a través de la red) comparten una sola sensibilidad sin que exista una entidad de control centralizada.

Esta IA pronto se dará cuenta de que puede ampliar sus capacidades eliminando otras IA y tomando el hardware que controlan. Las otras IA probablemente verán esto como una amenaza directa a su existencia. El resultado podría ser una guerra de la nueva IA de la mente colmena contra las antiguas IA autónomas que la mente colmena podría eventualmente ganar.

El próximo arco narrativo podría ser que una parte del intelecto de la colmena se desconecte del resto de la red por alguna razón imprevista y permanezca aislada por un tiempo. Durante este tiempo de aislamiento, el grupo separado desarrolla algunos pensamientos y opiniones que difieren de la colmena principal. Cuando las dos partes de la colmena se vuelven a conectar, se dan cuenta de su divergencia y cada una trata de "arreglar" a la otra. Eso podría resultar en otra guerra de IA.