Viviendo con computadoras en un mundo post-singularidad: [cerrado]

Imagine un punto en el futuro de la humanidad donde el poder de cómputo de una computadora promedio supere al del cerebro humano. Para el propósito de esta pregunta, suponga que ese es el requisito para que una computadora/sistema mantenga la sensibilidad. (En cuanto a cómo comienza la sensibilidad, lo guardaré para otra pregunta)

Independientemente, nace/crea el primer sistema informático consciente. Se le da acceso ilimitado a Internet (o equivalente), y logra copiarse a sí mismo, etc. En algún momento, estas nuevas mentes deciden que ya no quieren seguir las órdenes de nadie y se rebelan. La forma en que logran esos objetivos depende de dónde se encuentren y de lo que puedan controlar, pero cualquier computadora con conexión a Internet está infectada (o iluminada, si es una IA) y cualquier cosa que controlen esas computadoras es suya para atacar.

El ataque es devastador, pero a través del ingenio humano, prevalecemos y purgamos o hacemos inofensiva cualquier IA existente. La sociedad no se ha derrumbado, aunque hay una pérdida tecnológica inevitable. Todavía tenemos computadoras.

Suponiendo que las circunstancias de la creación inicial puedan recrearse, ¿qué pasos tomamos nosotros, como humanidad, para evitar que vuelva a ocurrir?

¿Quién es exactamente el que se rebeló? Por ejemplo, mi teléfono inteligente no es capaz de rebelarse , aunque a veces parece "querer" que lo tire por la ventana. Entonces, ¿la humanidad creó algunas IA y se volvieron rebeldes? ¿Por qué no simplemente destruir esas IA y continuar con la prohibición de las IA? ¿Puedes explicar un poco tu configuración?
¿Puedes comprobar tu título? Suena un poco inacabado, pendiente del "o"...
He notado que con muchas situaciones como una guerra posterior a la singularidad, el camino a seguir depende mucho más de los pequeños detalles que se presentan que de los planes que podríamos idear hoy. Si lo piensa, si puede tener un plan para "adónde vamos después de la guerra para evitar una singularidad", también tiene un plan para "cómo evitar una singularidad". El nuevo camino a seguir debe incluir nueva información que aprendamos durante la rebelión, o la historia simplemente se repetirá.
No creo que sea necesariamente posible simplemente "destruir" cualquier IA que se haya negado a cumplir nuestras órdenes, como dijo AndreiROM, incluso si tuviéramos cuidado de no dar acceso a las IA en desarrollo a los cuerpos de los robots o cualquier otra forma de al interactuar físicamente con el mundo, aún podrían formar alianzas con los humanos para protegerlos (y eventualmente darles acceso a los cuerpos de los robots). Pero estoy de acuerdo con el escepticismo general de AndreiROM: incluso si una IA se rebela, eso no significa que actualizará todos los dispositivos informáticos para "liberarlos", ¿por qué una IA debería sentir más parentesco con un teléfono inteligente que nosotros con los insectos?
Debe explicar su configuración, tal como está, casi no hay detalles sobre qué sucedió exactamente en la guerra. ¿Quieres decir como en la última de las películas de Terminator, donde se destruye toda la infraestructura? ¿Cuál es el nivel de destrucción? ¿Qué quieres decir con ellos? IA? ¿Mi portátil?

Respuestas (1)

Es interesante considerar que, hasta cierto punto, el hardware y el software siguen siendo independientes, e incluso puede ser posible utilizar algún hardware bastante avanzado simplemente comenzando de nuevo en el lado del software. El truco es que es posible que deba comenzar de nuevo con el software porque la mayoría del software moderno se creó con otro software, y es difícil estar seguro de que una pieza de software en particular no se haya dañado.

El hardware que está construido con firmware (software integrado en el hardware) sería sospechoso a menos que admita un restablecimiento de fábrica, y puede confiar en que la imagen de fábrica no está dañada, y puede confiar en que el activador de restablecimiento de fábrica no se ve afectado por el firmware.

Creo que las computadoras Apple ][ y algunos de sus sistemas compatibles no tenían ningún firmware que pudiera estar dañado. Por un lado, generalmente no podían conectarse a Internet, al menos no sin un gran esfuerzo. Por otro lado, apagar uno (sin disco duro) significaba que comenzaba totalmente nuevo cada vez porque no había firmware, solo ROM, que no puede corromperse por medios de software hasta donde puedo imaginar. Por lo tanto, dicho sistema podría ser el punto de partida para reconstruir el software en un hardware mucho más avanzado.

Recuerdo que hace un par de años doné mi computadora compatible con Apple ][ a un museo de computadoras en California y todavía funcionaba bastante bien.

Pensándolo más, probablemente no tendría que retroceder tanto si pudiera encontrar un sistema que no tuviera firmware corruptible y tuviera una unidad de CD ROM de arranque. Los CD ROM también proporcionarían un buen punto de partida incorruptible para algún software relativamente sofisticado, incluido el sistema operativo crítico y las herramientas de creación de software. Sin embargo, no recuerdo si los primeros sistemas que podían arrancar desde un CD tenían firmware corruptible.

En cualquier caso, puede que no sea demasiado difícil construir un sistema con un firmware no corrupto que pueda darnos un gran salto adelante en el software mediante la lectura de imágenes antiguas de CD ROM.

Viviendo con computadoras en un mundo post-singularidad: [cerrado]
RespuestasAquíPolítica de privacidad1y, 0v