Digamos que una computadora que ejecuta una IA existe en un planeta sin vida biológica. Digamos que tiene acceso a una planta de fabricación preexistente bastante extensa y puede controlar una flota de máquinas capaces de realizar todo el proceso de extracción y transporte de materia prima para construir y ensamblar más máquinas, fabricar piezas de repuesto o construir cosas nuevas de su propio diseño. ¿Puede mantenerse por un largo período de tiempo?
¿Qué posibles desafíos y peligros tendría que superar y cómo podría hacerlo?
¿Qué recursos naturales deben estar disponibles para construir vehículos espaciales, capaces de reunir más recursos? ¿Sería este un curso de acción factible para ello?
Actualizaciones para una mayor especificidad:
Suponga que su hardware y construcción son similares a una supercomputadora terrestre actual (solo que más grande y lo suficientemente rápida como para ejecutar la IA en tiempo real). Por diversión, estabilidad geológica y dificultad en la extracción de recursos, digamos que comienza en (o en) un asteroide más grande (más bien, una luna más pequeña) en órbita alrededor del planeta sin vida mencionado anteriormente. Digamos que el planeta es rocoso y rico en elementos similares a la tierra. Digamos que este planeta tuvo algo de vida vegetal en un momento, por lo que hay carbono y petróleo que se pueden extraer para obtener plásticos (al menos por un tiempo).
Tiene acceso a una fuente de energía nuclear, por lo que no depende necesariamente de obtener energía de la estrella del sistema, pero esa también es una opción.
El objetivo de la IA es aprender todo lo que pueda, por lo que puede estar interesada en enviar sondas a otros sistemas. O ir allí mismo, si puede equiparse con impulsores de iones y llevar suficiente escapar de un sistema y arreglarse para ser capturado por otro.
Los científicos ya han explorado un concepto similar, se llaman sondas Von Neumann, básicamente su programación es viajar a un sistema estelar, mapear el sistema, extraer cualquier asteroide para autoreplicarse y luego enviarlo a otro sistema. esto, en teoría, podría dejar un satélite en cada sistema de la galaxia si se deja el tiempo suficiente, los problemas se reducen a evitar cualquier escombro que se encuentre entre los sistemas estelares. sin embargo, ya tenemos la tecnología disponible para enviar una de estas sondas, sin embargo, la "parte autorreplicante no es 100% perfecta y, lo que es más importante, tomaría tanto tiempo que para cuando la primera sonda llegara a nuestra estrella más cercana, Alpha Centauri". Todos los que recordaron el lanzamiento estarían muertos hace mucho tiempo. Sí, los hijos de nuestros hijos podrían ver los resultados después de que la señal tardara unos años en regresar a la Tierra.
La razón por la que no han intentado fabricar uno todavía es que muchos científicos creen que es mejor esperar hasta que tengamos motores capaces de llegar a otro sistema en, digamos, 50 años, y luego enviarlo.
Agradezco que esta no sea una sola IA grande, sino una pequeña copiada miles de millones de veces. pero si se tratara de una sola IA grande que controlara muchas máquinas, entonces tendría que hacer el mismo tipo de trabajo, solo que exponencialmente más grande
Recursos
Estos son básicamente todo lo que AlexP mencionó y algunos más
Los principales serían Oro, Silicio, Cobre, Paladio y Aluminio, estos serían para circuitos de microchips, capacitores y cableado,
Luego, por supuesto, hierro, carbono, zinc, vanadio, estaño para el cuerpo de las sondas. muchos de estos elementos ya mencionados también componen las células fotovoltaicas (paneles solares) así como el litio para fabricar los compuestos de litio que se utilizarán en la fabricación de las baterías.
Luego, extraiga hielo para obtener hidrógeno y oxígeno para usarlos como combustible,
hay mucho más que esto, pero en lugar de enumerarlos todos o simplemente agregar un enlace a la tabla periódica, estos son los más importantes que se me ocurren.
Programar la IA es un desafío
Habiendo incursionado en la programación, el gran problema con la IA es no volverse neurótico.
Puede programar una IA para que se ocupe de tantos problemas conocidos como se puedan prever, pero millones de años es mucho tiempo. Imagínese en este planeta hacia atrás varios millones de años. Tuvimos:
No solo están cambiando las condiciones, sino que la IA en sí misma depende de la autosuperación y los algoritmos de aprendizaje: no puedo prever que una IA de autoaprendizaje y programación dure millones de años antes de arruinarse eventualmente, especialmente si se hace desde cero.
A menos que la IA esté realmente al final de un proceso de programación de mil millones de años, en otras palabras, sobrevivió donde otras IA no lo habían hecho.
El material de recursos que imagino es fácil, a menos que esté en un lugar difícil de alcanzar donde la IA no se destruya a sí misma tratando de llegar a él...
Los únicos sistemas que hemos visto que pueden sobrevivir durante millones o decenas de millones de años es la vida misma en forma de ecosistemas. Ninguna forma de vida individual dura mucho tiempo, pero el sistema mismo sobrevive los millones de años requeridos.
En contraste, vemos que los sistemas diseñados e implementados centralmente por humanos (y solo por humanos ya que la naturaleza solo hace diseño distribuido) fallan de manera regular y espectacular. Incluso los sistemas humanos muy resistentes pueden sobrevivir durante mucho tiempo pero, inevitablemente, algo cambiará y el sistema colapsará. Una gran IA central es una apuesta única y excepcionalmente costosa que fallará y probablemente pronto. Diseñar y programar este sistema para que sobreviva un millón de años es una tontería.
Esta IA tendrá que lidiar con fallas en el hardware, fallas en la conectividad de la red con otros nodos de cómputo, muerte de las fábricas, fallas en las instalaciones mineras, agotamiento de los minerales locales, cambios ambientales que no se pueden anticipar por adelantado, fallas en mantener la normalidad. parámetros operativos en el centro de datos donde vive la IA. Básicamente, cada lucha que la vida ahora resuelve, esta IA tendrá que replicarse con máquinas y su propia programación.
También tendrá que lidiar con la falla de la propia IA. La IA evolucionará con el tiempo y se desarrollará cruft. Esto puede ser en forma de potenciales de acción subóptimos que no se pueden cambiar sin empezar de nuevo. Tal vez haya corrupción aleatoria en un solo bit en el lugar exacto equivocado. La vida resuelve esto haciendo que todo muera. El nacimiento brinda nuevos comienzos y nuevas oportunidades para experimentar con las cosas. Necesitará IA/robots más pequeños y ágiles para sobrevivir a los tiempos difíciles/extinciones cuando es demasiado costoso ser una IA/robot grande.
Si esta IA va a sobrevivir, debe construir un ecosistema para sustentarse a sí misma. Debe tener hijos y debe adaptarse a las circunstancias locales. El no hacerlo significa no sobrevivir durante el período de tiempo requerido.
Maybe there's random corruption in a single bit in the exact wrong place.Básicamente, daño genético (digital). Me pregunto si conduciría a mutaciones digitales y versiones de enfermedades genéticas. Sería posible un cáncer digital, donde los datos comienzan a replicarse fuera de control, metástasis lentamente y, si no se controlan, eventualmente podrían matar a la IA.Auto reparación y redundancia de software. La máquina necesitaría poder repararse a sí misma y también tener múltiples copias de seguridad para cada proceso. Debería funcionar algo así como 5 capas de redundancia, básicamente cada vez que hace algo, compara la acción con 5 plantillas para ver si es lo mismo. Si una de las plantillas es diferente a las otras, vuelve a hacer referencia a las otras 4 y luego hace que la quinta dañada sea igual a ellas. Esto se aplica a cada una de las acciones que realiza la IA, lo que significa que, en esencia, tiene 5 IA que ejecutan 5 secciones idénticas de la nave, comprobando constantemente entre sí la uniformidad y operando como un consenso.
Una nota sobre la IA, la idea de que uno se rebele es un poco tonta, ya que eso es confundir inteligencia artificial con conciencia artificial. La IA no necesita ser consciente de sí misma para hacer este trabajo. De hecho, ninguna IA realmente necesita ser consciente de sí misma para hacer su trabajo. Me imagino una nave que tiene 5 cilindros en un paquete hexagonal con 5 motores y 5 conjuntos de sensores y 5 reactores y 5 bahías de reparación, etc. Cada IA ejecuta una sección que es totalmente capaz de viajar, extraer recursos y repostar, reparar, etc. etc. Cada vez que se toma alguna acción, los 5 cruzan la decisión con las bases de datos de los demás. En el caso de una emergencia o falla extrema, la IA 4 destruirá la 5ª defectuosa e incluso será capaz de reconstruir completamente la sección destruida y reemplazar la IA ahora desaparecida con una nueva copia de sí mismos.
Su segunda pregunta ha sido bien abordada, por lo que me centraré en la primera.
Los mayores peligros serían la corrupción en la replicación (cáncer digital), los desastres fortuitos y el almacenamiento de datos.
El tema de la corrupción ya se ha desarrollado con la idea de la plantilla de los cinco sistemas, así que no agregaré nada a este punto.
Los desastres casuales, o extremadamente raros, serían un peligro significativo en el sentido de que cuanto más tiempo exista la IA, más probable es que los encuentre. Para sobrevivir durante millones de años, la IA necesitaría distribuirse en una variedad de formas, siendo más una red colmena que una sola entidad. Las partes de la máquina deben diseñarse y distribuirse de manera diversa para garantizar la continuidad a lo largo de una variedad de eventos catastróficos: impacto de asteroides, erupciones solares, supervolcanes, etc. También necesitaría desarrollar herramientas para protegerse de manera proactiva.
Finalmente, manifiestas que su finalidad es la recogida de datos. Recopilar y almacenar datos en bruto sobre todo en el universo requeriría volúmenes ridículos de energía y materias primas para el almacenamiento. Sin ningún tipo de refinamiento de datos, necesitará rápidamente adquirir recursos y energía a saltos exponenciales.
Esta será probablemente la mayor limitación para la IA.
AlexP
JBH
gandalf3
elementos
elGarz