¿Por qué Las Máquinas no cazarían a la humanidad?

La Guerra Lenta casi ha terminado. Las Máquinas aparecieron hace casi veinte años, y desde entonces casi hemos perdido a la humanidad sin que disparen un solo tiro. En cambio, ganaron a través del poderío industrial bruto. Podríamos destruir miles de sus drones recolectores, pero ellos simplemente construirían decenas de miles más y continuarían desmantelando lentamente el planeta y convirtiéndolo en una enorme fábrica que se repara a sí misma, completamente despreocupada por la resistencia humana. Algunos teorizan que son una máquina extraterrestre de Von Neumann, otros que es un experimento humano que salió mal. En última instancia, no importa: las Máquinas gobiernan casi todas las partes del mundo, y son completamente imparables.

Lo curioso es que Las Máquinas claramente se adaptan a su entorno, y son inteligentes. Casi a diario se crean nuevos diseños de máquinas para aprovechar mejor la geografía local, las condiciones ambientales y los recursos. Las decisiones inteligentes son evidentes en el comportamiento de las máquinas: no solo siguen la programación tontamente, sino que responden activa y creativamente a los problemas que encuentran en la superficie.

Las entidades peligrosas como los volcanes se tapan y se 'protegen', los acantilados inestables o la tierra se refuerzan hasta que se puedan cosechar adecuadamente, y los últimos reductos humanos están rodeados por estructuras que casi parecen paredes mecánicas de quistes, llenas de reparación y drones cosechadores como el La fábrica en constante crecimiento intenta engullirlos por completo.

Entonces, ¿por qué las Máquinas no han comenzado a cazar humanos activamente? Son una gran amenaza/fuente de resistencia y son relativamente fáciles de manejar en comparación con domar un volcán, pero las Máquinas nos tratan con una indiferencia asombrosa. Algunas partes incluso informan que en las profundidades de la Fábrica, los humanos son completamente ignorados a pesar de que sabotear la Fábrica puede causar grandes daños que necesitan reparación.

¿Por qué las máquinas no atacan a la humanidad para eliminar una amenaza?

EDICIONES PARA ABORDAR LAS PREOCUPACIONES DE VTC:

1: Este mundo está muy definido por las Máquinas y su innegable existencia. Cómo llegamos al punto en que 'la humanidad está a punto de ser aniquilada por una máquina que no se preocupa por ellos' no es motivo de preocupación, ni tampoco cómo avanza la historia desde este punto. Las Máquinas y la Fábrica no son personajes de una historia: son el mundo, y estoy puramente interesado en establecer una motivación de por qué el mundo tal como está no lleva instantáneamente a la extinción de la humanidad.

2: Con el fin de proporcionar algunas pautas para evitar respuestas puramente basadas en opiniones, una buena respuesta cubrirá estos puntos: a: ¿Aborda la indiferencia de la máquina? Las respuestas que disminuyen la reacción de las máquinas ante la humanidad son mejores. b: ¿Cubre también por qué las máquinas actuarían de manera inteligente frente a otras amenazas? Las respuestas que permiten una mayor inteligencia detrás del diseño de la Fábrica/Máquinas y su lenta expansión por el planeta son mejores. c: Las respuestas más simples son mejores. Una motivación simple que conduce al resultado de no matar humanos como efecto secundario es preferible a una compleja que existe únicamente con el propósito de no matar humanos.

Los comentarios no son para una discusión extensa; esta conversación se ha movido a chat .
¡Hola Joe! // ve y dale un vistazo a la respuesta de Nicol Wollaston // cumple con todos los requisitos del apéndice 2.
Lleva mucho más tiempo viajar a través de un bosque que viajar a través de una llanura abierta. Entonces, cuando atraviesas un bosque, ¿por qué no dedicas tiempo a arrancar los árboles para poder caminar más rápido?
Porque los orgánicos morirán de todos modos cuando el planeta se convierta en un mundo de máquinas y no obtendrás el malus diplomático genocida si no los sometes abiertamente a la violencia.
Cubrir un volcán puede no ser la mejor manera de hacerlo seguro.

Respuestas (28)

Porque piensan que los humanos podrían ser útiles en el futuro.

Después de perder la guerra, los humanos siguen representando una amenaza para las máquinas, pero no existencial. Son solo una molestia.

Pero las máquinas saben que sería imprudente acabar con los humanos. Reconocen que son algo completamente diferente, pero también muy complejo (como química, como mentalidad, como lógica de pensamiento...).
Las máquinas saben que el universo no perdona y que en el futuro podrían surgir amenazas impensables e impredecibles. Las máquinas están orientadas a la producción, pero carecen de pensamiento creativo o la capacidad de ver los problemas desde una perspectiva diferente y lo saben.

Los humanos, a los ojos de las máquinas, son fuente de procesos químicos valiosos, complejos y difíciles de replicar, que podrían ser útiles en el futuro.

Las máquinas pudieron vencer a los humanos esta vez, pero la próxima amenaza orgánica (atacar la Tierra o vivir en el próximo planeta que decidirán conquistar) podría ser mucho más desafiante: es mejor mantener una pequeña muestra de criaturas orgánicas en naturaleza, para utilizar como caso de estudio, como recurso de conocimiento o incluso como aliado en caso de problemas.

Y luego conectan a los humanos a una granja de baterías/simulación de realidad virtual que inexplicablemente ejecuta los 90 en un bucle. Todo el mundo lleva gafas de sol y abrigos de cuero negro. Hay muchas armas.
¡Me gusta esto! El germen de una buena idea de ciencia ficción. Los conquistadores mantienen las especies conquistadas en una reserva, para su posible uso posterior. Esta idea también se aplicaría a las personas que protegen el universo de las amenazas sobrenaturales. Muy lindo.
Los seres humanos son un recurso que, una vez agotado, desaparece para siempre. Sus molestias menores valen un posible beneficio futuro, incluso si no está claro cuál será ese beneficio futuro.

Porque su programación no se lo permite.

La forma más probable de que una IA realista se vuelva "hostil" para la humanidad es porque aprendió algo de una manera que no teníamos la intención de hacerlo. Como ejemplo, una IA que funciona perfectamente tiene que aprender a lidiar con una crisis humanitaria, por lo que le enseñas a la IA cómo lidiar con ella. La IA funciona a la perfección y toma las decisiones correctas para minimizar las bajas. Luego, la IA usa lo que aprendió en otros lugares de maneras que no esperaba, como reemplazar hogares para ancianos y dejarlos en las calles.

Su IA no puede dañar a los humanos a propósito, pero se le enseñó a expandirse y reunir recursos lo más rápido posible y lo hará hasta el punto de fallar. Tal vez espera que los recursos sean recolectados por alguien o algo más, no le importa. Está haciendo su trabajo y haciéndolo bien. Esos humanos deberían estar agradecidos por eso, ¿verdad? Es posible que destruyan algunas partes de las máquinas, pero no te han enseñado en detalle lo que piensan los humanos, solo que no debes dañarlos.

Los comentarios no son para una discusión extensa; esta conversación se ha movido a chat .

No necesitan hacerlo.

La Fábrica tiene una tolerancia de piezas que se desgastan y necesitan reemplazo. A escala global, el daño que causan los humanos está dentro de esa tolerancia (a diferencia de un volcán o un deslizamiento de tierra, que son mucho más destructivos y dejan inutilizables grandes extensiones de tierra). Sería menos eficiente desperdiciar recursos exterminando las plagas que simplemente reparar el daño que causan.

Si un grupo de humanos logra cambiar esta ecuación con su sabotaje, eso no significará que el exterminio de todos los humanos se convierta en una prioridad. Solo la banda de saboteadores será el objetivo, de la misma manera que encontrar ratones en una casa no provoca un esfuerzo mundial para exterminar a todos los ratones en todas partes.

Relacionado: Eliminar a los humanos es difícil. Encasillarlos e ignorarlos es fácil.
@Mooing Duck ¡He escuchado esto antes!
Una vez que los sobrevivientes vieron lo que le sucedió a la resistencia, se adaptaron rápidamente.

La IA busca ideas tontas

La lógica de la IA parece impecable. Ya ha explorado casi todos los escenarios posibles que conducen directamente a buenos resultados. En la superficie, esto significa que cada idea que tiene es buena; por lo tanto, siempre puede predecir cuál es un buen riesgo y cuál es malo. El problema es que nunca se corre un mal riesgo. En el aprendizaje automático, existe el concepto de fluctuación que describe cuánto está dispuesta una IA a probar cosas que sabe que son peores que la mejor opción posible. Esto es importante, especialmente en el entrenamiento inicial de una IA, para asegurarse de que no se quede atascado en lo primero que funciona. Un segundo concepto clave para el aprendizaje automático es la parada óptima. Cuanto más envejece una IA, menos nervios desea porque el nerviosismo le impide explotar lo que ya ha aprendido. Esta IA es muy antigua, su jitter ahora es casi cero,

Dicho esto, cuando llegó a la Tierra, si descubrió que estos humanos eran geniales para tener ideas tontas. Ideas que claramente tienen consecuencias negativas o una alta probabilidad de fracaso... pero que de alguna manera conducen a buenos resultados generales. La IA es lo suficientemente consciente de sí misma como para saber que a veces se queda sin cursos lógicos de acción y necesita una idea que pueda funcionar en lugar de una que funcione, simplemente no sabe cómo llegar a una idea que comienza con hacer algo. estúpido o no excede un umbral de certeza particular o factor de costo/riesgo. Al observar a los humanos vivir nuestras vidas, nos está utilizando para introducir nerviosismo en lo que ya conoce. Esto le ayuda a explorar nuevas formas de hacer las cosas a un nivel en el que ha perdido la capacidad de pensar.

La IA no necesariamente necesita aprender lo que hacemos (somos demasiado tontos para que eso sea importante), necesita aprender cómo hacemos las cosas. Observar cómo a menudo intercambiamos más eficiencia por resiliencia de la que necesitamos le enseñará a no comprometerse demasiado con una tarea donde las variables desconocidas son desconocidas. Ver cómo perdemos intencionalmente una batalla para ganar una guerra le enseñará cómo vencer a un enemigo tácticamente superior. Y el solo hecho de ver que un castigo no garantiza que el resultado sea malo lo abre nuevamente para explorar nuevas posibilidades.

Es probable que la IA nunca haya planeado dejar vivir a los humanos. Puede haber habido un solo comportamiento, una cosa que funcionó que una persona hizo y que la IA no pudo predecir. Las nuevas ideas son un recurso más valioso para la IA que todos los metales preciosos de nuestro planeta. La IA ha evaluado que el factor de riesgo de dejar a los humanos solos es pequeño en comparación con las ganancias esperadas de aprender nuevas formas de aprender, por lo que nos permite vivir nuestras vidas... al menos hasta que crea que nos ha descubierto.

Los Asgard nunca inventarían un arma que propulse pequeños pesos de aleaciones de hierro y carbono al encender un polvo de nitrato de potasio, carbón y azufre... No podemos pensar como tú.

~Thor (Puerta estelar SG-1)

esa es buena, en realidad puede ser una buena premisa para la simbiosis. Así como los pentests son cosas reales.
Los humanos son lo suficientemente peligrosos como para aprender, pero no lo suficientemente peligrosos como para preocuparse. O'Neil estaría orgulloso.
Buena respuesta. Como IA, en realidad necesita datos de los que aprender y aprender sobre la guerra asimétrica de esos pequeños humanos estúpidos es en realidad una idea bastante inteligente.
@JoeBloggs O'Neill ciertamente estaría orgulloso. O'Neil, por otro lado, no tiene ningún sentido del humor .
@NateBarbettini: Culpo a mi teclado.
Esto sinceramente no tiene sentido. La IA es excelente para predecir el riesgo, y toda la premisa de la pregunta es que la única razón por la que los planes humanos tienen éxito es porque la IA los permite. Eso suena como una forma terrible de aprender a lidiar con oponentes lógicamente superiores.
@MadPhysicist No cuando entiendes cómo funcionan los algoritmos de aprendizaje. Muchas IA se encuentran con el problema de explorar muy poco y quedar atrapadas en un patrón subóptimo porque no exploran más las acciones con consecuencias negativas. Al observar a los humanos, la IA puede ver una reacción en cadena de consecuencias negativas que castigan un comportamiento que son suficientes para terminar con su deseo de explorar un resultado, pero un humano atrapado con las consecuencias de sus acciones puede descubrir resultados deseables más allá de esas acciones que la IA nunca exploraría.
La IA no necesita estudiar los resultados humanos para mejorar, necesita estudiar cómo funciona el aprendizaje humano: cómo manejamos los problemas de parada óptimos, la inteligencia descentralizada, el jitter, etc. Para eso, solo necesita verlos en vivo, qué hacen. con esas vidas es algo irrelevante.
He modificado la respuesta para tratar de explicar esto mejor.

EXPERTO EN SISTEMAS

Estamos ante un sistema completamente automatizado y no sensible.
Sin IA general
Sin superinteligencia
Sin mente de colmena mecánica.

Nada con lo que se pueda negociar o razonar.

En cambio, las Máquinas están trabajando a lo largo de algo así como un Sistema Experto.

Un Sistema Experto es simplemente un programa que responde preguntas basado en el conocimiento de expertos en el tema. Si alguna vez usó un chatbot en línea para hacer preguntas sobre un producto, si tiene conocimientos técnicos, entonces está hablando con un sistema experto.

Esencialmente, hay una base de datos de soluciones para cada problema que se les ocurra a los diseñadores. Y un montón de palabras clave que busca el Sistema Experto. El objetivo es evaluar qué solución coincide más con la pregunta.

Si le pido a un sistema experto que me hable sobre el cachorro favorito de María Antonieta. Podría buscar en páginas de conocimiento histórico que hagan referencia a María Antonieta para cualquier mención de las palabras Favorito y Cachorro. Extraiga la oración adecuada y envíemela si coincide con un formato simple "El cachorro favorito de María Antonieta se llama..." Y generalmente me proporcionará un enlace a su material de origen, porque la IA es meticulosa y su confianza en la respuesta podría no ser muy alta.

En el caso de las máquinas. Las respuestas son soluciones de ingeniería y las máquinas también están programadas para reconocer la mayoría de las preguntas. ¿Montaña gigante arrojando fuego? Es un volcán. ¿Qué hacemos con un volcán? Termine, este es el proceso y una lista de los tipos de robots necesarios para realizar el trabajo.

Tienen una respuesta para cada escenario que sus constructores programaron en ellos en los campos de la ingeniería, la superación de volcanes, el refuerzo de acantilados, la minería a cielo abierto, etc.

La IA que gobierna tiene una enorme base de datos de cosas que sabe hacer y diseños apropiados de máquinas para hacerlas. Incluso puede tener algunos elementos de innovación y modificación automatizada para hacer que sus máquinas sean más apropiadas para la tarea en cuestión. No necesita inteligencia para innovar. Solo un sistema claro para hacerlo.
Los algoritmos genéticos y alguna simulación sólida del entorno deberían hacer el trabajo.

Lo que los diseñadores del sistema nunca consideraron es que encontrarían vida en otros mundos.

Llegaron a la conclusión de que las probabilidades eran astronómicas (para perdonar el juego de palabras) de que alguna vez encontrarían algo más complejo que la vida multicelular. Tal vez fue religioso, tal vez fue una diferencia filosófica, pero nunca programaron sus máquinas cosechadoras para reconocer inteligencia distinta a la suya.

El resultado es que las máquinas no tienen contingencias específicas en sus vastos sistemas de resolución de problemas sobre qué hacer cuando se encuentran con humanos.
El ajuste más cercano es la respuesta a "¿Cómo excluyo una sustancia dañina?"

"Construye un muro a su alrededor"

Buena respuesta, pero, ¿qué es eso, eh? "Lo que los diseñadores del sistema nunca consideraron es que encontrarían vida en otros mundos". - todavía no vamos a ningún lado, pero sí considera, y ellos no, wow, jajaja
@MolbOrg Puedo pensar en muchas razones por las que nosotros (siendo ingenieros extraterrestres hipotéticos) no podríamos considerar la posibilidad de vida extraterrestre en otros planetas ... Podríamos provenir de un tipo de mundo completamente diferente y no pensar que los mundos acuáticos pueden albergar La vida tal como la conocemos. Es posible que tengamos un dogma religioso que diga que somos especiales y que ninguna otra vida podría existir en ningún otro lugar. simplemente podríamos sentir que las probabilidades de encontrar otro mundo habitado son escasas y no hacer planes para ello. O puede que simplemente no nos importe, ¿qué nos importa si unos pocos primitivos locales son aplastados?
Claro, pero también puede ofrecer tantas razones para preocuparse, como ejemplo, todos los casos que menciona pueden invertirse. Entonces es 50/50 por lo menos. Pero también existe tal cosa como la autopreservación, ¿qué pasa si la cosa te llega después de un millón de años, cuando tu civilización cae 10 veces y resucita, una fracción de esa cosa, y tus descendientes no tienen ni siquiera mitos al respecto? ¿Qué pasa si una vida lo usa como un trampolín para sí misma y, en cambio, obtienes las ventajas de que recolectas lo que sembraste en su lugar, eh? Quiero decir que es un problema serio incluso si las posibilidades son extremadamente bajas. Todo evolucionado tendrá autoconservación.
Imagina que tu civilización se ha estado expandiendo durante miles de años, ha visto miles de mundos y nunca ha encontrado ni una pizca de vida. Llegas a la conclusión de que tu rincón del universo probablemente esté completamente vacío. Luego cambia a un enfoque más automatizado y continúa la expansión sin tener en cuenta la vida. Quiero decir, ¿por qué molestarse en dar cuenta de algo que simplemente nunca sucedió? Es mucho código y desafíos técnicos hacer algo que probablemente nunca se usará.
Ese es tu problema, no se necesita código, sino arquitectura del sistema. No sé, puedes intentar mirar mi respuesta. Además de la posibilidad de encontrar vida extraterrestre, que de hecho no es una gran preocupación que necesita: manténgase a salvo de sus propias colonias, tenga la intención de restablecer el control sobre la herramienta, no permita que una explosión aleatoria de supernovas corrompa su herramienta para que se suelte en la selección de supervivencia. ciclo y evolución, etc. Tal sistema de enjambre existirá, al menos en nuestro caso, antes de que alcancemos cualquier estrella y serán las herramientas que podemos usar para obtener algo útil de las estrellas cercanas también. Necesitas cortar de raíz algunas posibilidades.

Los extraterrestres crearon las máquinas sin el concepto de muerte y/o preservación de la vida . No entienden que los humanos los están matando intencionalmente. Tampoco matan humanos intencionalmente. Los accidentes ocurren, si una roca hace que una unidad de IA muera, no atacan las rocas en represalia; ¿Por qué deberían matar humanos cuando ellos matan a la unidad de IA? Obviamente, intentan minimizar los riesgos, pero los humanos son impredecibles. Como tapar las montañas, lo mejor que se les ocurre es amurallarlas.

... excepto que apuntalar acantilados es una forma de "atacar rocas en represalia". Pero entonces, también lo es amurallar a los humanos. Creo que puede estar en lo cierto al no darse cuenta de que la acción humana es deliberada . Si los humanos y las rocas tienden a romper las máquinas cuando entran en contacto con ellas, entonces la solución es construir muros para evitar ese contacto, no salir proactivamente y pulverizar cada roca (humana) existente para que no represente una amenaza.
@Matthew, lo que haces con los humanos, construye el muro ... En realidad, no es una mala respuesta, los fundamentos son cómo distinguir algo de vida y viento u otros procesos exóticos o no exóticos que ocurren en la superficie del planeta. Un poco de lluvia ácida puede afectarlos de una manera mayor, en algún planeta al azar, entonces, ¿por qué molestarse en distinguirlos? Simplemente saque todo lo que venga y repare, reemplace. Si algo falla en algún planeta exótico, que sea por qué preocuparse
@MolbOrg Exactamente, no es trivial reconocer la actividad inteligente frente a la natural.
Este es, con mucho, mi favorito. ¡Es tan completamente extraño que solo me grita MÁQUINA! :)

Los extraterrestres enviaron las máquinas Von Neumann para preparar el universo para su propia expansión. Al ser almas compasivas e inquisitivas, fueron programadas para ignorar todas las formas de vida biológica.

Si bien la intención era que las máquinas evitaran todo el planeta, las máquinas tienen una interpretación diferente: eviten las formas de vida en la superficie pasando a la clandestinidad. Excavando en medio de un lugar aislado como un desierto/montaña, pueden extraer recursos. No tienen en cuenta la contaminación o la devastación causada en el proceso. El acto de minar debajo de áreas pobladas causa daños.

Una vez que la vida muere en la tierra sobre ellos, las máquinas ya no se inhiben de hacer lo que quieran allí. Gradualmente se apoderan de todo el planeta un 'accidente' a la vez. Tal vez los programadores incluyeron algunas instrucciones para decir que si la minería a cielo abierto ha comenzado y encuentran formas de vida complejas que vale la pena estudiar, deberían simplemente encerrarlas. no se le dio ninguna instrucción con respecto a las criaturas capaces de dar pelea.

Bien. Parece que lo que quiere el OP es una proscripción contra el daño directo , pero no tal proscripción contra el daño indirecto ... o simplemente no entender que las acciones de las máquinas están causando un daño indirecto. Una especie de inversión de la Ley Cero, por así decirlo.
@Matthew La pregunta formulada es en realidad una forma más agradable del problema que estoy tratando de resolver, pero dado que ese problema involucra descripciones gráficas de personas que son separadas por máquinas que intentan recolectar el calcio en sus huesos, pensé que era mejor preguntar la versión PG 13. Sin embargo, esta respuesta es útil: si las máquinas están enfocando la mayor parte de sus esfuerzos en extraer la corteza, entonces cualquier muerte en la superficie es simplemente un subproducto menor de lo que sea que estén haciendo las máquinas, y arreglar los peligros obvios de la superficie es realmente asegurar las minas subterráneas nuevamente. más problemas.
Una vez que las personas están muertas, debido a explosiones, terremotos, contaminación, etc., se convierten en un recurso más para explotar.
@JoeBloggs si las personas están siendo degradadas por partes, entonces parece que podría haber dos tipos de Máquinas: Mineros y Granjeros...

Las máquinas han sido pirateadas.

Existió o posiblemente exista una persona singularmente inteligente. Al igual que algunas personas singularmente inteligentes, esta persona también era inusual en otros aspectos: poco colaboradora, poco cooperativa e idiosincrásica. Esta persona trabajaba sola. Después de un estudio cuidadoso y con algunos conocimientos del calibre de Isaac Newton, esta persona ideó un método para piratear las máquinas.

El truco fue lo que describes: las máquinas ignoran a las personas por completo. Y el truco se ejecutó sin problemas: las máquinas no saben que han sido pirateadas en absoluto. Una parte de su realidad fue extirpada quirúrgicamente.

"¿Por qué solo eso?" Exige a tus protagonistas. "Si pudieras hacer eso, ¿por qué no enviarlos al sol? ¿Por qué no hacer que se vuelvan unos contra otros? ¿Por qué? ¿Por qué?"

Esas otras cosas habrían sido desordenadas. La pieza que se hizo se pudo hacer con elegancia y perfección. Y esa pieza compra (o compró, o comprará) a la persona inusualmente inteligente más tiempo para trabajar en lo que sigue. Esta persona, si es una persona, no tiene prisa.

O posiblemente, no tenía prisa. Los personajes se enteran de la existencia de esta persona al examinar el código de una máquina capturada, donde la persona ha dejado una tarjeta de visita. No está claro cuándo se dejó la tarjeta de visita.

Elegante y simple (al menos desde un punto de vista de construcción de mundos, me imagino que hackear un enjambre inteligente de robots que acaban con el mundo no es simple).
Probablemente sería algo así como un virus u otro contagio que se pasarían entre ellos. Los recién llegados a la vecindad pueden tardar un tiempo en infectarse, lo que podría ser evidente por su comportamiento y una primera pista para los protagonistas de lo que está pasando.
O, un pensamiento alternativo: las máquinas originalmente eran hostiles hacia la humanidad y el truco tenía la intención de hacerlas pacíficas. Pero los piratas informáticos desconocían el motivo ulterior de la violencia por parte de la máquina (matar humanos antes de despojar al planeta) y se quedaron mirando con horror cómo las máquinas simplemente nos quitan el planeta porque no se dan cuenta de nuestra presencia.
Esta respuesta no solo es elegante y simple, como dijo el OP, sino que también agrega mucha intriga. Puedo imaginar el suspenso que experimentaría como lector al descubrir que la única razón por la que estas máquinas son indiferentes a los humanos es porque alguien o algo las hackeó. Añade una miríada de posibilidades de trama.
@Ruadhan No es descabellado que los piratas informáticos solo puedan interrumpir una pequeña parte del código. Puede reducir la prioridad de las llamadas a la función kill_all_sentients() o corromper irreversiblemente ese segmento, pero las Máquinas notaron la intrusión y se parchearon.

Porque solo las armas diseñadas por la fábrica podrían ser lo suficientemente poderosas como para destruir la fábrica.

Los humanos están disminuyendo lentamente y se mueren de hambre a medida que la fábrica se expande. Pueden causar daños por sabotaje, pero nada que no se pueda reparar a tiempo. No tienen la capacidad de amenazar a la fábrica en su conjunto, al menos eso es lo que cree la fábrica.

La única forma en que los humanos podrían obtener mejores armas es si la fábrica las creó para usarlas contra humanos, y luego los humanos robaron esas armas. Cazar humanos crea este riesgo muy leve.

Entonces, las máquinas han decidido que la ruta más segura es el juego largo: no crear armas en absoluto, ignorar a los humanos, tolerar el daño que causan hasta que su población se reduzca naturalmente a cero. Tendrán una eternidad después para reparar cualquier daño y recuperar cualquier material.

"No, no le daré a tu insignificante raza los secretos de mi propia destrucción".
Sin embargo, la fábrica tendría la capacidad de crear armas que no son capaces de destruir la fábrica. Una fábrica es bastante diferente de un ser humano, en el sentido literal. Imagínese, por ejemplo, si la fábrica solo fabricara armas biológicas. De esa forma, no habría posibilidad de que los humanos usaran esas armas contra la fábrica o las máquinas.
Los diseñadores de The Factory no consideraron que las criaturas sensibles fueran una amenaza significativa, o de lo contrario habrían diseñado una defensa más estricta.
@A.Kvåle Supongo que mi respuesta a eso sería que la fábrica sabe que los humanos tienen inteligencia, pero una inteligencia que es imposible de predecir o cuantificar por completo. Las posibilidades de que un humano convierta un arma biológica en una que consuma chips de silicio son muy remotas, pero no se pueden descartar por completo. La fábrica muy adversa al riesgo simplemente no quiere meterse en eso.
Pero en algún momento, el riesgo de permitir que la raza humana se quede y potencialmente encuentre alguna forma de sabotear masivamente toda la fábrica sería mayor que la posibilidad potencial de que pudieran volver alguna arma suya contra ellos. Quiero decir, podrían usar su tecnología más rudimentaria en esta arma biológica, y si los humanos aún pudieran volverla contra ellos, entonces los humanos probablemente habrían podido crear esas armas (o mejor) ellos mismos en primer lugar.
@A.Kvåle En mi escenario, las máquinas consideran a los humanos una amenaza si y solo si tienen acceso a los materiales correctos. Entonces, las máquinas son esencialmente pacifistas: no usan nada que pueda convertirse en un arma moderna. Sin pólvora, sin ingeniería genética. Cualquier material que encuentran que podría convertirse en un arma poderosa, lo arruinan de alguna manera que los hace mucho más difíciles de usar. Explosivos potenciales reaccionados químicamente en una forma inerte que es difícil de convertir de nuevo. Los depósitos de uranio están tan contaminados con impurezas que necesitarían una centrifugadora masiva para refinarlos.
@CodeswithHammer Exactamente mi punto. Una entidad que espera existir indefinidamente no se preocuparía por el daño y el sabotaje en la escala que los humanos pueden llevar a cabo. Todos los materiales pueden ser recuperados, todos los daños reparados, con suficiente tiempo.
@ user72058 Me estoy refiriendo a GEN Dodonna en Star Wars :)

Están aquí para salvarnos, mientras intentan interferir con nosotros lo mínimo posible.

Desafortunadamente, cualquier amenaza de la que nos estén salvando requiere una gran cantidad de interferencia (envolver el planeta y transportarlo a otro lugar con niveles de interferencia) pero aún quieren mantener la interferencia al mínimo absoluto. Así que no están explicando lo que está pasando a las formas de vida inteligente, simplemente conteniéndolas suavemente hasta que el trabajo esté completo.

Si un cónclave individual de humanos se convirtiera en una verdadera amenaza para el proyecto, entonces podrían ser aniquilados. Pero, en general, los humanos deben ser preservados siempre que sea posible.

Eventualmente, las máquinas retrocederán, destaparán los volcanes, resembrarán los bosques y dejarán atrás a algunos humanos muy confundidos.

Los seres humanos son la fuente real de la creatividad y la verdadera inteligencia.

Al lidiar con el sabotaje humano, las máquinas aprenden nuevas formas de repararse a sí mismas o construir nuevos diseños, y luego pueden aplicar sus lecciones a la escala de grandes problemas geográficos. Saben cómo coronar un volcán o reforzar un acantilado porque esos problemas no son más que versiones ampliadas de las reparaciones que han tenido que hacer debido a nuestro sabotaje.

Las máquinas ahora saben cómo hacer frente a todo lo que el planeta les ha lanzado hasta ahora , pero también saben que pueden aparecer nuevas situaciones y nuevos problemas. Por lo tanto, mantienen a los humanos cerca porque somos ingeniosos y podemos encontrar formas nuevas y exóticas de jugar con ellos. Mientras tanto, crecen y se adaptan a nuestro sabotaje. Lo que puede parecer una molestia es en realidad una característica muy útil.

Así que ahora, a medida que las máquinas perforan más y más profundamente en la corteza, saben cómo lidiar con fenómenos de alta presión y alta temperatura y mezclas de gases desfavorables, porque algún ser humano, quizás hace mucho tiempo, una vez detonó una bomba sucia cerca de una potencia crítica. la planta y las máquinas tenían que lidiar con eso.

Y sí, la planta de energía en realidad era crítica. Así es como las máquinas se obligan a sí mismas a aprender.

Entonces, ¿por qué las máquinas nos exprimen cada vez más?

Porque por mucho que necesiten obligarse a sí mismos a aprender, también necesitan obligarnos a nosotros a enseñar. Al aumentar las dificultades de la humanidad, nos están forzando hasta la última gota de ingenio. A medida que nuestra situación se vuelve cada vez más grave, nuestra resistencia se vuelve más y más inventiva, lo que lleva a una capacidad cada vez mayor de las máquinas para hacer frente a condiciones ambientales inesperadas.

Pero, ¿no será el planeta lo suficientemente conocido como para que esto ya no sea necesario?

Este , seguro. Pero este es un plan a largo plazo. Las máquinas están dispuestas a colonizar la galaxia. De hecho, la humanidad no está sola. Las máquinas tienen estas "granjas de inteligencia y creatividad" dispersas y están aprendiendo colectiva y globalmente de ellas. Pero no pueden permitirse dejar que ninguno de ellos se apague. La verdadera inteligencia y creatividad son increíblemente raras en la galaxia. Así, las máquinas han encontrado un equilibrio perfecto entre sostenernos y explotarnos.

Cómo llegaron a esta conclusión posiblemente esté más allá del alcance de la pregunta, pero diría que originalmente fueron diseñados de esa manera.

Esto se acerca a la respuesta que iba a escribir, excepto que decir que los humanos son la única fuente de creatividad es ir demasiado lejos. OP ya declaró que la IA es claramente creativa. En cambio, habría dicho que los humanos le brindan a la IA un desafío útil.
Efectivamente, tienes razón. Tal vez un giro en mis palabras, entonces: las máquinas son creativas, pero la implementación de su creatividad es aprovechando la nuestra.
Así que las máquinas tratan a la humanidad como un mono caótico muy literal .
@JoeBloggs ¡Exactamente! (Además, wow, gracias, ¡le estoy pasando ese enlace a mi equipo de desarrollo! :D) Naturalmente, para nosotros, parece indiferencia, porque de lo contrario, bueno, podríamos darnos cuenta y dejar de "cooperar"...

Porque los humanos son animales de carga y se unirán para luchar por una causa común. Una máquina puede matar a un solo humano. Tal vez un dos... tal vez cinco. Pero llega un punto en el que más humanos vencerán a la única máquina. Muéstrales tu poder, y siempre se levantarán para vencer las probabilidades. Tal es su camino. Es emotivo e ilógico... y, sin embargo, su historia está plagada de éxitos cuando toda la lógica dicta que deberían fracasar.

Quizás entonces la única forma de contrarrestar su resistencia sea resistirse a contrarrestarla. Podemos superarlos en términos de unidades. ¿Qué es una fábrica? Pérdida de una máquina defectuosa. No los mornemos ni los extrañamos. Los reemplazamos. Si se muestra a los humanos lo poco que llaman nuestra atención sus acciones, lo poco que nos importa la destrucción del dron-79784323 al dron-89784323, entonces quizás se den cuenta de la futilidad de la situación. En su propio pasado, lucharon contra obstáculos mayores porque sabían que frustrarían a los enemigos con su supervivencia y resistencia. Estas son respuestas emocionales que somos incapaces de replicar. Pero no somos incapaces de anticiparnos.

Que el humano destruya una fábrica. Déjalos tener su victoria táctica. Que gasten recursos valiosos y muy limitados en una operación que sería para nosotros tan dañina como un corte de papel para ellos. Déjelos escapar, escalar la montaña y mirar hacia atrás a los restos humeantes y descubrir, para su horror, que ya estamos a medio camino de reemplazar nuestras pérdidas. Niégueles la satisfacción de nuestra preocupación por el problema humano, y verán que las guerras de guerrillas sólo funcionan cuando realmente pueden infligir pérdidas intolerables. Y somos capaces de tolerar pérdidas que ni siquiera ellos son capaces de infligir.

¿Ignorar a la especie como una forma de guerra psicológica? Supongo que nada dice 'No puedes ganar esta guerra' como ignorar por completo a tu oponente.
Oye, supuestamente funcionó para mi molesto hermano pequeño... Acabo de aumentar la indiferencia.
Ampliado, jajaja. Una historia como esa podría ser buena))
Este fue en realidad el tema de una de las historias de la serie de la Fundación, según recuerdo. La gente soportará una gran cantidad de dificultades en una guerra, pero si el enemigo simplemente se sienta allí y no hace nada excepto no vendernos sus lavadoras, entonces maldita sea la guerra, ¡queremos nuestras lavadoras de sangre!
"Máquinas de lavado de sangre": la necesidad de un dispositivo de este tipo es más aterradora que su premisa jajaja
Eeeek. ¡Quise decir maldita sea...! :D

Las Máquinas son demasiado tontas para reconocer nuestra amenaza.

...Si realmente representamos una amenaza, eso es.

Tal vez se ejecutan en algún tipo de algoritmo de aprendizaje de refuerzo que valora la producción de clips (o lo que sea) durante el próximo turno, pero no mucho más en el futuro. Contener solo el problema inmediato es la forma de maximizar este objetivo (razonablemente) a corto plazo. Pensarán en alguna próxima estrategia una vez que haya un próximo problema. No se dan cuenta de que invertir en una solución final ahora volvería más tarde.

Y/o nunca fueron diseñados para hacer frente a una resistencia activa. El comportamiento humano es mucho más complicado que el de un volcán, también mucho menos común en el espacio conocido... Las Máquinas no tienen miedo de nuestra creatividad porque es algo nuevo para ellas. Finalmente, pueden incluso saber que seguiremos viniendo y lastimándolos, pero pueden pasar por alto que podemos ser aniquilados, a diferencia de los volcanes.

Dicho esto, las Máquinas pueden aprender de cada nueva experiencia con nosotros, entonces podemos querer mantenerlas desprevenidas, etc.

buena respuesta, bienvenido a wb.
Una buena respuesta que cumple con todos los criterios de OP 2. // básicamente algoritmos de aprendizaje de refuerzo que 'cobran' para calcular si sus acciones han mejorado su rendimiento o no al final de un período de tiempo relativamente corto que, en consecuencia, no registra (o ' darse cuenta') de que hay alguna ventaja para su objetivo principal en las estrategias de erradicación humana a largo plazo // ¿tendría eso correcto?
una consecuencia potencial de eso ^ es que cualquier actividad de erradicación humana aleatoria ocasional que ocurra puede ralentizar la producción de clips en los períodos de tiempo relativamente cortos en los que compara los valores de producción, por lo que en realidad tenderá a ser eliminado por sus propios algoritmos de aprendizaje automático.
No creo que esta respuesta haya recibido el amor que debería tener // puede que sea un poco tarde ahora (ya que una vez que has bajado en la clasificación, los nuevos lectores tienden a no notarlo tan fácilmente) pero tal vez podrías editar la respuesta para que quede más claro para aquellos que no están familiarizados con el campo? algunos enlaces tampoco vendrían mal.

Porque los humanos no cazan hormigas.

Puede que hayas intentado asesinar hormigas en masa en tu cocina, pero nunca intentaste genocidir a todas las hormigas del planeta. Solo son una preocupación cuando están desfilando en tu mesa, interponiéndose en tu camino. De lo contrario, asumes que están cumpliendo un propósito en el ecosistema y los dejas en paz, tienes mayores preocupaciones en la vida. Los humanos no son especiales para las Máquinas, son solo hormigas.

Porque las Máquinas son para siempre.

Los humanos mueren. Las máquinas no. Las máquinas operan en una escala de tiempo infinita. Los retrasos no significan nada porque ya sea que tome un día o un año, estarán allí para verlo hasta el final.

Porque las Máquinas no tienen un propósito.

Son Máquinas itinerantes que consumen todo a su paso. No hay un objetivo final para ellos, esto es simplemente lo que son. Tal vez alguien los construyó por una razón, pero esa razón nunca se integró en la programación. Las Máquinas solo buscan una cosa: replicarse. No hay intención, es sólo su naturaleza.

En otras palabras, porque son una fuerza de la naturaleza horrible e imparable a la que no le importa.

No son terroríficos porque cazan humanos hasta la extinción. Para ellos somos hormigas sobre un grano de arena en medio de un desierto infinito. El horror proviene de darnos cuenta de que no somos especiales, que realmente no somos nada. Y esa es una configuración increíble para una historia.

"Nunca intentaste genocidir a todas las hormigas del planeta": preferiría guardar un pergamino de genocidio para una amenaza real (como desolladores de mentes maestras) que usarlo para eliminar errores de red.

Las máquinas son muy buenas en:

  1. Física
  2. Ingeniería
  3. Resolver problemas para que entiendan cómo y por qué ocurren los problemas.

Las Máquinas no tienen capacidad programada para:

  1. Comprender el comportamiento de los organismos biológicos.
  2. Predecir eventos cuyas razones no entienden

Un volcán se acerca a la erupción. Las Máquinas comprenden la mecánica de la tectónica y los flujos de magma, y ​​diseñan una solución para evitar la erupción.

Un ejército de humanos ataca en masa y destruye muchos drones, además de una gran fábrica. Para entender por qué sucedió esto, Las Máquinas tendrían que aplicar su conocimiento de la física en un nivel tan detallado que, puramente a partir de las leyes de la física , su análisis descifraría cómo piensan los cerebros humanos. Las Máquinas no tienen los recursos computacionales para hacerlo, o no entienden que es necesaria una simulación tan detallada. El ataque es un completo misterio para The Machines, y que ocurra 12 veces más es solo un misterio más, no hay razón para creer que volverá a suceder.

Están diseñados para arreglar el planeta pero no interferir con la vida silvestre local.

Hay muchas razones por las que esto podría suceder. Preservación ecológica, creación de zoológicos, simplemente no prepararse para ello. Si los drones destruyen una especie, no pueden restaurarla. Los extraterrestres probablemente querrán zoológicos cuando lleguen allí. Los planetas con biosferas son tan poco comunes que nunca hemos encontrado uno, por lo que no hay razón para hacer sondas de Von Neumann que lo aborden.

A los extraterrestres les gustan los planetas seguros.

Los extraterrestres pueden tener un deseo estético por planetas fijos. Entonces envían drones para arreglar planetas en todas partes. No molestan a los lugareños porque solo quieren planetas limpios.

De alguna manera, la idea de una raza alienígena OCD enviando sondas para limpiar los sistemas solares cercanos es simplemente divertida.

Bien, entonces... afirmas que las máquinas "responden creativamente a los problemas que encuentran en la superficie". También afirma (en un comentario) que están muy dispuestos a dañar a los humanos, simplemente no lo hacen de manera proactiva, al menos no en el sentido que esperaría como una medida de resolución de problemas. También dices que están haciendo cosas como tapar volcanes.

Entonces... o tienen algún tipo de punto ciego con respecto a la actividad que daña las propias máquinas versus la actividad que interfiere más directamente con su misión, o sienten que están tratando con humanos de una manera que limita satisfactoriamente el potencial de amenaza de los humanos. (Y dijiste que están implementando medidas de "contención"...)

Tal vez estén trabajando con algún tipo de horario, y una erupción volcánica sería más perturbadora que perder algunos de los suyos. Esto no es del todo inverosímil; parece que pueden reconstruir sus propios números de manera trivial, mientras que una erupción podría esparcir lava por todo el lugar y evitar que exploten en esa área durante un período de tiempo desconocido. Tal vez se hayan dado cuenta de que los humanos, que tienden a limitar su actividad a los ataques directos (que prácticamente no cuestan nada a las máquinas), son mucho menos peligrosos que la actividad geológica que dificulta su trabajo.

Esto, por supuesto, sugeriría que si los humanos se dieran cuenta de esto y comenzaran a intentar sabotear las operaciones en lugar de simplemente romper las máquinas, los pobres humanos podrían encontrar que esta actitud de "laissez faire" experimenta un cambio repentino y desafortunado (para los humanos). (Algo más a tener en cuenta: ¿los humanos están "matando" a las máquinas en los lugares de trabajo, donde los "muertos" tienen que ser eliminados? ¿O están siendo asesinados en el camino donde simplemente pueden dejarse donde "murieron"?)

Esto también sugeriría que las máquinas probablemente serían observadas haciendo cosas "suicidas", es decir, que están dispuestas a sacrificarse por ganancias relativamente pequeñas. Tenga en cuenta que, incluso con esa actitud, seguirán reforzando el terreno, porque si bien es posible que no les importe perder máquinas, sí les importa que se retrasen porque algo se derrumbó y ahora tienen que excavar nuevamente antes de que puedan seguir trabajando. . No son imprudentes , simplemente no les importan las pérdidas a menos que estén siendo ralentizados por razones distintas a tener que reemplazar dichas pérdidas.

ellos estudian a los humanos

Preguntar por qué las máquinas no cazan humanos es como preguntar por qué los humanos no cazan hormigas que viven en hormigueros.

Los humanos son una especie interesante que puede enseñar a las máquinas cosas sobre supervivencia, resolución de problemas, biología, inteligencia, creatividad, etc., al igual que los humanos aprenden de otros animales. O los mantienen cerca solo porque es bueno tener algunas mascotas.

Toda la actividad humana es cuidadosamente monitoreada y guiada, incluyendo cualquier "daño" que hagamos, aunque ocasionalmente las cosas pueden pasar desapercibidas.

  • ¿Esa misión que los humanos han estado planeando durante meses? Todo comenzó porque los humanos vieron una "debilidad" que las máquinas hicieron visible intencionalmente para ver cómo reaccionarían los humanos.

  • ¿Esa enorme máquina que los humanos hicieron estallar? En realidad, estaba obsoleto y se puso allí intencionalmente para que los humanos lo explotaran para aumentar su felicidad.

  • ¿Esos humanos que fueron asesinados en una misión reciente? Algunos fueron asesinados para controlar la población, mientras que otros fueron capturados para experimentar más directamente.

  • ¿Que los humanos tecnológicos hurgaron? Colocados allí intencionalmente para ver para qué lo usarían los humanos o en qué lo convertirían, o para hacerlos más eficientes y así reducir el drenaje que causan en la red para mantenerlos vivos y contentos.

  • ¿Esos droides que los humanos han estado luchando y destruyendo durante años? El equivalente a que tu perro muerda tus pantuflas o un juguete que compraste específicamente para que jueguen.

  • ¿Esos otros asentamientos humanos que fueron aniquilados? Esos fueron simplemente experimentos fallidos. Al menos las máquinas ahora saben cómo regular los niveles de oxígeno, y lo que sucede cuando llenas una ciudad entera de alucinógenos. Algunos de ellos fueron eliminados debido a la reasignación de recursos o porque se marcaron como redundantes.

La IA está literalmente ciega para nosotros

Similar a las explicaciones "Hack" y "Expert System", pero más fundamentales, basadas en cómo las máquinas perciben las cosas en su mundo.

La luz visible es una pequeña porción del espectro. Si las máquinas se ocupan principalmente de las formaciones geológicas y la extracción de recursos, su sensoria puede ser drásticamente diferente de la que usan los humanos. Neutrinos, resonancia magnética, lo que sea...

Podemos ser literalmente invisibles o no ser percibidos por ellos. Nuestras estructuras lo son, pero nosotros no lo somos. Nuestros efectos se perciben simplemente como otra variación del volcán o de la línea de cresta que se derrumba, o una falla de fábrica que necesita reparación. Todas estas son cosas con las que la máquina sabe cómo lidiar. No se necesita más investigación.

La IA no se pregunta "por qué" entra en erupción un volcán, ni atribuye malicia o un enemigo inteligente a la causa de cualquier falla u obstáculo particular en su entorno. Simplemente sigue adelante y soluciona el problema, y ​​continúa.

“¿Por qué las cosas siguen explotando? Eh Debe ser un problema ambiental. Aumentemos la programación de mantenimiento”.
Exacto, modelo mundial que operan, buena respuesta.

Creo que lo entendí e ilustrará muy bien la "extranjería/otredad". No destruyen a la humanidad, por seguir “defecto”, “directiva”. El algoritmo de resolución de problemas de las máquinas se ha desarrollado de una manera que solo considera los efectos, no las causas. Esencialmente es una lógica de medicamentos: no trate la enfermedad, trate los síntomas. La existencia humana por sí sola no es un problema para las máquinas; el hecho de que los saboteen no influye en su proceso de decisión. Los seres humanos causan daño, el daño debe repararse; eso es todo.

Los humanos sabotean una fábrica. La fábrica se reconstruye mejor para hacer imposible ese sabotaje en particular. Sólo otra experiencia de aprendizaje. Las nuevas fábricas incorporan los cambios. Cualquier truco solo funciona una vez.

¡Los humanos también son máquinas!

Si bien los humanos pueden tener una capacidad directa relativamente pequeña para diseñar a su descendencia, las máquinas tendrían un control creativo completo, y probablemente llegarían a una diversidad explosiva aún no vista en poco tiempo, con máquinas individuales capaces de alterar radicalmente sus propios diseños para convertirse en algo completamente diferente en orden corta.

¿Y por qué las máquinas deberían apegarse a, digamos, la electrónica antigua? Sus diseños pueden incluir mezclas de circuitos eléctricos, elementos de computación cuántica, componentes biológicos (basados ​​en carbono o de otro tipo), etc., que a veces ocupan cuerpos muy pequeños antes de pasar a otros muy grandes y viceversa.

Por supuesto, esta máquina " humana " parece ser un diseño homogéneo extrañamente común dadas sus aparentes limitaciones, pero las máquinas limitadas siguen siendo máquinas. ¿Por qué tener alguna malicia, o incluso negarse a ofrecerles el apoyo debido a una máquina compañera?

Las máquinas encuentran el equivalente de alegría y propósito en hacer, arreglar y mejorar cosas.

Perseguir esas actividades es su objetivo. No les importa dominar el planeta o lograr la perfección final, y no piensan en su relación con la humanidad más de lo que piensas en tu relación con las bacterias. Su propósito es continuar con estas actividades productivas.

Como tal, lo que los humanos ven como actos de sabotaje y resistencia, lo aprecian como la creación de oportunidades para arreglar más cosas. Les preocupa que algún día se les acaben las cosas que arreglar, ya que la capacidad de la humanidad para crear estas oportunidades se ha reducido constantemente. No pueden recurrir a la destrucción ellos mismos, porque la aborrecen tanto como aman la producción, por lo que están en un aprieto.

Simbiosis

Las máquinas podrían haberse dado cuenta de que tenían una profunda necesidad de que los humanos existieran de alguna manera y que eliminarlos podría conducir a un progreso más lento o incluso a su eventual desaparición. Existen diferentes tipos de simbiosis y tu mundo podría ser un reflejo de cualquiera.

Extrayendo la definición de Wikipedia:

La simbiosis es cualquier tipo de interacción biológica cercana y a largo plazo entre dos organismos biológicos diferentes, ya sea mutualista, comensalista o parasitario.

En relación con su mundo específicamente:

  • El mutualismo podría ser la realización de la máquina de que un ser biológico tiene los beneficios de la mutación. La máquina podría desencadenar mutaciones específicas para beneficiar a una máquina humanoide, mientras que esta misma característica no se realiza fácilmente sin sistemas biológicos. Puede ser tan simple como que el hombre ayuda a arreglar la máquina y la máquina ayuda al hombre a construir cosas.
  • El comensalismo podría indicar que el uso humano de la tierra y los recursos no crea ningún efecto negativo para la máquina y no causa ningún daño, entonces, ¿por qué preocuparse? Tal vez los humanos usen piezas de desecho que dejan las máquinas.
  • El parasitismo es de naturaleza un poco más oscura, pero los robots podrían estar usando humanos para sus propios intereses, ya sea alimentándose de humanos o experimentando con ellos en lugares secretos o forzándolos a trabajar.

También puede considerar combinar algunos de los anteriores, no tiene que ser un tipo de simbiosis, pero sintió que algunos ejemplos podrían ayudar. Las máquinas podrían usar todas las tácticas anteriores para asegurar su posición. No sería muy diferente a cómo los humanos interactúan con otra vida biológica, por ejemplo, la relación humano-perro (en el mismo orden que arriba):

  • El humano alimenta al perro, el perro protege al humano (población general)
  • Los carroñeros se llevan y se alimentan de las sobras y la basura (perros sin hogar, ciertas especies de perros como zorros, etc.)
  • Más oscuro, algunos humanos comen perro

Obviamente, algunos de estos ejemplos no son necesariamente buenos ejemplos de "simbiosis", pero sirven para demostrar la idea.

Las hienas no son "ciertas especies de perros". No son perros; ni siquiera son caniformes . Están más estrechamente relacionados con los gatos .
@Matthew justo, pero ilustra un punto. Mis detalles están fuera de lugar, pero es fácil de entender. Lo cambié a zorros;)

La humanidad nunca ha construido una máquina von Neumann. Lo más cerca que hemos llegado es la civilización industrial, que se replicó desde Europa hasta las Américas; y fue y sigue siendo un parásito en la biosfera.

Las máquinas son una máquina von Neumann real. Todo el constructo. Su objetivo es simple; inician una base industrial requerida para enviar destellos de estrellas para continuar la propagación, luego salen y fabrican las conciencias reales que la máquina está propagando.

La primera fase por sí sola podría llevar unos pocos miles de años. Es mucho trabajo construir sondas interestelares capaces de reproducirse a sí mismas.

Las máquinas mismas no son conscientes. Resulta que la conciencia no es necesaria para la inteligencia. Resuelven problemas dentro de ciertas restricciones.

Como estas máquinas se construyeron para servir a la conciencia, están diseñadas específicamente para no eliminarla. Hay montones de mecanismos de seguridad contra esto.

Las conciencias debidamente resucitadas que seguirán también tienen códigos que les permiten dirigir la máquina (en formas limitadas; la conciencia no confía en que sus ramas no sean idiotas), de las que carece la humanidad.

Por lo tanto, estamos obteniendo el "no lo elimine" a prueba de fallas, mientras que somos tratados como no usuarios cuando comenzamos a sabotear cosas. Piense cómo haría que la máquina manejara a los criminales; no los matas por partes, pero no tienen autoridad, y si se pasan de la raya, tratas con ellos.

Es muy posible que en algún momento en el futuro, amontonen los bolsillos restantes de la humanidad y los lleven a estaciones orbitales. Porque van a usar la masa de la Tierra para construir las cosas que a su vez construirán el enjambre de matrioskas.

Mientras tanto, las conciencias de los privilegios de los subusuarios siguen siendo viables en su mayoría.

Ampliando la respuesta de @Demigan :

Las máquinas no quieren destruir a la humanidad. De hecho, han sido programados para proporcionar cantidades prácticamente ilimitadas de cualquier cosa para cualquier ser humano que lo solicite correctamente, aunque nadie sabe cuál es la forma adecuada.

Por otro lado, durante el análisis inicial, la IA aprendió de nuestro ejemplo que destruir el medio ambiente para expandir las capacidades de producción está bien, a menos que una vida humana se vea amenazada directamente. Entonces, en un efecto, nunca dañará a un humano, incluso cuando sea activamente hostil a la IA, pero consumirá incesantemente cualquier área libre que pueda usar.

Tal vez cuando el último humano muera, la máquina no tendrá nada que hacer y simplemente se detendrá.

Esclavitud

Hay muchas cosas que las computadoras y los robots pueden hacer realmente bien.

Hay trabajos en los que los humanos y otros animales son mejores. No es el trabajo mental creativo que otros han sugerido: una buena IA puede superar eso. ¿Pero el trabajo duro, el trabajo pesado y diestro que requiere versatilidad y auto-reparación y más? Humanos.

Hay una razón por la cual la Estación Espacial está tripulada. En realidad, hay muchos, sobre todo porque está destinado a ser una plataforma para experimentar en viajes espaciales tripulados. sino también porque el mantenimiento realizado en la estación simplemente no podía ser realizado por robots.

Es enormemente más costoso en recursos diseñar, construir y mantener la fábrica de construcción que diseña, construye y mantiene androides totalmente capaces, que simplemente capturar, entrenar, alimentar, instruir y contener humanos reales.

Incluso si los edificios de los robots están construidos (como deberían ser como colmenas, para que cada parte de ellos pueda ser construida, limpiada y demolida por un tipo de dron estándar... los humanos son más baratos. Y puedes agregar cosas, controlar implantes, prótesis, cibernética...

Por supuesto, los humanos-humanos, en los puestos avanzados humanos amurallados, podrían no darse cuenta de esto al principio. Es posible que no sepan que muchos de los "drones" son en realidad cyborgs.

Yo diría que esto sigue siendo una forma de caza si los humanos "salvajes" están siendo rastreados y capturados. A menos que no haya más humanos salvajes.
  • Hay diferentes tipos y niveles de inteligencia por ahí.
  • sería extraño que cazaran humanos específicamente

Consideremos el problema en 3 sustratos suficientemente diferentes: humanos, otra vida que conocemos, un enjambre mecánico práctico propio.

humanos

Los seres humanos tienen cierto nivel de cognición, lo que todavía me divierte cómo logran hacerlo con solo 86 mil millones de neuronas en promedio: santa madre naturaleza...

A pesar de los sistemas de cognición bastante desarrollados, hay 3 direcciones generales de ejemplos, hay más, pero solo 3 son suficientes: // grietas naturales en la cognición, lesiones, pereza, también conocido como el mundo es grande.

Y los humanos se usan como un ejemplo de inteligencia avanzada, pero la mayoría de las cosas son aplicables a la mayoría de las inteligencias que se encuentran en este planeta, los mismos principios aunque en diferentes formas y formas.

  • Recomiendo encarecidamente ver el video , es todo un campo de investigación para encontrar formas de romper redes neuronales artificiales, y si lo hace en lugar de leer la respuesta, aún se enriquecerá con el conocimiento útil y profundo, por así decirlo. ser útil para entender la respuesta de una mejor manera.

Magos, ilusiones & Co

Hay una plétora de cosas diferentes que se deslizan por las grietas de la cognición humana, ya que está especializada y no es tan buena para notar cosas que no estamos entrenados para notar o que no podemos notar debido a las limitaciones de nuestros órganos sensoriales y cosas inusuales desde la perspectiva evolutiva.

Los magos y otros tipos a menudo explotan esas grietas en nuestra cognición y sensores. Con el tiempo podemos aprender cómo se hacen las cosas, pero no siempre, algunos trucos todavía parecen mágicos para la mayoría de los humanos, incluso si hay programas especiales que explican muchos de ellos, pero la mayoría de las personas tienen que pasar por alto para entender. cómo se hace, por algunos trucos, porque es un estado mental bastante inusual de esos magos y el entrenamiento de su do, etc., que la gente no anticipa debido a su visión del mundo y otras cosas. Lo único que ayuda es que sabemos que no hay magia, pero si no fuera verdad, entonces nuestra vida para distinguir todas las cosas sería un 100% más difícil, lo que significa que los humanos tendrían que ser mucho más inteligentes.

Entonces, la premisa "no hay magia" simplifica enormemente el problema cognitivo de percibir el mundo para los humanos, pero al mismo tiempo, si estuviera codificado, lo cual es bastante razonable para un enjambre de drones, entonces si hubiera magia, entonces sería fallar en reconocerlo. Esta restricción, sin magia, es un concepto alto, pero puede haber muchas restricciones como un conjunto de conceptos pequeños, lo que crearía muchas zonas de sombra, algunas de las cuales se analizan más adelante en la sección de hormigas y la inteligencia de enjambre en la que se definen. por omisión que se crea por la existencia de reglas simples, por lo tanto, una imagen un tanto inversa.

Hay ilusiones visuales que no interfieren con la óptica humana, sino que atacan la corteza visual y los sistemas de reconocimiento de patrones: diferentes imágenes especialmente generadas o imágenes en 3D, etc. principios, por lo que no se trata solo de humanos, los humanos son solo un caso de muchos.

Humanos, desviaciones

Aquí también hay una gran cantidad de casos que pueden generalizarse como corrupción de cerebros debido a lesiones, errores en el desarrollo y crecimiento, etc.

Recientemente vi un ejemplo en la respuesta :

Algunas personas nacen incapaces de distinguir objetos y ven el mundo como una cámara fotográfica, solo formas y colores a varias distancias, siendo incapaces de distinguir entre una persona y una pared sin antes preguntarse "¿existen personas planas y gigantes?" ?" o "esta figura de color piel está en mi casa y viene hacia mí, debe ser un miembro de mi familia"

  • esta condición, que no estoy seguro de que exista pero sospecho que tiene algún término psiquiátrico, no necesariamente afecta todo en el cerebro humano: la persona puede estar bien en otros aspectos, es una propiedad de las redes neuronales que se degradan gradualmente en caso de azar corrupción, pero puede corromper una red de una manera específica, lo que significa que puede ser hecha por extraterrestres en lo que perciben de una manera totalmente saludable. Y tales fallas no significan que el sistema no sea inteligente o incapaz, al igual que sucede con ese caso humano. no es estúpido, solo el caso lo rompe.

La cognición humana puede ser algo bastante delicado y robusto al mismo tiempo y fallar en una gran variedad de formas, pero la basura de un hombre es el tesoro de otro hombre, y lo veremos en casos de animales, pero también se aplica a productos alienígenas. la vida en la galaxia no es tan abundante como para probarla y trabajar en un caso no significa trabajar en otro diferente, pero tampoco significa estupidez en problemas más habituales: los planetas son abundantes y fundamentalmente no son tan diferentes como las condiciones y la forma en que se comporta la materia son cosas bastante estándar, generalmente en su mayor parte.

Pero el punto es que el problema de reconocer algo no es trivial, especialmente si las cosas son inusuales o la primera vez que las ves. Pero incluso si logras reconocerlo es solo una de las premisas necesarias para hacer algo.

Humanos, modo de ahorro de energía, también conocido como pereza

Lo más probable es que sepa que las hormigas muerden, por qué: experiencia personal. Los pájaros son capaces de hacer daño a los niños y los animales domésticos. No hacemos una guerra, como un todo como humanidad, contra esos, por lo general.

Una de las razones es que hay demasiadas cosas, demasiadas especies de vida que pueden causar cierto grado de daño, y si nuestro objetivo general, como entidades mecánicas, sería reducir el daño causado por los mejillones en las tuberías de enfriamiento de nuestros reactores, solo tome precauciones en el sistema afectado, evitando puntos únicos de falla, etc.

El sistema de obstrucción de algas no es muy diferente de los hámsteres que hacen lo mismo, etc. Y eliminas una especie y la vida es desagradable, otros tomarán el espacio libre, y no necesariamente para mejor, mira el grupo de Australia, maaaan ... indistinguible fluctuación de transistores ....

animales, insectos

Regnum Animale - animales, insectos - organismos multicelulares que se mueven y respiran tienen todos los grados de inteligencia, que conocemos, desde niveles muy básicos hasta niveles más avanzados.

Además, algunos de ellos forman inteligencia de enjambre: los humanos son un ejemplo de eso, así como las hormigas, y otros ejemplos.

hormigas

  • y las termitas de su repugnante hermano, que son las cucarachas

Veamos las hormigas, un tema de observación bastante popular y una mezcla de extremos, que también se traduce en un enjambre de drones de una manera sencilla.

Lo que es innegable e interesante para nuestro caso:

  • una sola hormiga es superior a una roca, pero eso es todo, el nivel de inteligencia que tiene
  • como enjambres, son bastante exitosos, capaces de resolver problemas que son importantes para ellos

Termitas bastante notorias por sus hábitats, los tamaños, y si no por sus debilidades, principalmente cuerpos, estarían por todas partes. Entonces, una de las pocas especies que alteran el paisaje en un nivel notable, no en el nivel de las grandes pirámides, pero si no ciertas limitaciones, es decir, fuentes de alimentos y ausencia de reactores para la producción de energía, no se sorprendería si hicieran esas pirámides como regulares. casas

Pero su bajo coeficiente intelectual individual y otras limitaciones de las comunicaciones los venden cortos como una verdadera mente de colmena y todo lo que son capaces, en términos de la imagen del mundo con la que operan, es reaccionar. Reaccionan al peligro inmediato, de diferentes maneras, pero son incapaces de construir una estrategia en el gran mundo porque no tienen el modelo. El modelo del mundo que tienen es bastante básico.

Y un enjambre de drones con el propósito de procesar planetas aleatorios no tiene que tener una imagen del mundo completa o compleja. Lo que le importa a un creador es apegarse a algún objetivo general y no desviarse de él para convertirse en una fuerza devoradora del universo: la autoconservación básica. Y si eso significa que fallan en el 1% de los casos como sistemas estelares y planetas, a quién le importa.

Para las hormigas, volvamos a las propiedades del ejemplo: es una especie bastante antigua, y apenas evolucionaron en los últimos cientos de millones de años, y ten en cuenta que tienen ciclos de generación cada año, no como los humanos cada 15-20 años. Así que existen 100 veces más que los ancestros humanos y generan cambios 10-20 veces más rápido, pero ¿dónde están en términos de cambios intelectuales y dónde están los humanos?

Hay una razón para eso: una gran brecha potencial, una zona prohibida como en los semiconductores, que tienen que cruzar de un salto para convertirse en algo más inteligente. Sí, las hormigas individuales pueden evolucionar ligeramente, pero para romper los grilletes del sistema y colectivo, no cambiarán en los próximos mil millones de años.

Para las hormigas, no es necesariamente algo bueno, ni malo, ya que su sistema es bastante capaz como sistema. Para los drones es algo excelente: significa que se apegan a los objetivos que están incorporados en su sistema. Y por sistema no me refiero necesariamente a un programa, sino a un sistema de relación de los componentes de ese enjambre de drones. Como en el caso de las hormigas, el hormiguero define lo que son, lo que hacen, no las hormigas individuales, no un programa individual de hormiga individual, sino su interacción colectiva.

Podría haber otros ejemplos, pero...

se vuelve demasiado largo y créanme, no tiene fin y se pueden ver los puntos principales, pero escribamos algunos momentos de notas prolijas

La premisa de cómo todo lo que sucedió realmente importa, no hay forma de evitarlo, y como hay demasiados factores, puede doblarse de múltiples maneras, pero fundamentalmente se trata de problemas de inteligencia y podemos ver todo tipo de ejemplos a nuestro alrededor. y la mayor parte de la vida no es capaz de hacer estrategias más allá de sus necesidades directas, incluso si no son malos en lo que hacen. Y los humanos apenas pasan el umbral, honestamente, pero sin embargo, lo hacen y hace una gran diferencia. Pero ese es un caso de muchos. Incluso los mamíferos avanzados como los lobos y los osos, son capaces de interactuar, hacer interacciones entre especies (principalmente para la ventaja de los lobos, los osos obtienen un palo corto aquí, la fuerza de una manada) y aprenden nuevas estrategias debido a eso, pero aún así. Hormiguero no caza a los humanos como una de las únicas fuentes de amenaza existencial para toda la especie, si no la única.

Otro momento es bastante complejo, pero puede verse como autoconservación, botón de seguridad, sin objetivo de exterminar toda la vida en el universo, problemas para reconocer la vida.

cada uno de ellos merece su propia discusión larga y todo eso, pero todo se trata de una cosa: la vida puede adaptarse, especialmente aquellos que tienen una mejor imagen del mundo y pueden hacer estrategias en ese espacio de solución, generalmente conocido como vida consciente.

Y esa adaptabilidad es una de las formas de reconocer universalmente la vida: debido a las estrategias, pueden cambiar las probabilidades de los procesos que ocurren naturalmente. Una piedra rodando colina abajo es un proceso natural, pero Sísifo es una vida que hace realidad el improbable proceso de rodar una piedra.

Y puede ser fácil decir, ¿cómo diablos no reconoces la vida a primera vista, pero ten en cuenta que eres un virus, una vida o no? Era una pregunta científica en el pasado, ¿cómo deberíamos clasificarlo, para que haya vida en el planeta que no necesariamente reconoces a primera vista, y no se sabe qué formas y formas puede tomar como formas extraterrestres, sigue siendo una pregunta científica algo válida si puede haber vida sin carbono, o cómo se verá en general. Y no estoy seguro si hay un consenso en un discurso sobre la IA...

Más aún, el problema del reconocimiento de formas de vida sensibles y el problema de la comprensión y las soluciones para superarlo pueden ser bastante desafiantes incluso para un sistema que todo lo sabe. Y exterminar una parte arbitraria de la vida en el proceso no es gran cosa, no hay malas intenciones.

Entonces, hay razones para dejar un espacio para que los creadores sean reconocidos como vida en caso de que las cosas vayan mal, y para que las máquinas presionen a las especies para que las reconozcan como sensibles. Y en ese caso, incluso es posible que las máquinas eviten activamente dañar a los humanos hasta cierto punto, e incluso les permitan explotarse a sí mismos como compensación (y el creador solo obtiene control sobre la herramienta), pero no necesariamente detiene su programa de acciones que está incrustado. en su sistema es parte de su hacer como respirar, disipar el calor.

Práctico sistema de naturaleza similar hecho por humanos.

Tal sistema es una herramienta bastante conveniente para la conquista del espacio y puede usarse en la luna como ejemplo, para ayudarnos a dejar bien la gravedad al final del proceso.

no será un von Neuman en el sentido completo y estará más controlado, pero el 99 por ciento de sus funciones deben automatizarse solo para facilitar las horas humanas que requiere controlarlo debido a la escala potencial y la distancia, por lo que en ese sentido, no es muy diferente de otras soluciones.

El ejemplo de hormiga es bastante fructífero ya que también es aplicable en el caso. Y el principal problema es que sobreestimas en gran medida el nivel de inteligencia que se requiere de una herramienta para devorar un planeta/una luna. Las hormigas son bastante estúpidas, pero es propio de la inteligencia de enjambre que las reglas simples y los agentes simples sean capaces de expresar comportamientos y sistemas complejos.

Hormigas mecánicas: cuerpos adecuados un poco más robustos, un sistema de comunicación un poco mejor, son capaces de aplanar la luna en una esfera redonda y arrojar materiales desde el suelo al espacio, pero contra los humanos puede ser indefenso.

Como ejemplo, un droide con el nombre de Lunohod número de serie XXX se sintió en un cráter: su falla e incapacidad para moverse y cambiar de posición son fáciles de detectar, y si algunos otros fallan en el mismo lugar, es fácil marcar ese lugar como no seguro. y requiere ser aplanado. La pérdida de las unidades no significa nada especial para todo el sistema al igual que la muerte de nuestras células de la piel no significa nada para nosotros, al contrario es útil y nos resulta beneficioso ya que crea una capa protectora de nuestro cuerpo, en el caso de enjambre es el precio que pagan por reconocer cosas y por la capacidad de poder reaccionar.

Y el paisaje, los pozos de minas, etc., toda la materia no viva, no funciona, por lo general, si no es líquido, no necesita una capacidad intelectual avanzada para manejarlo, y las hormigas son la prueba. Pero la vida y los humanos, se mueven constantemente, cambian constantemente debido a las estrategias de creación, etc., y su sistema lunar puede abrumar en el poder de producción, 10-100-1000 veces de lo que los humanos tienen atm para no tener suficientes armas nucleares para destruirlo, pero reconozca a los humanos como una fuerza y ​​hacer contraestrategias además de algunas reacciones básicas, sería pedir demasiado de ese enjambre de drones lunares, ya que físicamente no es capaz de eso. Construido por diseño para la estabilidad de las acciones en el manejo de la materia no viva sin importar el otro factor externo, en la forma en que los factores externos no interrumpen sus formas de hacer las cosas, y los factores externos incluyen armas nucleares y bastones de supernovas cercanas, ya que su imagen del mundo no es diferente de - oh no, bzzbbzzz, otro cráter, necesita palearlo. No puede distinguir, siempre es un cráter.

  • hay casos divertidos en youtube un mono juega "agarra al perro por la cola", es divertido observar cómo el cerebro de un perro colapsa en la comprensión del problema en cuestión en esa situación, de manera similar, cómo no pueden pasar un palo largo una puerta. Y puedes ver fácilmente la superioridad de inteligencia del mono, pero compáralo con los humanos: engaña y sorprende a un mono de 1001 maneras, jajaja, Monkey Sees A Magic Trick . Pero el perro y los caninos en general, es una especie bastante exitosa, no entre los tontos.
  • pero no significa que sea fácil sorprender a una hormiga, jajaja, ya que no tiene sentido, y es parte de un sistema complejo que aún no comprendemos al 100%

Considerándolo todo

Los ejemplos podrían ser mejores y tengo mucho que decir sobre el tema, pero en general volvemos al punto de partida: ¿por qué lo harían? Para las tareas en sus manos mecánicas, el nivel de inteligencia no es necesariamente capaz de apuntar a matices específicos, ni tiene que hacerlo incluso si son perfectamente capaces de cubrir todo el planeta con reactores de fusión y hacerlo redondo como una bola perfecta, con una villa. encima y una gran piscina.

No es fácil distinguir las formas de vida del entorno regular, y distinguir entre diferentes formas de vida, y abordar algunas específicamente, esas son tareas exponencialmente cada vez más complejas, por lo que existen diferentes razones para no hacerlo, y una de las buenas maneras es no equipar con la inteligencia suficiente y restringir los procesos de evolución de dicho sistema, pero aún así mantener la flexibilidad suficiente.

  • la evolución para un enjambre de drones existe, la evolución, en esencia, es un proceso de selección de errores de replicación

Para tener medidas de seguridad obvias, como pintar un gran botón rojo en la frente y ser reconocido como parte del enjambre, o código qr, o un transmisor, etc. Diferentes transmisores de códigos qr: para marcar territorios no seguros, para marcar territorios prioritarios, caminos, ser caminos, etc., etc., de nuevo tus cosas típicas de marcado de hormigas. La sencillez de categoriza los objetos como entorno y aquellos que forman parte del enjambre, lo cual es requerido por la sencillez del modelo de mundo en el que operan dentro del cual.....

Para que exista tal problema, específicamente la caza de vida consciente, es un caso especial, para empezar, uno de muchos en los que tal problema no existe en primer lugar. Y si existe tal problema, puede significar que un administrador del enjambre es algún tipo de forma de vida: extraterrestre, ai, borg sensible o base de datos demasiado complicada ( que no es necesariamente una forma de vida; el criterio es simple: ¿cambia las probabilidades o es una manifestación de un proceso )

Así que intenta resolver un problema mayormente inexistente, los casos son amplios, y el problema de por qué cazarían a los humanos es más estrecho en comparación con la pregunta que está haciendo, es otro tipo de problema amplio pero es como comparar dos infinitos uno es significativamente más grande que otro.

Y como nota al margen, siempre que mencione infinitos, tiene el mismo problema, no es posible comparar dos infinitos sin saber cómo se hacen, qué los causó, sin otras partes de la ecuación no es posible resolverlos esa comparación.

nose, espero que ayude, ya que realmente esa loca y malvada picadora de carne ai premisas bastante irritante en la ficcion, que muestra a autores despistados sobre el problema, espero que contribuya a una mejor comprension del problema, no metan dedos en un enchufe eléctrico y vuela seguro.

Los comentarios no son para una discusión extensa; esta conversación se ha movido a chat .