Vemos inteligencia artificial (IA) hostil en la ciencia ficción todo el tiempo. Ejemplos incluyen
etc.
¿Qué trabajo de ciencia ficción introdujo el concepto de una IA hostil?
1899: "Moxon's Master" , un cuento de Ambrose Bierce ; publicado por primera vez en el San Francisco Examiner , 16 de abril de 1899; reimpreso en la colección Can Tales Things Be? , que está disponible en Project Gutenberg . LibriVox tiene lecturas ([ 1 ], [ 2 ]) y un texto electrónico de "Moxon's Master".
Resumen de la trama de Wikipedia :
El maestro, Moxon, que crea un autómata que juega al ajedrez, se jacta ante el narrador de que, aunque las máquinas no tienen cerebro, pueden lograr cosas notables y, por lo tanto, deben ser tratadas como hombres de carne y hueso. Después de una discusión exhaustiva sobre lo que es ser "pensante" e "inteligente", el narrador se va. El narrador regresa a la casa de Moxon más tarde para aprender más. Entra y encuentra a Moxon jugando al ajedrez con un autómata. Moxon gana el juego y el autómata lo mata en un aparente ataque de ira. El narrador luego cuestiona si lo que vio era real.
Aquí está el relato del testigo presencial del narrador de Bierce sobre el autómata de Moxon como un deporte muy malo:
En ese momento Moxon, cuyo juego era, levantó la mano por encima del tablero, se abalanzó sobre una de sus piezas como un gavilán y con la exclamación "¡jaque mate!" se levantó rápidamente y se colocó detrás de su silla. El autómata se sentó inmóvil.
El viento ya había amainado, pero oí, a intervalos cada vez menores y progresivamente más fuertes, el estruendo y el retumbar de los truenos. En las pausas entre ahora me di cuenta de un zumbido bajo o zumbido que, como el trueno, se hizo momentáneamente más fuerte y más claro. Parecía provenir del cuerpo del autómata, y era inequívocamente un zumbido de ruedas. Me dio la impresión de un mecanismo desordenado que había escapado a la acción reguladora y represiva de alguna parte controladora, un efecto como el que cabría esperar si se arrancara un trinquete de los dientes de una rueda dentada. Pero antes de que tuviera tiempo para muchas conjeturas sobre su naturaleza, mi atención fue atraída por los extraños movimientos del propio autómata. Una leve pero continua convulsión pareció apoderarse de él. En cuerpo y cabeza temblaba como un hombre con parálisis o un escalofrío agudo, y el movimiento aumentaba a cada momento hasta que toda la figura estaba en violenta agitación. De repente, se puso en pie de un salto y con un movimiento casi demasiado rápido para que el ojo lo siguiera salió disparado por encima de la mesa y la silla, con ambos brazos extendidos en toda su longitud: la postura y la embestida de un saltador. Moxon trató de lanzarse hacia atrás fuera de su alcance, pero llegó demasiado tarde: vi las manos de la cosa horrible cerrarse sobre su garganta, sus propias manos agarrando sus muñecas. Entonces volcaron la mesa, arrojaron la vela al suelo y la apagaron, y todo quedó oscuro. Pero el ruido de la lucha era terriblemente claro, y lo más terrible de todo eran los roncos y graznidos sonidos producidos por los esfuerzos del hombre estrangulado por respirar. Guiado por el alboroto infernal, salté al rescate de mi amigo, pero apenas había dado un paso en la oscuridad cuando toda la habitación resplandeció con una luz blanca cegadora que quemó en mi cerebro, corazón y memoria una vívida imagen de los combatientes en el suelo, Moxon debajo, su garganta aún en las garras de esos hierros. manos, la cabeza forzada hacia atrás, los ojos saltones, la boca muy abierta y la lengua fuera; y - horrible contraste! - en el rostro pintado de su asesino una expresión de pensamiento tranquilo y profundo, ¡como en la solución de un problema de ajedrez! Esto lo observé, luego todo fue negrura y silencio. y - horrible contraste! - en el rostro pintado de su asesino una expresión de pensamiento tranquilo y profundo, ¡como en la solución de un problema de ajedrez! Esto lo observé, luego todo fue negrura y silencio. y - horrible contraste! - en el rostro pintado de su asesino una expresión de pensamiento tranquilo y profundo, ¡como en la solución de un problema de ajedrez! Esto lo observé, luego todo fue negrura y silencio.
1818: Frankenstein.
A pesar del cambio de la historia de Hollywood, en la novela, Victor Frankenstein crea el cuerpo a partir de una nueva fuerza vital ambigua y previamente desconocida. El cerebro y el cuerpo no se recuperan de cadáveres, sino que Victor los crea desde "cero". La Criatura es plenamente inteligente, e incluso aprende a hacer cosas que no debe hacer (leer, hablar, etc.), y llega a odiar a la humanidad por la repugnancia que le muestra.
Talus, el hombre de bronce griego, es probablemente el ejemplo más famoso de una IA. Es un autómata hecho de latón, aunque su linaje no está claro. En Appolodorus Atheniensis, dice que "Medea lo volvió loco con sus artes o con el pretexto de hacerlo inmortal". Cómo fue asesinado es un poco confuso, algunos afirman que Jason y los Argonautas lo mataron, otros Medea y otros Poias. Véase Bruce, DJ (1913). Autómatas humanos en la tradición clásica y el romance medieval. Filología moderna 10 (4) 511-526.
Sé que es discutible que esto sea ciencia ficción :).
No tan temprano como la gran respuesta de @ user14111, pero aún bastante temprano es la historia RUR de Karel Capek escrita en 1920.
Esto también es notable por la creación de la palabra Robot por parte de Capek.
Una breve sinopsis de la Enciclopedia Británica
RUR, en su totalidad RUR: Rossum's Universal Robots, drama en tres actos de Karel Čapek, publicado en 1920 y representado en 1921. Esta obra de advertencia, para la cual Čapek inventó la palabra robot (derivada de la palabra checa para trabajos forzados), implica un científico llamado Rossum que descubre el secreto de la creación de máquinas similares a los humanos. Establece una fábrica para producir y distribuir estos mecanismos en todo el mundo. Otro científico decide hacer que los robots sean más humanos, lo que hace añadiendo gradualmente características como la capacidad de sentir dolor. Años después, los robots, que fueron creados para servir a los humanos, han llegado a dominarlos por completo.
Una copia traducida se puede encontrar aquí
Creo que esto muestra la primera toma de control de la humanidad por parte de una inteligencia artificial, pero no el primer movimiento hostil de una IA.
Frankenstein de Mary Shelley: 1818
Un joven Victor Frankenstein (no, ese no ) crea una criatura sin nombre (en lo sucesivo, La Criatura, ya que no se le da nombre). La Criatura escapa y aprende a pensar y hablar, pero encuentra su vida insatisfactoria, ya que la gente está horrorizada por su rostro de cadáveres cosidos. Del libro
¡Odioso día en que recibí la vida! exclamé en agonía. '¡Maldito creador! ¿Por qué formaste un monstruo tan horrible que incluso me apartaste con disgusto? Dios, en su piedad, hizo al hombre hermoso y seductor, a su propia imagen; pero mi forma es un tipo sucio de la tuya, más horrible incluso por el mismo parecido. Satanás tenía sus compañeros, compañeros-diablos, para admirarlo y alentarlo; pero estoy solo y aborrecido. -Frankenstein”
La criatura asesina al hermano de Víctor y luego encuentra a Víctor para hacerle una compañera. Victor intenta hacerlo, solo para encontrarse horrorizado por los terrores que pueden causar en la humanidad. Destruye a la hembra sin otorgarle vida. La Criatura toma represalias asesinando al prometido de Víctor. Víctor luego persigue a La Criatura hasta el Círculo Polar Ártico, donde Víctor se enferma y muere. La Criatura, al no encontrar satisfacción en su venganza, se pierde en la noche.
Si bien no es una computadora, vemos la mayoría de los elementos necesarios de las historias modernas de IA rebelde.
Las inteligencias de máquinas hostiles se analizan en Erewhon , una novela satírica de 1872 de Samuel Butler . Este es un ejemplo inusual, ya que la inteligencia artificial es ficticia en el universo. La mayor parte de la novela es una sátira en la línea de Los viajes de Gulliver . Sin embargo, tres capítulos cerca del final se enmarcan como la traducción (incompleta) del narrador de un documento polémico en el universo, que pide la destrucción de todas las máquinas avanzadas, porque las máquinas están evolucionando tan rápido que pronto pueden ser más inteligentes que los humanos. —algo que el autor considera una perspectiva muy amenazante.
El escritor, después de ampliar lo anterior en varias páginas, procedió a indagar si en la actualidad se podían percibir rastros del acercamiento de tal nueva fase de la vida; si podríamos ver preparándose viviendas que podrían en un futuro remoto adaptarse para ello; si, de hecho, la célula primordial de tal tipo de vida podría ser detectada ahora sobre la tierra. En el curso de su trabajo respondió afirmativamente a esta pregunta y señaló las máquinas superiores.
“No hay seguridad”, para citar sus propias palabras, “contra el desarrollo final de la conciencia mecánica, en el hecho de que las máquinas posean poca conciencia ahora. Un molusco no tiene mucha conciencia. Reflexiona sobre el extraordinario avance que han hecho las máquinas durante los últimos cien años, y observa cuán lentamente avanzan los reinos animal y vegetal. Las máquinas más organizadas son criaturas no tanto de ayer, como de los últimos cinco minutos, por así decirlo, en comparación con el tiempo pasado. Supongamos, por el bien del argumento, que los seres conscientes han existido durante unos veinte millones de años: ¡vean qué avances han hecho las máquinas en los últimos mil! ¿No puede durar el mundo veinte millones de años más? Si es así, ¿en qué no se convertirán al final? ¿No es más seguro cortar el mal de raíz y prohibirles seguir avanzando?
La discusión completa es en realidad bastante sofisticada y aborda una serie de objeciones prácticas y filosóficas a la idea de que las máquinas están vivas o son inteligentes. Butler había comenzado a considerar estos temas varios años antes, y la discusión en Erewhon fue una elaboración de algunas ideas anteriores que había expuesto en el ensayo de 1863 " Darwin entre las máquinas ". Muchos consideran que el cuerpo de trabajo de Butler sobre este tema representa el primer intento serio de considerar la posibilidad de la inteligencia artificial, incluidas las formas en que sería similar a la inteligencia evolucionada naturalmente y también las formas clave en las que sería diferente. .
La hostilidad real de las máquinas superinteligentes es algo que Butler parece dar casi por sentado. Compara cómo los humanos tratan a los organismos menos inteligentes y conscientes de nuestro planeta y, por analogía, concluye que si las máquinas nos superan, lo más probable es que nos presionen a la sumisión como ganado humano. No cree que esto sea necesariamente el resultado de un violento levantamiento de robots; más bien, Butler cree que es más probable que los humanos se vuelvan cada vez más dependientes de la tecnología que originalmente fue creación de la humanidad, hasta que las personas sean esclavos virtuales y las máquinas los hayan suplantado como los principales tomadores de decisiones.
usuario14111
Satélite del pecado
jeff zeitlin
icono de zeiss
usuario14111
jeff zeitlin
steve cox
aschepler
jeffronicus
Satélite del pecado
Jim Klímov