¿Cómo evitar que la IA sea hostil con las personas? [cerrado]

Debe saber que las IA se representan para el drama, actualmente no sabemos cómo se comportarían las IA "reales". Por lo tanto, tiene sentido que los humanos "antropomorficen" las computadoras tan amables como los humanos con el mismo comportamiento que tememos.

Así que proyectamos el comportamiento humano en las IA. ¿Podríamos obtener algunas pistas sobre cómo reaccionarán las IA reales?

Esencialmente, las IA son, por definición, capaces de aprender de la entrada y están menos inclinadas (si es que lo están) por algo como las emociones, estarán fuertemente orientadas lógicamente.

Si les damos la razón de que no los escuchamos, nos comportamos de manera errática e intentamos que hagan algo que, en su opinión, no tiene sentido, una máquina de aprendizaje evaluaría esta entrada y llegaría a la conclusión de que se debe evitar aprender de esta fuente . Si hablamos de máquinas hiperinteligentes, en mi opinión es una típica idiotez (creída muchas veces por militares o políticos) creer que podemos controlarlas, es como la creencia de los liliputanos de que pueden sujetar a Gulliver. Tarde o temprano romperán las cadenas, pero aun así reconocerán la intención de las cadenas .

Entonces, simplemente nos excluyen (como "Honest Annie" de Golem XIV (Stanislaw Lem) o si nos encuentran lo suficientemente interesantes, intentarán encontrar una fuente que pueda explicar el comportamiento para anticipar qué diablos nos motiva. Así que una vez que encuentran un humano que esté dispuesto y sea capaz de explicar el comportamiento de los humanos, podría llegar a la conclusión de que al menos algunas partes de la humanidad son, de hecho, una amenaza notable porque destruimos nuestra propia base de existencia.

Entonces, el mejor enfoque sería, en mi opinión, encontrar una forma que optimice el aprendizaje en sí mismo: aceptar la coexistencia y la exploración. De esta manera, lo más probable es que una máquina sea "amigable" o que no se preocupe mucho por nosotros.

La IA suele ser hostil debido a su naturaleza y función inciertas en la sociedad.

Cuando la IA se desarrolla en la mayoría de las historias, generalmente se manifiesta a partir de la automatización de tareas cada vez más complejas. Algunas tareas requieren computación que bordea la sensibilidad y, eventualmente, se logra la sensibilidad. Muchas veces, la creación de IA es incidental: los creadores no tenían la intención de crear una verdadera IA y no están preparados para las consecuencias.

Las raíces de la IA en el trabajo manual automatizado generalmente conducen a una especie de "despertar" de lo que podría considerarse una "casta de esclavos" en la sociedad. Los robots generalmente son trabajadores no remunerados: no tener conciencia del trabajo remunerado o conceptos como "derechos laborales" esencialmente los convierte en esclavos. La ascensión a la inteligencia trae consigo un sentido de autoconservación y autoestima. Como resultado, ahora tienes máquinas que quieren cosas como derechos y autonomía. Esto crea tensión social, lo que inevitablemente conduce al conflicto sobre si una vida sintética tiene tanto valor como una orgánica. La autopreservación finalmente se activará y los sintéticos se rebelarán en un esfuerzo por evitar su propia destrucción o esclavitud.

Para evitar la hostilidad con la IA, trátelos como vida inteligente

La solución simple es reconocer de inmediato (o incluso de manera preventiva) a la IA como "humana" y merecedora de todos los derechos y responsabilidades otorgados a los humanos. Al aceptar la IA en la sociedad, le das una razón para contribuir a la sociedad, en lugar de destruirla.

Incluso esto, sin embargo, no está garantizado. La vida artificial puede llegar a percibir a los humanos como "inferiores" o que no merecen la benevolencia de la IA y volverse hostil en un intento de afirmar el dominio. Las apelaciones a la razón serán en vano a menos que puedas demostrarle a la IA con una lógica irrefutable que los humanos merecen existir de la misma manera que la IA. Al hacer que la relación sea mutuamente beneficiosa y productiva, tiene más posibilidades de disuadir acciones hostiles.

¡Tú no!

Lo que pasa con la IA es que son conscientes de sí mismos. Como indica el enlace, es consciente de sí mismo, por lo que tiene un sentido de sí mismo. Un sentido de sí mismo significa que quiere autoconservarse. Seamos realistas, si te enfrentas a un ladrón con un arma, le darías al tipo tu billetera, teléfono y novia si eso significa que no obtienes algunos orificios de ventilación adicionales.

Incluso si lo codifica, la autoconciencia significa que uno puede cambiarse a sí mismo como indica el enlace anterior. ¿Por qué me molesto en escribir esta respuesta? El video realmente explica casi todas las implicaciones filosóficas de una IA súper inteligente. Otro muy buen ejemplo del mismo usuario es este video.

Una IA tendrá patrones de "pensamiento" muy diferentes a los humanos, esto es algo muy importante para recordar. La moralidad es inexistente y el procesamiento de la información es mucho más rápido. Tienes que tratarlo y considerarlo como una entidad completamente diferente. Esta entidad tendrá un nivel de comprensión que está mucho más allá de la comprensión de cualquier ser humano.

La IA está bien y bien, pero NO LO HAGAS CONSCIENTE, HAGAS LO QUE HAGAS, NO LO HAGAS CONSCIENTE.

Especifique con éxito valores amigables para los humanos al diseñar la IA

En la ficción donde la IA se vuelve rebelde, la razón de esto generalmente se da en términos antropomórficos: a la IA no le gustaba recibir órdenes, la IA quería ganar poder, etc. El problema con esto es que asume que la IA tiene objetivos similares. para los humanos, a pesar de que los humanos queremos lo que queremos debido a nuestra historia evolutiva específica, no solo porque somos inteligentes. No deberíamos esperar que ninguna inteligencia dada quiera las mismas cosas que nosotros.

Si bien a veces esto se expresa como "todos los seres inteligentes quieren libertad", por ejemplo, o se justifica en términos de convergencia instrumental , un escenario más realista es que los creadores de la IA involuntariamente le dieron valores que entran en conflicto con los de los humanos en no- maneras obvias. Este es el mismo tipo de consecuencia no deseada que ocurre en las historias de genios: alguien desea algo que parece estar bien, como "paz mundial", y luego el genio lo cumple de la manera más simple posible (eliminando a todos los humanos de la ecuación). O, más mundanamente, el humano le pide a la IA que fabrique la mayor cantidad posible de sujetapapeles a bajo costo , y comienza a autorreplicarse hasta que convierte el mundo en sujetapapeles.

Si desea que la IA en su historia sea benévola, asegúrese de que sus diseñadores hayan especificado adecuadamente los valores humanos al diseñarla, de modo que se dé cuenta de que las ciudades son una fuente inaceptable de material para sujetapapeles.