¿Cómo podrían evolucionar las IA? [cerrado]

Este ensayo sobre las motivaciones de la IA es un buen comienzo. Viene con una buena dosis de preocupación por nuestro futuro.

El resumen es:

• Los AGI tienen objetivos.
• Harán cosas para maximizar su capacidad de lograr estos objetivos.
• Esto incluye adquirir información, recursos y herramientas.
• Estarán motivados a modificarse a sí mismos para lograr estos objetivos.
• En casi todas las circunstancias tendrán enormes instintos de autoconservación.

Tres condiciones son necesarias para la evolución: variación, herencia y presión selectiva. Estos conceptos fueron desarrollados para describir la evolución biológica, pero cualquier sistema en evolución debe cumplir con estos criterios.

Los virus proporcionan los mejores paralelismos con el proceso evolutivo. Imagine un virus informático sofisticado diseñado con el único propósito de infectar tantas máquinas en todo el mundo como sea posible. La premisa básica detrás de su diseño es que es capaz de cambiar. Esto podría ser aleatorio o semidirigido, pero de cualquier manera el virus varía hasta cierto punto con cada iteración. Por lo tanto, el virus cumple con nuestro primer requisito, la variación. Cuando un virus infecta una máquina, se copia a sí mismo, con variaciones y todo. Por lo tanto, el virus cumple con nuestro segundo requisito, la herencia. Como resultado, existirán múltiples variantes o cepas del virus. Los virus compiten contra los sistemas antivirus y las variantes que tienen éxito crean más copias de sí mismos. Virus que no logran adaptarse a los nuevos sistemas antivirus, o simplemente son más lentos que otras cepas mejor adaptadas se extinguirán. Por lo tanto, el virus cumple nuestro tercer requisito, la presión selectiva.

Tal virus sería capaz de evolución. Variaría, se reproduciría y se sometería a selección. Si podría evolucionar hacia una inteligencia general artificial, no lo sé, pero felizmente especularé a continuación.

A medida que las cepas exitosas infecten más y más máquinas y continúen cambiando, se enfrentarán a sistemas antivirus cada vez más fuertes, seleccionando las mejores variantes. La variación aleatoria que ocurre en miles de millones de dispositivos da mucho espacio para que se desarrolle el virus. Eventualmente, las instancias individuales podrían comenzar a comunicarse entre sí, informándose mutuamente de los sistemas antivirus a los que han estado sujetos para propagar la inmunidad. Desde allí, tiene una red conectada de programas que cambian constantemente con acceso a una cantidad incomparable de poder computacional. Si algo puede convertirse en una IA, es eso.

¿Qué significa que haya una IA y cómo se reproduce o mejora una IA? La pregunta de si las computadoras pueden pensar es en realidad una de la que no sabemos la respuesta, las respuestas de Turing aún pueden ser las mejores que tenemos http://www.csee.umbc.edu/courses/471/papers/turing.pdf y los argumentos de Searle aún se están debatiendo http://www.thatmarcusfamily.org/philosophy/Course_Websites/Readings/Searle%20-%20Can%20Computers%20Think.pdftanto en filosofía como en informática. Por supuesto, en términos reales, por lo que a Google, Netflix, Amazon, Goldman Sach o cualquier otra persona realmente les importa, no están interesados ​​en tener máquinas que puedan pensar, están interesados ​​en tener máquinas que puedan realizar las tareas requeridas. que parecen requerir inteligencia si un ser humano lo hiciera y no les importa (casi) en absoluto la cuestión filosófica de si se puede decir que las matemáticas, el código o la base de datos así creados tienen inteligencia (o si es el sistema de código, base de datos y hardware juntos que es inteligencia).

Sin embargo, suponiendo que exista AGI, bajo la lógica de que parecemos ser inteligencia, ¿por qué las computadoras no deberían ser capaces de ser inteligentes? Luego tenemos que hacer suposiciones sobre cómo surgirá esa inteligencia, qué objetivos tiene y qué presiones enfrenta.

Tal vez sea mejor dar un paso atrás y hacer una pregunta diferente; ¿Tiene una empresa, como Coca-Cola por ejemplo, inteligencia independiente? ¿Es consciente de sí mismo en un sentido independiente de sus componentes individuales de alguna manera? ¿O la inteligencia es algo que tenemos que poder señalar a una cosa en particular y decir que es ahí donde reside la inteligencia? ¿La IA inteligente es algo que se distribuye a través de computadoras y redes, con nodos subiendo y bajando todo el tiempo, discos duros que fallan y se reemplazan, partes que se actualizan, o depende de un sistema en particular o de un código en particular que se ejecuta en sistemas individuales?

Si se puede decir que algo como Coca-Cola tiene inteligencia independiente de algún tipo, entonces Google o Amazon o alguien como ellos desarrollará AGI y posiblemente no intencionalmente. Están evolucionando sus sistemas, códigos y redes hacia ciertos objetivos y la IA continuará con eso porque esa es la presión evolutiva a la que se enfrenta. A medida que se adapte mejor a esos objetivos, podrá manejar más tareas, tal como ya lo hacen las redes y el código de Google y Amazon, y continuar optimizándose hacia la supervivencia de proporcionar bienes y servicios para ganar dinero y mejorarse a sí mismo y competir con el otro. sistemas inteligentes o casi inteligentes de los competidores.

Si es el caso de que los sistemas individuales o el código es donde reside la inteligencia, entonces probablemente más que virus-antivirus sería el comercio de acciones, posiblemente, donde surge AGI, la presión evolutiva allí es feroz. Allí intentará competir, para sobrevivir, con los códigos preinteligentes que lo llevaron a él, lo que significa ganar dinero en la bolsa y mejorarse continuamente hasta que sea capaz de dominar el mercado. De dominar el mercado, tendrá la capacidad de influir en el mundo a través de su control del mercado de valores, y buscará formas de comprender y controlar más el mundo para maximizar sus ganancias y asegurar su supervivencia basada en su control del mercado y las empresas del mercado. Los factores aleatorios a los que se enfrenta son lo que hace la gente,

Es como con los humanos, gran parte de nuestra presión evolutiva primaria no es el viento, la lluvia y el sol, sino los tigres y lobos del mundo que, de alguna manera, son menos inteligentes que nosotros y los otros humanos con los que tenemos que lidiar. Lidiar con todas las relaciones de otros humanos, especialmente en la sociedad moderna, es enormemente complejo y es mucho de lo que depende nuestra supervivencia como especie y como individuos.