¿Qué tan inteligentes podemos ser?

Uno de los grandes problemas a la hora de diseñar una Inteligencia Artificial que podamos controlar es nuestra propia falta de inteligencia suficiente. El fracaso parcial aquí (éxito en el diseño de una IA, fracaso en el control) daría como resultado un futuro en el que todos estamos muertos o, en el mejor de los casos, somos mascotas de seres más grandes.

Sería útil que los humanos biológicos fueran más inteligentes . Nick Bostrom habla de un proceso de mejora cognitiva a través de la selección genética repetida. Argumenta que si las características genéticas hereditarias de la inteligencia pueden evaluarse mediante estudios de correlación a gran escala, una presión de selección de 1 en 100 (seleccione el "mejor" de 100) hacia correlatos de función cognitiva superior repetida en 10 gametos (espermatozoide + óvulo ) generaciones pueden resultar en aumentos masivos de CI en los individuos seleccionados (más de 100 puntos de CI de ganancia total al final del proceso de selección en comparación con la línea de base, es decir, nosotros).

Si el escenario de Bostrom es realista, ¿cuáles serían las implicaciones sociales de un proceso tan selectivo si hubiera, digamos, un 1% de adopción de este método entre la población? En otras palabras, ¿qué tan inteligentes podemos ser y aun así conservar una sociedad viable?

Sería poco práctico ya que gente como yo se encargaría de matar a los eugenistas.
Mejor que la alternativa
que Kornbluth Guy está estafando a Idiocracy. Los viajeros del tiempo son desvergonzados. El coeficiente intelectual (que podría no ser algo real) parece estar aumentando.
¿Le interesan las respuestas redactadas en forma negativa? Como alguien que juega con herramientas de optimización como algoritmos genéticos, puedo decirle que los GA son la mejor herramienta que tenemos hoy para una tarea en particular: demostrar cuán pobre fue su elección de funciones de aptitud en primer lugar.
@CortAmmon seguro
¿Estás buscando mejoras puramente biológicas o también cibernéticas?
¿Parece que las etiquetas de biología y genética deberían estar en esta pregunta?

Respuestas (3)

Creo que algunos gobiernos podrían crear un grupo muy secreto y bien controlado de supercientíficos altamente inteligentes cuyo trabajo sería obtener tremendas ventajas sobre su competencia.

Se podría depender de estas personas para resolver problemas que, de otro modo, llevaría décadas investigar y comprender, así como para diseñar sistemas de armas y otras tecnologías que pondrían a ese país por delante de todos los demás.

La forma en que evitarías que estas personas se conviertan efectivamente en nuestros señores supremos es manteniéndolos a raya. Adoctrinarlos desde el nacimiento parece un primer paso lógico, sin embargo, cualquier persona verdaderamente inteligente probablemente superará su condicionamiento. En ese momento, tener un matón a la moda con un arma apuntando a su cabeza ayudará a mantener el control.

Incluso entonces, es muy posible que estas personas descubran cómo hacerse con el control. Dependiendo de cómo nos vean al resto de nosotros (insectos a los que aplastar frente a sus primos desfavorecidos), pueden o no ser mejores líderes que los que tenemos hoy.

Tengo que hacerlo, ya que alguien lo hará de todos modos: ¡Kaaaan!
@SerbanTanasa - más o menos, sí. Khaaaan!
También pensé que Khan era un buen nombre para un perro. Sería un placer llamarlos desde el otro lado del parque.
@Samuel ¿De verdad? Siempre pensé que Fire sería un gran nombre para un perro.
¿Qué es exactamente Khan?

Esto sin duda aumentaría significativamente el número de 'genios' que se producen y, después de unas pocas generaciones más, redefiniría lo que consideramos genio.

Muchas personas inteligentes ya son vistas como extrañas con frecuencia debido a la forma en que interactúan con los demás. En algún lugar leí una cita que realmente solo podemos comunicarnos de manera efectiva con personas dentro de un cierto rango de coeficiente intelectual de nosotros mismos. Creo que podría 30 IQpuntos. Entonces, a medida que obtiene personas que son cada vez más inteligentes, por defecto tenderán a separarse de nosotros (y nosotros de ellos). Tendríamos dos sociedades separadas emergiendo. Eventualmente, podrían hacerse cargo de gobernarnos, ya que serían lo suficientemente inteligentes como para manipularnos como mascotas. Ahora bien, si se vuelven despóticos, probablemente serían derrocados y tal vez aniquilados, pero siendo mucho más inteligentes que nosotros, lo más probable es que tomarían el camino de los dictadores benévolos y se asegurarían de que todos se hicieran cargo de la 'carga' colocada sobre un un individuo es 'relativamente' ligero. Si las personas están cómodas y ocupadas, no se amotinan ni se resienten (tanto).

Si los súper inteligentes no hacen alarde de su dinero y poder, entonces habría aún menos razones para el descontento. Eventualmente, probablemente conseguirían una nave espacial para dejarnos a nosotros, los excavadores de tierra, con nuestros propios dispositivos.

Realmente no creo que las personas inteligentes se encarguen de gobernar a los demás. Las personas inteligentes todavía tienen muchas de las mismas opiniones que otras personas, solo que más refinadas. Tendrías mucha gente inteligente que apoya la libertad.
¡Oh, pero ya lo hacemos! la libertad es solo una ilusión que te permitimos mantener...
Oh, no te preocupes, sé que ya no existe la verdadera libertad según la constitución. Pero al menos dejemos que las personas estúpidas jueguen tanto papel como deseemos. Permítales unirse a la votación del caucus, donde pueden escuchar a personas elocuentes e inteligentes que representan diferentes puntos de vista.

El problema está en cómo definimos "inteligencia". Si lo limitamos a "lo que miden las pruebas de coeficiente intelectual", entonces posiblemente podamos aumentar este factor significativamente, pero a qué costo . Tenga en cuenta que muchas personas superinteligentes también son muy antisociales. Grigori Perelman es quizás uno de los más famosos. Paul Erdos era amistoso pero excéntrico. Por lo tanto, un alto coeficiente intelectual por sí solo podría no salvarnos de la tiranía de la IA, ya que a las personas con un alto coeficiente intelectual podría no importarles un bledo ese problema.

Hoy, nuestros líderes políticos difícilmente pueden ser considerados los más inteligentes del grupo. Incluso nuestros directores ejecutivos tienden más a la sociopatía que al alto coeficiente intelectual . Por lo tanto, no está exactamente claro cómo las personas con un alto coeficiente intelectual realmente nos salvarían de los Robot Overlords, a menos que los empleáramos como piratas informáticos defensivos en la NSA.

Bueno, dado que si la IA se apodera del mundo, también es su problema, así que realmente no veo por qué crees que no se molestarían en hacer nada.
Los líderes generalmente previenen que sucedan cosas malas tomando medidas para prevenir esas cosas antes de que sucedan. Esto incluye cosas como control de inundaciones, defensas antimisiles, bocas de incendio, etc. Que yo sepa, no existe una "Agencia de Defensa AI" en ninguna parte del mundo. Tratar de conseguir que civiles con un coeficiente intelectual normal trabajen para tal cosa ya sería bastante desafiante. Intentar que las personas con un alto coeficiente intelectual lo hagan antes de que las IA se vuelvan superinteligentes es otra muy distinta.
E incluso si muchas de esas personas hiperinteligentes estuvieran de acuerdo en que la IA superinteligente es una amenaza, es posible que prefieran resolver teoremas matemáticos. :/
Bueno, el problema más grande es que las personas dentro de la intelectualidad ya son las únicas que realmente toman medidas para trabajar en este tema, por lo que sospecho que las personas hiperinteligentes serán las únicas que realmente se toman en serio la amenaza de la inteligencia artificial.