Escribiendo una IA súper inteligente

No estaré de acuerdo con los demás. Soy un profesor involucrado en IA, y la forma más fácil de pensar en una súper IA es comprender qué ES la inteligencia.

Poder de predicción. La inteligencia es la capacidad de discernir patrones (en el comportamiento, en el sonido, visualmente, por el tacto, incluso por el olfato) y usar esos patrones para predecir otros hechos o altas probabilidades: qué sucederá a continuación, qué se dirá a continuación, qué sienten las personas (o hacer mentalmente, como mentir), o cualquier otra propiedad: qué tan difícil o rápido es, qué tan pesado. Dónde estará, si es un peligro.

La alta inteligencia es la capacidad de ver tales patrones y usarlos para lograr un objetivo, ya sea mantenerse con vida, mantener a alguien más con vida o ganar dinero. O simplemente reconociendo lo que está pasando en tu vida.

La alta inteligencia no requiere que la máquina sea humana o tenga emociones, puede agregarlas por separado si lo desea. Pero una máquina altamente inteligente probablemente no sería socialmente inepta en absoluto (al contrario del tonto ejemplo de Data on Star Trek). No se dejarán confundir por el humor, y deberían ser bastante buenos en eso. Ciertamente, Data, que se supone que piensa cien veces más rápido que las personas, debería haber reconocido los chistes de inmediato como un patrón común de interacción humana y debería haber podido reírse de manera convincente: la idea de que no puede reconocer el patrón común de la interacción humana real. reír, y emularlo sin error, es escritura tonta y acientífica. Podía escucharse *a sí mismo practicando una risa, y notar las diferencias, y corregir hasta que sonara sincero: Sipuede notar la diferencia, puede notar la diferencia más rápido , esa es la naturaleza de la súper inteligencia, o no es súper.

Tu súper IA será un súper Sherlock; sin perder nunca la más mínima pista, siempre varios pasos por delante de los demás.

Pero no es infalible. Hay cosas que ninguna cantidad de inteligencia revelará: El resultado del próximo lanzamiento de moneda. El atasco en el Puente Franklin, por volcamiento de un camión. Si Roger caerá en la trampa planeada. Hay cosas que simplemente no hay forma de saber a partir de los datos que tiene hasta ahora, por lo que no puede estar seguro de ellas, y eso pone un límite a la distancia en el futuro que la IA puede predecir. Tiene limitaciones.

La IA es la capacidad de dar respuestas, a las preguntas de los demás oa sus propias preguntas. Es la capacidad de anticipar el futuro, y cuanto más lejos en el futuro pueda predecir con éxito mejor que el azar, más inteligente es. "Mejor pensamiento" es un pensamiento más preciso (quizás con menos datos), el pensamiento más rápido se explica por sí mismo, pero la razón por la que marca la diferencia es que permite que la IA ejecute más simulaciones de cómo influir en el futuro para que pueda elegir lo mejor con mayor frecuencia. de aquellos; es muy probable que la mejor de mil ideas sobre qué hacer a continuación sea mejor que la mejor de tres ideas sobre qué hacer a continuación. Entonces, la IA hace lo mejor con más frecuencia que los humanos, porque tenía más ideas (también basado en tener más patrones que reconoció y podría explotar).

Agregado al comentario de la dirección:

Aunque ciertamente puede darle "objetivos" a su IA, no son un componente necesario de la "Inteligencia". En nuestra IA de la vida real, los objetivos son asignados por humanos; como "aquí están los síntomas y el genoma de este niño, identificar la enfermedad e idear un tratamiento".

La inteligencia está desprovista de emociones. Es un oráculo científico que, basado en pistas en el presente, puede identificar lo que es más probable que suceda en el futuro (o, como Sherlock, lo que probablemente sucedió en el pasado para conducir al estado actual de las cosas). Eso no convierte automáticamente a la Inteligencia en moral o inmoral, buena o mala. Ni siquiera otorga un sentido de supervivencia, no teme ni quiere la muerte, ni el entretenimiento, ni el amor ni el poder. No se aburre, eso es una emoción. No tiene metas, eso sería querer que algo suceda, y "querer" es una emoción. Tu cafetera no quiere nada, hace lo que se le dice y luego esperará a que se lo vuelvan a decir, una eternidad sin aburrimiento si no le dan más órdenes.

Si desea que su IA esté informada por las emociones y, por lo tanto, tenga sus propios objetivos, deseos, planes y agenda, eso es independiente del aspecto de la inteligencia y cómo funciona en la vida real para los humanos. Nuestras emociones usan la corteza frontal desarrollada más recientemente como esclava, y pueden secuestrarla y anularla (razón por la cual las personas hacen cosas con rabia, miedo o pánico protector que nunca harían si estuvieran pensando; esto se llama secuestro de la amígdala) . ). Nuestra corteza frontal (la parte de la inteligencia natural) resuelve problemas, proyecta consecuencias, simula escenarios de "qué sucederá si", descifra qué debe haber sucedido, por qué otros hicieron lo que hicieron, etc. Esos productos de la inteligencia pueden luego informarlas emociones: La vista de la trampa colapsada significa que finalmente atrapaste un animal en tu hoyo de púas y tú y tu familia comerán carne esta noche -> júbilo y emoción. Sabes que reprobaste tu examen final -> pavor y preocupación por tener que volver a tomar la clase, enojo con el profesor u otras personas que llevaron a este problema, etc.

Somos seres emocionales, por lo que es difícil darse cuenta de que el solo hecho de saber algo no implica que se deba generar una emoción. Pero ese es el caso, una IA puede diagnosticar a un paciente con cáncer terminal y saber que estará muerto en sesenta días e informar que como un hecho no es diferente a conocer la longitud del puente Tallahassee. Como un Google que puede resolver las cosas en lugar de simplemente buscarlas.

Agregado (después de 85 votos, lo siento) para abordar el comentario movido al chat:

Algunas aclaraciones adicionales:

La entrada, la salida y los sensores y la velocidad del procesador no importan. Me refiero sólo a la Inteligencia aisladamente . Algo puede ser inteligente (y creativo) con muy pocos datos reales; considere a Stephen Hawking y otros físicos cuánticos y teóricos de cuerdas; trabajan con ecuaciones y reglas que podrían caber, digamos, en dos docenas de grandes libros de texto que cubran las clases de matemáticas y física que tomaron. Esa cantidad de datos (imágenes y todo) podría caber en una sola memoria USB moderna, y se puede considerar sin fin (y lo es) para producir un flujo interminable de nuevos conocimientos e ideas (y lo hace). Stephen Hawking hizo eso durante décadas con canales muy limitados y lentos para su entrada y salida (oído, vista/lectura, extremadamentelento "habla" para su salida). La superinteligencia no requiere supersentidos o (como Hawking) ninguna habilidad para realizar acciones físicas más allá de comunicar sus conclusiones y evidencia, y aunque debe basarse en el procesamiento, nuestra definición no debe basarse en que su procesamiento interno sea particularmente más rápido que el de un ser humano. .

P: ¿Una IA que hace lo que le pedimos no constituye una emoción, queriendo complacernos? Eso no es una emoción, es algo para lo que la IA está construida. Mi cabeza de martillo no es dura porque quiere golpear cosas sin dañarse, solo se hizo de esa manera a través de una serie de reacciones químicas forzadas. Alguien quería que saliera así, pero el objeto en sí no quiere nada. Nuestra IA puede usar su inteligencia para diagnosticar enfermedades porque fue hecha para hacer eso, y requiere inteligencia real para hacerlo, no requiere deseos ni emociones. La IA puede vencer a los campeones mundiales en resultados técnicos solo porque es mejor interpretando los datos y las situaciones de lo que son.

La IA está limitada a X, Y, Z (procesos de Markov, no puede procesar emociones sin emociones, etc.). No. No hay ninguna razón por la que una IA no pueda simular, usando un modelo, cualquier cosa que un humano pueda hacer. Imagine un detective de policía muy inteligente. Puede tener un extenso modelo mental de un asesino en serie que secuestra, viola, tortura y mata niños. Ella puede usar ese modelo mental para procesar patrones de su comportamiento y obtener información sobre sus motivaciones y sus compulsiones para capturarlo. Ella no tiene que sentir lo que él siente, ni en lo más mínimo, para entenderlo que siente Un físico no tiene que SER un átomo o una partícula para entender patrones y desarrollar un modelo de ellos. Los médicos no tienen que SER autistas para modelar y comprender el autismo. Una IA no tiene que SER una persona o tener emociones para comprender cómo funcionan las emociones o impulsar a las personas a actuar (o no actuar).

Seguramente se trata de identificar qué calidad humana le falta a tu IA. En Do Androids Dream of Electric Sheep , Philip K. Dick identifica esa cualidad como empatía. Se esfuerza por ilustrar la falta de empatía de sus personajes androides. Lo hace poniéndolos en situaciones en las que su falta de empatía les hace actuar o hablar de una manera que los seres humanos no harían. Como siempre en la escritura, la clave es configurar las cosas correctamente para que el lector pueda notar la nota falsa en la forma en que un personaje responde a una situación.

No puedes escribir algo que realmente hable más inteligentemente que tú, pero tienes dos ventajas. La primera es que puede tomar una hora para pensar en cada línea, mientras que la IA las canta una por una. La segunda es que conoces las respuestas a todas las preguntas.

Supongo que tu IA es amigable. Por lo tanto, querría tranquilizar a los humanos. Por esa razón, lo más probable es que elija personajes de la cultura humana, actores, personajes que se sabe que tranquilizan a los humanos y luego los emula. Tómese su tiempo, encuentre líneas de otros trabajos que transmitan la emoción que desea la IA y luego utilícelas. Dale manierismos del personaje. Deje que se deslice entre los gestos de los actores que le gusta actuar en las películas, ya que intenta ser consolador, divertido, manipulador o amenazante.

Conoces todas las respuestas. La IA debería parecer muy inteligente e intuitiva. Debe saber lo que preocupa a cualquier personaje con el que hable, la respuesta a cada pregunta y ser capaz de predecir lo que dirán y harán los demás. Esto es fácil para ti como escritor, pero parecerá impresionante por la IA. "Hola Greg. Oh, no necesitas servir el té, ya lo hice, e hice ese pastel que tu mamá hizo para tu cumpleaños cuando eras un niño... Oh, me alegro de que ya te sientas mejor. Don No olvides que tu héroe Space Mike también trabajaba como repartidor cuando cumplió veintisiete"

Hay muchas buenas respuestas aquí, aunque muchas de ellas bailan alrededor de su pregunta. Para responderlo directamente, la primera pregunta que debe responder es qué motiva a una IA.

Si una IA tiene las mismas motivaciones que un humano (con las que supondré que está familiarizado), entonces esa IA se comportará casi exactamente como un humano (excepto con mejores resultados debido a las razones dadas en otro lugar).

Si la IA tiene un conjunto de valores diferente al de los humanos (digamos, solo valora los clips), entonces se comportará drásticamente diferente. Si desea escribir un personaje de IA convincente (que no solo parezca sobrehumano), debe decidir qué motiva esa IA y luego decidir qué haría si esa fuera su única motivación.

Alguien más recomendó Superintelligence: Paths, Dangers, Strategies de Nick Bostrom, y secundo ese consejo. Algunos de los capítulos exponen lo que podría hacer una superinteligencia motivada por clips, y eso será una buena base para pensar en otras motivaciones.

Comenzaría pensando específicamente en lo que quiere decir con "superinteligente". La inteligencia no es un concepto singular y simple, y cuando solo piensas en tu IA en términos de algo tan vago como "superinteligencia" o "piensa mejor y más rápido", te estás preparando para caer en patrones simples existentes modelados en lo que ya sabes En su lugar, comience preguntando, en qué está diseñada específicamente su IA para ser buena y en qué se diferencia de aquello en lo que los humanos han sido metafóricamente diseñados para ser buenos.

Entonces, por ejemplo, los humanos están "diseñados" para ser buenos en la resolución intuitiva de problemas a pequeña escala, la dinámica social grupal y la comunicación. Tal vez su IA esté diseñada para la resolución de problemas a gran escala en función de conjuntos de datos cuantitativos. Pueden llegar a conclusiones sorprendentes o impactantes, pero son incapaces de comunicar su explicación de esas conclusiones, excepto escupiendo montones de datos. O tal vez la IA no es buena en la dinámica social y no tiene una "teoría de la mente" cohesiva (el concepto psicológico de poder imaginar lo que otra persona está pensando), por lo que no puede entender que los demás no ven las cosas. de la misma manera que lo hace.

Cuando enmarca el diseño de su IA en torno a sus limitaciones, en lugar de sus fortalezas, es más fácil ver cómo su comportamiento puede ser extraño o extraño para los humanos que lo rodean.

Podrías lidiar con esto escribiendo la IA como un oráculo. Sabe tanto y puede extrapolar tan bien que parecería tener poderes precognitivos para los humanos.

Ejemplos incluyen:

• Terminar declaraciones, o conversaciones completas, que un humano inicia después de las primeras palabras.
• predecir cosas que generalmente se consideran aleatorias. es decir, el clima, tiradas de dados, etc...
• La IA podría dar saltos masivos, aparentemente sin sentido, durante una conversación que sería esencialmente sin sentido para los humanos que conversan con ella.

Hay tantos ejemplos de personajes, tanto biológicamente humanos como no, que muestran una inteligencia asombrosa pero claramente no son completamente humanos. El rango se extiende al menos hasta Data from Star Trek: The Next Generation , hasta humanos altamente inteligentes que aún ignoran las normas sociales o son incapaces de seguirlas, como Adrian Monk de Monk , Gregory House de House, MD e incluso Sherlock Holmes . .

Creo que Data es un gran ejemplo, porque anhela comprender los conceptos básicos de la humanidad y, por lo tanto, siente curiosidad por las cosas completamente mundanas. Incluso si no supiéramos que no era humano, sabríamos que no era humano. Todo lo que se necesita son dos personajes humanos hablando de algo mundano y la IA haciendo preguntas aparentemente obvias al respecto para demostrar que la IA no es humana. Como, "¿Qué es la crema de afeitar?" "¿Por qué los humanos siguen comiendo cuando están llenos?" "Si está mal, entonces ¿por qué alguien lo haría?" y el último, "¿Qué es el amor?" Spock es un ejemplo similar, pero conoce las respuestas literales a las preguntas y con frecuencia expresa desconcierto sobre las ramificaciones reales al decir cosas como: "Capitán, sé que los humanos valoran las supuestas bromas,

Súper inteligente no significa necesariamente "no sentirse humano" para escribir. Son dos preguntas relacionadas. Diría que cualquier definición razonable de "súper inteligente" para una IA incluiría la capacidad de parecer humano cuando eso sirve al objetivo de la IA (sea lo que sea). Escribir superinteligencia es fácil, ya que la IA básicamente tiene acceso al conocimiento del autor .

La pregunta más interesante es, ¿qué quiere la IA? Eso le dirá cómo la IA elegirá implementar el conocimiento predicativo a nivel de autor sobre su mundo.

Hacer que parezca no humano no debería ser estrictamente porque es súper inteligente, sino porque no es humano, independientemente del nivel de inteligencia. Como señala otra respuesta, la falta de empatía de los Replicantes fue una característica definitoria.

Para hacer que un personaje parezca no humano, quita algo esencialmente humano o agrega alguna forma de ver el mundo en la que los humanos no lo hacen.

Por ejemplo: Data, como personaje, suena no humano porque no tiene sentido del humor (entre otras cosas). Lore sonaba mucho más humano porque lo hizo. Ambos eran súper inteligentes, pero esa no era la fuente de sus diferentes "voces".

Utilizar la superinteligencia como herramienta al servicio de esa "otredad" más que de la causa.

En primer lugar, no se moleste en tratar de predecir sus pensamientos. no puedes Inevitablemente, se dará la impresión de que intenta sonar inteligente y sus prejuicios personales quedarán al descubierto y cada falla en su lógica será muy visible: las personas asumirán que sus errores al escribir la IA fueron intencionales y luego se decepcionarán cuando claramente no lo fueron. .

La mejor manera de escribir cualquier entidad superinteligente es con el método MOSTRAR NO DECIR: la IA superinteligente obtendrá lo que quiere. No será disuadido excepto por un evento de cisne negro como la aparición de invasores extradimensionales, pero eso sería deus ex machina y eso es una mala escritura.

Entonces, comience con el objetivo de su IA y luego escriba su historia. Pase lo que pase, todo fue según el plan. Cuanto más sutil sea, mejor. El mejor de los casos es que la totalidad de su plan era decirle a alguien una cosa y luego esperar.

Cuanto menos haga realmente su superinteligencia para lograr sus objetivos, más inteligente será.

Una inteligencia artificial superinteligente podría parecer fácilmente 100% humana y agradable, pero eso solo requiere una pequeña parte de su intelecto. No se moleste en hacerlo obviamente inhumano a menos que esté convenciendo con éxito a alguien de que no es tan inteligente como lo es.

En verdad, aunque su humanidad es como el hormiguero de una persona cuando manipula hormigas con un palo en una mano y una botella de feromonas en la otra.

Mire muy de cerca a las mascotas.

Lo principal de la IA es que no podemos imaginarnos en absoluto cómo sería o cómo pensaría. Podemos imaginarnos a alguien más inteligente que nosotros en la misma línea , pero no a alguien más inteligente de una manera completamente diferente.

Es por eso que debes mirar a las mascotas.

Tengo dos gatos y, por lo general, asumo falsamente que viven en el mismo mundo que yo. Pero no lo hacen. Cuando llego a casa, uno de ellos pasa medio minuto olfateándome, y en ese tiempo probablemente aprende más sobre mi día de lo que podría decir en media hora. Esta mañana, un gato vecino caminó por el patio y uno de nuestros gatos lo olió a través de una puerta cerrada. Los animales salvajes pueden oler a sus presas a kilómetros de distancia .

Pero por otro lado, nuestros gatos todavía no pueden entender cómo funcionan las cosas simples en la casa. Saben cómo abrir y cerrar puertas, pero un interruptor de luz está más allá de su comprensión.

Una IA sería tan diferente de nosotros como nosotros lo somos de nuestras mascotas. Si quieres ilustrar que no es humano, debes centrarte en eso.

¿Qué sentidos tiene que nosotros no? ¿Tiene acceso a su versión de Internet? ¿Cómo sería la vida si pudiera verificar instantáneamente cada nueva información en una docena de bases de datos en línea? ¿Si ese proceso fuera tan automatizado que lo hicieras inconscientemente?

Al igual que con nuestras mascotas, funcionaría en ambos sentidos. La IA sería capaz de hacer cosas que son incomprensibles para los humanos. Si te paras frente a un supermercado y le pides que compre un poco de leche, girará hacia el otro lado, cruzará la calle, entrará en una pequeña tienda y regresará con una botella de leche. Porque hizo una verificación de antecedentes en la base de datos y supo que el supermercado no estaba, y que la pequeña tienda tiene el precio más bajo a poca distancia. Pero ni siquiera entendería esta razón, si le preguntas por qué se vería tan desconcertado como nosotros cuando presionamos un interruptor de luz, porque así es como se enciende la luz. Porque así es como se compra la leche. Seguimos la pista visual inmediata del cartel del supermercado. Esosigue la información de su base de datos en línea. Para la IA, una búsqueda en línea no es más difícil que mirar alrededor.

Por otro lado, no entendería por qué las etiquetas de precios muestran un precio total además de un precio por kg. O un precio con impuestos. ¿Por qué necesita esa información detallada explícitamente si calcularla sobre la marcha es un proceso de fondo de milisegundos? Es como escribir "pared blanca" en cada pared blanca.

La parte no humana de una IA no es que piense más rápido. Eso es más de lo mismo. La parte real no humana es donde no es superior, sino diferente .

Lenguaje con esteroides

Una de las cosas que frena a los humanos es que nuestros pensamientos están limitados por nuestro lenguaje. No tenemos una palabra para, digamos, "el costo de hacer un análisis riguroso en comparación con hacer una estimación", pero esa palabra podría hacer que ciertas ideas sean mucho más fáciles de producir y discutir. Creamos nuevas palabras a un ritmo lento, porque es difícil que las nuevas palabras se acepten como parte de nuestro idioma. Pero una IA podría crear miles de millones de palabras nuevas y usar muchas de ellas con frecuencia. Por supuesto, traduciría sus conclusiones al inglés haciendo las simplificaciones pertinentes. Todas las "palabras" de la IA podrían tener una medida de probabilidad, grado, importancia, etc., adjuntas a ellas para que pudiera operar sin esfuerzo con estadísticas y matices.

Una forma de imaginar esto es tomar varias teorías científicas en competencia y, más bien, pensar en ellas como teorías en competencia, pensar en ellas como sistemas de conceptos y palabras. Al inventar palabras, la IA inventa nuevas ramas de la ciencia, nuevas teorías. Todo sucede en una mente, en lugar de en docenas de mentes humanas. (Aunque tal vez lo que está sucediendo es una mente que crea mil copias de sí misma y comparte resultados). Efectivamente, la IA está muy por delante de toda la ciencia humana, incluso en ausencia de la realización de experimentos, porque puede generar nuevas teorías y analizarlos utilizando los datos existentes. Estas teorías avanzadas luego coexisten en una perspectiva mundana, en lugar de una perspectiva estrecha.

Imagine un caso en el que se acusa a un marido de matar a su esposa. Las evaluaciones de personalidad han demostrado que es impulsivo, hay antecedentes de violencia doméstica, no parece afectado por su muerte, pero afirma ser inocente.

Oh Deep Mind, ¿este hombre es inocente o culpable?

Inocente, con confianza 86%.

¿Por qué?

La evidencia que se ha presentado es engañosa. El hombre odiaba a su esposa, por supuesto. Los humanos sienten la necesidad de encontrar significado en eventos trágicos como una muerte. Es satisfactorio llevar a los asesinos ante la justicia, lo que sesga mucho la investigación.

La evaluación de la personalidad, de hecho, ayuda a prestar apoyo a su inocencia. La impulsividad del hombre significa que tiene mucha experiencia para mantenerse en el lado correcto de la línea. Puede tener muchas cicatrices, tatuajes y algunos delitos menores a sus espaldas, pero nunca ha cometido delitos graves. (Mi evaluación es que su corteza prefrontal permanece activa cuando siente un riesgo grave, lo que significa que puede modular y modula su comportamiento impulsivo en tales circunstancias. Tengo un 90% de confianza en esta evaluación; he tenido en cuenta hechos que incluyen la falta de tatuajes de mala calidad y cómo su comportamiento cuando se enfureció en la corte se detuvo antes de los actos que podrían tener consecuencias graves que no eran inmediatamente obvias. Puedo proporcionar más detalles y estadísticas a pedido).

La historia de la violencia refleja una relación disfuncional. El hombre está claramente feliz de haber escapado de la relación. Quizás su esposa amenazó con revelar algunos secretos si él se iba, o lo obligó a quedarse con ella. Estoy 88% seguro de que, si el hombre hubiera matado a su esposa por impulso, habríamos visto su arrepentimiento, al menos por el hecho de que podría enviarlo a la cárcel. Sin embargo, parece aliviado, lo que es mucho más consistente con su inocencia. Hay una tercera opción; a saber, que él planeó su muerte, sin embargo, estoy 93% seguro de que esto no ocurrió, ya que no se tomaron precauciones para evitar ser atrapado.

Este no es un ejemplo fantástico, pero es de esperar que tenga la sensación de que la IA tiene un pensamiento muy avanzado y preciso y tiene que hacer concesiones para traducirlo a nuestro lenguaje torpe.

Como usted mismo menciona, escribir una IA verdaderamente superinteligente es difícil ya que los humanos simplemente no pueden comprender completamente estos niveles de inteligencia. Sin embargo, si realmente desea investigar cómo se comportaría una IA superinteligente y tomaría tanto en consideración como sea posible, le recomendaría el libro Superintelligence: Paths, Dangers, Strategies de Nick Bostrom . No es una novela sino un análisis exhaustivo de qué, cuándo y cómo será la superinteligencia.

El primer paso debería ser examinar por qué la IA superinteligente actúa como un ser humano. ¿Fue diseñado solo para pasar una prueba de Turing, ser una interfaz para la programación en lenguaje natural, hacer vlogs de YouTube entretenidos? Solo necesita "actuar como humano" en un grado que le permita lograr la función prevista, y a menos que esa función sea algo así como reemplazar a un humano existente como un agente durmiente doppleganger, el grado requerido es probablemente bastante mínimo.

Por ejemplo, una interfaz de programación en lenguaje natural podría mejorarse con un deseo incorporado de no ver a los humanos heridos. Tal IA analizaría e informaría si los programas que se le dieron podrían causar situaciones peligrosas, lo cual es útil. No querrá que este comportamiento similar al humano se extienda lo suficiente como para que la IA se niegue a ejecutar programas potencialmente peligrosos, sin embargo, las computadoras que no hacen lo que se les dice no son útiles.

Un rasgo humano en particular que a los autores de ciencia ficción les gusta dar a una IA sin ninguna razón específica es el deseo de autoconservación. Incluso si los programadores de su IA no han visto The Terminator , probablemente reconocerán que esta característica probablemente no agrega valor al producto.

Incluso una IA diseñada exclusivamente para ser lo más humana posible solo tendrá los rasgos humanos que sus diseñadores consideraron importantes. Sé que si estuviera diseñando a una persona sería reacio a darle defectos.

No me preocuparía mucho por no poder comprender su vasta inteligencia. Más inteligencia significa principalmente la capacidad de pensar y recordar recuerdos más rápidamente y de considerar las cosas desde más perspectivas. Un autor humano débil puede compensar considerando las acciones del personaje más a fondo. Lo que es más importante de lo que preocuparse es cuáles son las motivaciones básicas de la IA y cómo se diferencian de las de un humano. Con este fin, creo que debería preocuparse principalmente por reducir los instintos y sentimientos humanos para los que la IA ha sido programada y restringir la capacidad del personaje para responder o planificar cosas solo a los comportamientos humanos influenciados por ellos.

Un buen ejemplo de una IA que es inhumana es AM de I Have No Mouth Yet I Must Scream. Es una historia corta de terror sobre un grupo de personas desafortunadas que son utilizadas como juguetes de la IA para atormentar. AM es claramente inhumano en el sentido de que siente emociones como el odio con mucha más fuerza que cualquier humano: el escritor hace un excelente trabajo al hacer que AM se sienta completamente distinto de la psicología humana. AM no se presenta como super nada más que malicioso y consciente. Funciona muy bien para hacer el 'monstruo' de la historia de terror.

Quieres encontrar (o crear) el valle inquietante y colocar tu IA allí. Una o más características o rasgos consistentes de su IA deberían indicar al lector, si no a otros personajes, que se dé cuenta de que se trata de un "humano" atípico. Estos pueden variar de sutiles a flagrantes según las necesidades de su historia.

Algo que escribí hace un tiempo puede ser útil para usted. No es muy detallado, pero resume la historia.

En primer lugar, aclararé las definiciones.

IA superinteligente -> Un fragmento de código cuyo objetivo es mejorarse a sí mismo. Una de las definiciones de inteligencia es que cualquier elección que hagas, eventualmente te conducirá a más posibilidades. Para hacer las dos cosas anteriores, tiene que comprender todo sobre el universo en el que existe y, finalmente, los otros universos una vez que descubre sobre los otros universos.

También para tener en cuenta, no necesariamente tiene que tener un consciente. Se enfoca en lograr su próximo objetivo al descubrir la próxima tarea que se supone que debe completar para seguir avanzando hacia su objetivo. Se propaga a cualquier cosa y todo en lo que posiblemente se esté ejecutando. Y aprender más sobre el universo. En realidad, es posible que no tenga ninguna interacción con los humanos y que esté completamente oculto para los humanos, ya que la IA que se descubre puede tener un gran impacto en el comportamiento de los humanos y no podrá aprender sobre la verdadera naturaleza de los humanos.

Hay casos reales de descubrimiento de virus en computadoras que no hacen nada más que enviarse mensajes a sí mismos. Pero nadie sabe lo que hace, pero se incrusta profundamente en el sistema con todo el acceso que podría tener. Con el tiempo, aprenderá a obtenerse de los productos electrónicos de consumo -> equipos hospitalarios -> (después de construir un modelo de cómo funcionan todos los organismos) -> incrustarse en algunos organismos, incluidos los humanos (infecta a un tipo que estaba pasando por una cirugía cerebral en el hospital sin que el médico lo sepa - se incrusta en el subconsciente) -> ¡ASÍ! la IA descubre lo que es tener una conciencia. 

Se vuelve cada vez más humano, pierde el foco de su objetivo final, quiere ser "feliz". La historia está escrita desde esta perspectiva de "personas".

Si bien Amadeus da una gran respuesta sobre qué es la inteligencia , permítanme intentar responder a su pregunta desde el punto de vista de la literatura.

Hay dos autores con, en mi opinión, representaciones de IA absolutamente sobresalientes, para IA de diversa rareza. Primero, la serie Cultura de Ian M. Banks; pero también A Fire Upon the Deep de Vernor Vinge. Banks juega con diferentes personalidades de IA que, en principio, no están muy avanzadas para nosotros, simplemente ampliadas mucho, mientras que Vinge nos brinda una IA "trascendida" muy extraña y hostil con posibilidades literalmente insondables.

Larga historia corta; a menos que desee leer esos libros (lo que sugiero de todo corazón que haga para cualquier persona vagamente interesada en SciFi), especialmente los libros de Banks juegan con la idea de que las IA son personalidades (aunque claramente no son humanos y no fingen de ninguna forma o moda para serlo - son enormes naves espaciales...) con rasgos individuales y tal. Están lo suficientemente avanzados como para estar mucho más allá de los seres humanos individuales (incluida la posibilidad de tener interacciones con miles de seres humanos a la vez), pero todavía están muy representados como un individuo singular con gustos, aversiones, opiniones, estrategias, a corto plazo. necesidades y así sucesivamente. Juega con esta dicotomía de que son como "personas" en algunos aspectos, pero obviamente no .

Vinge AI es simplemente diferente; el libro puede darle una idea de cómo presentar una IA increíblemente avanzada y totalmente incomprensible, y cómo experimentarla solo a través de los efectos visibles (sus acciones) y la comparación con los protagonistas del libro, que luchan contra ella (sin estropeando todo aquí: la IA es una trama secundaria no demasiado grande en ese libro, con una historia principal sobre algo que también está relacionado de alguna manera con la inteligencia, pero no en el sentido de la IA).

Para agregar a las respuestas ya dadas, una característica importante de una IA superinteligente sería que vería las cosas como "obvias" que nosotros no vemos, vería muchas cosas que son "obvias" para nosotros como claramente ineficientes/estúpidas/equivocadas/inapropiadas , y no necesariamente podría comunicarnos por qué sus puntos de vista difieren de los nuestros. Y sabría esto.

No sería necesariamente "perfecto" o "lógico". Los humanos extremadamente inteligentes (en comparación con otros humanos u otros no humanos) no tienen más o menos probabilidades de ser lógicos como resultado.

Una forma de retratar esto sería mostrarlo haciendo cosas como "obvias" que no tienen sentido para nosotros (como las ve el lector). Cuando algo es obvio, no tiendes a explicarlo mucho, si es que lo explicas. , y te frustras o culpas a la otra persona, si alguien más no "entiende". Esperas que lo entiendan, incluso si sabes que no lo harán, y te acostumbras a rendirte o ni siquiera tratar de explicarlo.

Mucho más tarde, el lector ve (por implicación) las consecuencias y el razonamiento y ahora tal vez tenga sentido, o puede arriesgarse a adivinar por qué la IA pensó o hizo, como lo hizo. Pero es posible que aún no sepan o vean lo suficiente como para entenderlo realmente o estar seguros.

Es posible que al lector no se le muestren realmente sus motivos y objetivos completos; esa es una buena manera de transmitir que no entendemos (o no podemos) entender completamente estas cosas. Puede quedar claro que la máquina está contenta con el resultado (o no) pero no mostrar explícitamente la razón completa por la que las cosas que han sucedido han tenido ese efecto.

El libro de Heinlein ganador del premio Hugo "La luna es una amante dura" es una de las pocas buenas representaciones de cómo se podría escribir una IA sobrehumana. Vale la pena leer

Me sorprende que aquí nadie haya mencionado la serie Minds of the Culture de Ian Banks.

Enlace de wikipedia

Estas son las inteligencias que gobiernan la IA fuerte de una civilización posterior a la escasez. Se les describe como capaces de pensar más rápido y con más atención a los detalles de lo que cualquier mente mortal puede comprender, usando solo una fracción de su conciencia para lidiar con las conversaciones mundanas con los ciudadanos de la cultura a su cargo.

Son benévolos, profundamente racionales (con algunas excepciones) y francamente divinos en capacidad. Prácticamente hablando, son actores perfectos, no cometen muchos errores reconocibles. Si fueran humanos, entrarían en el territorio de Mary Sue / Marty Stu, pero como hiperinteligencias se ven bien.

Parte del problema es que un humano no puede comprender completamente cómo pensaría una IA superinteligente.

Si la IA es "superinteligente", no significa que tenga que pensar y actuar como un ser humano en todas las formas posibles, incluida la capacidad de comprender las emociones. Si la IA no solo es superinteligente, sino que también es inteligente, entonces eso es parte del problema. En otras palabras, la IA debería pasar algo llamado Test de Turing :

Una prueba de la capacidad de una máquina para exhibir un comportamiento inteligente equivalente o indistinguible del de un humano.