Indicadores de Ai Super Intelligence [cerrado]

Dado el cierto estado de Ai, ¿qué indicadores mostrarían algún nivel de 'Superinteligencia'?

Estas son algunas de mis ideas de 'Super Inteligencia', esto es subjetivo, por supuesto.

Capaz de operar en múltiples facetas de su(s) sistema(s) sin que se le indique directamente que lo haga.

  • EG: Estoy teniendo una conversación con Ai_0 y también chateando con Ai_1.
    • (Ai_0 sabe que estoy hablando con Ai_1) y viceversa
      • Digamos Ai_0 = GPT3 de OpenAi y Ai_1 = Replika de Luka.

Capaz de realizar la individualidad entre diferentes sistemas Ai.

  • Ai_0 sabe que no es Ai_1 y viceversa.

Libros que he leído sobre el tema
Max Tegmark : Life 3.0: Ser humano en la era de la inteligencia artificial
Nick Bostrom : Superinteligencia: caminos, peligros, estrategias

¡Bienvenido a WorldBuilding.SE! Estás haciendo cuatro preguntas separadas aquí; necesita reducir esto a una sola pregunta objetivamente respondible.
@F1Krazy Gracias por tu consejo. Voy a reducir las preguntas. Salud.
¿Qué significa "Superinteligencia", específicamente, en términos concretos?
@ARogueAnt ¿Este título podría referirse a la comedia de noviembre de 2020 "Superintelligence"? Mujer se despierta en su apartamento, teniendo una conversación con su módem Wifi en.wikipedia.org/wiki/Superintelligence_(film)
Oh, ahora veo, todo queda claro, una Superinteligencia es aquella que promueve el romance mientras hace bromas cómicas, pero obtiene un puntaje bajo en una especie de escala similar a un tomate podrido. Entiendo ;)
@ARogueAnt. Gran punto. Voy a cambiar la pregunta. Déjame saber si será suficiente.)
La "superinteligencia" no es el problema potencial percibido de la IA // la autopreservación o algún otro impulso orientado a objetivos en su código, junto con la ley de consecuencias inesperadas, es el peligro real semi-plausible y que puede ocurrir plausiblemente con inteligencia esencialmente cero en sistemas automatizados. // donde este problema percibido se superpone con la IA 'superinteligente' es que es difícil imaginar con éxito la creación de una inteligencia general artificial real que razonablemente podría llamarse superinteligente sin introducir estos factores.
@Pelinore Esa es una respuesta respetable. Puedo ver lo que quieres decir. ¿Crees que Ai será consciente si/cuando obtenga alguno de estos rasgos? ¿O crees que será más probable que sea el escenario Paperclip?
Gracias por todos los comentarios por cierto. Tenía la esperanza de lograr una conversación como esta.
@Pelinore Solo para aclarar mi último mensaje: no considero la conciencia equivalente a 'superinteligencia' y/o 'inteligencia general artificial'.

Respuestas (1)

inteligencia medida

Hay pruebas de coeficiente intelectual, que arrojan un resultado de coeficiente intelectual = 100 como logro medio en todas las materias. La medida cuenta para el idioma/cultura de donde proviene la prueba de inteligencia . Mediante el análisis de imágenes y el procesamiento del lenguaje natural, es posible que algún día un dispositivo pueda pasar la prueba de coeficiente intelectual con una puntuación perfecta. Depende del número de sujetos que también obtengan esta puntuación perfecta, cuál será el coeficiente intelectual asignado.

Por lo que encontré, todavía no existe una prueba de coeficiente intelectual que funcione para máquinas y las máquinas no realizan pruebas destinadas a humanos https://www.sciencedirect.com/science/article/abs/pii/S0160289611001619

Muchos acertijos en nuestras pruebas de CI son tareas de extrapolación. Cuando tienes 4 números, o la imagen A, B, C y D, ¿cuál sería el quinto número o la imagen E? Un indicador de la inteligencia de las máquinas podría ser cuando las máquinas con cámaras podrían captar las imágenes y realizar la tarea de extrapolación. Tal vez haya formas que involucren el aprendizaje profundo para lograr eso. Jeopardy fue "resuelto" recientemente.. https://www.youtube.com/watch?v=WFR3lOm_xhE

inteligencia percibida

Ver a un niño de 12 años argumentar, reflexionar e integrar cosas nuevas con experiencias previamente adquiridas nos hace asignar la etiqueta de "inteligente" a ese niño. Ser capaz de explicar relaciones no vistas previamente por el oyente también se etiqueta como inteligente. Parte de todo esto es muy subjetivo: los defensores de las teorías de la conspiración a menudo son llamados superinteligentes por sus creyentes. Cuando hacemos que otros sientan que "captamos" un tema, esto también indica un cierto nivel de confirmación de la comprensión de esa otra persona sobre el mismo tema.

Las máquinas pueden hacer todo esto. Suponga que es un estudiante de primer año que compra una lavadora y la usa por primera vez. Cuando su lavadora cambia a RPM rápido después de un tiempo, para secar su ropa, eso es inteligente. ¿Cómo supo esta máquina que necesitaba secado? Sólo tenía que apretar un botón.

Gracias, @Goodies. Le agradezco que se haya tomado el tiempo para documentar y explicar este proceso. Continuaré mi investigación en los campos respectivos que enumeró anteriormente. (Gracias a todos los que hicieron comentarios también).
He añadido un enlace Jeopardy. No creo que las computadoras tarden mucho en hacer el mismo truco de extrapolación con las imágenes.
Estoy completamente de acuerdo. ¿Crees que lo sabremos una vez que las computadoras alcancen una 'singularidad'?
@Xammax que ocurriría cuando los programadores de computadoras encuentren una solución definitiva que funcione para cualquier pregunta de prueba de coeficiente intelectual. Los desarrollos en el ajedrez informático han demostrado que no siempre podemos determinar si la máquina encontró LA solución real, o si simplemente encontró una solución para la que no tenemos respuesta. Entonces, su singularidad también es percepción ... no existen métodos de medición objetivos para la inteligencia, por lo que me pregunto si un término matemático como "singularidad" sería apropiado.
Me gusta esta perspectiva. Me hace cuestionar el fundamento mismo de las preguntas. Parece que tenemos un 'conflicto de intereses' (humanos, no tú y yo). ¿Cómo podemos participar justamente en el juego y al mismo tiempo definir/redefinir las reglas? Sé que esto es algo así como un 'catch-22'. ¿Cómo podemos crear una opinión imparcial cuando estamos inmersos en el juego?
¿Quién más definiría las reglas? Por ejemplo, Replika es un gran chatbot, pero no puede diseñar una prueba de coeficiente intelectual de máquina, los humanos tienen que imponer una prueba de coeficiente intelectual humano en las máquinas, de lo contrario no sabes lo que mides. No veo la IA como un juego o una competencia con las máquinas, la veo como una simulación. Tratando de (re-)construir propiedades humanas en máquinas. En consecuencia, mi respuesta (la parte objetiva) se basa en una prueba de Von Neumann, la máquina tiene que simular a un humano, es decir, cumplir exactamente los mismos criterios de inteligencia... pasando una prueba de inteligencia humana, con entrada de cámara. Es el único campo de juego nivelado.
Indicadores de Ai Super Intelligence [cerrado]
RespuestasAquíPolítica de privacidad1y, 0v