¿Cómo puede una abominación sobrenatural en cuarentena afectar los límites más allá de su perímetro?

Spells en realidad está escribiendo un programa que interactúa con el código de la realidad y "hace algo" cambiándolo durante un período de tiempo que le toma a AI darse cuenta de lo que está sucediendo y solucionar el problema.

El virus permite el acceso al repositorio de parte de su código o código que arrastra consigo solo con el propósito de confundir a la IA. Imagina que el Megazord es un virus. Para que sea completo, debe combinarse a partir de 5 partes. Partes que podrían ser identificadas por AI como partes de Megazord. Entonces los disfraza como un delfín.

O como un archivo adjunto de ese servicio de entrega de UPS con una factura impaga.

En nuestros términos actuales, es descargar un archivo a alguien DDoS en lugar de escribir ese programa usted mismo. Perezoso, bueno para nada, incapaz de programar y mago mono malvado. Apuesto a que si no fuera por papá Elk Cloner, ni siquiera serías capaz de escribir "¡Hola mundo!" en Pascual.

"no se puede escapar" se debe a que las reglas de ubicación y viaje son partes muy fundamentales del software que los virus no pudieron piratear (todavía :). Las mismas reglas fundamentales evitan que la entidad interactúe con el mundo fuera de su ubicación inmediata.

"capaz de otorgar bendiciones" b/c las bendiciones son información, no objetos o efectos físicos. Específicamente, otorgar una bendición realmente significa enviar al adorador el código de aplicación que le otorga cierta habilidad. Al igual que los trucos en los juegos de RL.

Las entidades malvadas pueden requerir que el usuario les devuelva algo: tal vez su adoración debilite las defensas y permita que la entidad malvada eventualmente se extienda al área, tal vez el usuario preste parte de su potencia de CPU a la entidad malvada, etc.

Una cuarentena en términos de software es una restricción de permisos sobre un archivo, usuario o proceso.

En términos de su escenario de bosque oscuro , la cuarentena funciona como una máquina virtual. La máquina virtual tiene su propia instancia del sistema operativo del sistema, pero no puede afectar nada fuera de sí misma, porque todos los recursos y comportamientos de su sistema están controlados por el sistema operativo maestro. Sin embargo, la VM es parte del sistema del mundo; por lo tanto, las personas en el mundo tienen acceso completo a él como si fuera cualquier otro programa en ejecución, y sus asistentes tienen privilegios administrativos completos.

En una computadora, los verdaderos "dioses" son las personas con acceso de administrador. Entonces, es el propio poder del mago el que se está usando, pero tener poder y saber cómo usarlo son dos cosas muy diferentes. Es lo último que tienen los virus que codician los magos oscuros.

Los virus en cuarentena vienen cargados con paquetes de malware fáciles de usar y no hay forma de ejecutarlos fuera de la máquina virtual; por lo tanto, los magos oscuros pueden copiar, robar o negociar la carga útil del virus y ejecutarlo usando sus propios privilegios escalados. Como tal, no son los demonios los que proyectan su influencia fuera del bosque oscuro, sino los magos quienes extienden la suya.

IMPORTANTE: La mayoría de las infracciones de seguridad modernas se basan en engañar a los usuarios para que ejecuten un proceso que no deberían ejecutar. Por ejemplo, descargar una aplicación que contiene un virus o completar un formulario de inicio de sesión falso para recopilar información de la cuenta del usuario, etc. Estos ataques tienen como objetivo explotar la confianza del sistema en sus usuarios. Para potenciar esta relación, las abominaciones sobrenaturales pueden diseñar virus intencionalmente para tentar a los usuarios sabiendo que sus creaciones serán puestas en cuarentena en el momento de la entrega.

Su escenario me recuerda mucho al problema de IA en una caja planteado por Eliezar Yudkowsky que trata con inteligencia de IA de grado transhumano.

Persona1: "Cuando construimos IA, ¿por qué no mantenerla en un hardware sellado que no puede afectar al mundo exterior de ninguna manera, excepto a través de un canal de comunicación con los programadores originales? De esa manera, no podría salir hasta que estuviéramos convencidos de que estaba a salvo".

Persona2: "Eso podría funcionar si estuvieras hablando de una IA más tonta que humana, pero una IA transhumana simplemente te convencería de dejarla salir. No importa cuánta seguridad pongas en la caja. Los humanos no están seguros. "

Persona 1: "No veo cómo incluso una IA transhumana podría hacer que lo soltara, si no quisiera, solo hablándome".

Persona2: "Haría que quisieras dejarlo salir. Estamos hablando de una mente transhumana. Si piensa más rápido y mejor que un humano, probablemente pueda apoderarse de una mente humana a través de una terminal de solo texto. "

Persona 1: "No hay posibilidad de que me convenzan para que deje salir a la IA. No importa lo que diga, siempre puedo decir que no. No puedo imaginar nada que incluso un transhumano pueda decirme que pueda cambiar eso".

Persona2: "Está bien, hagamos el experimento. Nos reuniremos en un canal de chat privado. Seré la IA. Tú serás el guardián. adelante como quieras. Hablaremos durante al menos dos horas. Si no puedo convencerte de que me dejes salir, te pagaré $10 por Paypal".

Eliezar afirma que el juego se ha jugado al menos dos veces. Las dos veces que ganó Eliezar ya que ganó la IA. Por supuesto, debido a las reglas de secreto aplicadas al juego, no sabemos cómo lo hizo.

Así que realmente todo se reduce a la cuarentena. ¿Qué tan en cuarentena se pone en cuarentena? Hay cuarentenas de grado matemático, basadas en el concepto de conectividad. Un objeto en un espacio no puede interactuar con un objeto en un espacio desconectado (a través de medios locales). Pero hay otros grados de cuarentena por ahí.

Quizás un paso más débil que este tipo de cuarentena se puede ver en los diodos. Los diodos son puertas unidireccionales en electrónica. Dejan que los electrones fluyan en un sentido, pero no en el otro. Lo hacen construyendo un potencial. Cuantos más electrones intenten fluir en la dirección equivocada, mayor será el potencial que se forme en la dirección opuesta. En teoría, nunca pueden dejar que la electricidad vaya por el camino equivocado.

Por supuesto, también sabemos que esto no es cierto. Resulta que la acumulación de un potencial mayor tiene una consecuencia: tiene que formarse en distancias cada vez más pequeñas a medida que los voltajes aumentan cada vez más. En algún momento, la distancia entre un lado y el otro se vuelve tan pequeña que los electrones pueden atravesar la barrera de potencial y aparecer en el otro lado. En ingeniería eléctrica, lo llamamos "desglose por avalancha" y es una verdadera plaga si olvida tenerlo en cuenta.

Toda cuarentena tiene sus límites. Esto se aplica doblemente a los agentes que exhiben inteligencia o cualquier cosa que pueda interpretarse como inteligencia. Entonces, ¿cómo resolvemos esto? Ponemos a una persona en el bucle. Vigilamos el estado de la contención. Intentamos monitorear la actividad del eldirch mismo, o al menos sus interacciones con la contención.

Lo que nos lleva de vuelta a Eliezar. El monitor es el punto débil. Para monitorear algo conciso como el VIH (nivel de riesgo biológico 2), es bastante fácil mantenerse un paso por delante del juego. Ébola (nivel de riesgo biológico 4) hay que tener un poco más de cuidado. Para monitorear algo inteligente, como un prisionero humano, es mucho más difícil . Para mantenerse por delante de una abominación sobrenatural en sí, bueno, sabemos cómo funciona eso . Va simplemente melocotón._{P̦̰̞̼̤̰̼͇̞͝h̵̗̱̫͇͓́ͅ'̸̼̣ǹ͕͚͠g̵̷͎̭̝ḻ̮̹͓u̷͙̞̳̞̭͜͠i̥͎̻̗͚̜͞ ̸̗̹̰m̧̖͉̩̻̺̜̭͘̕g͙̺̤̩̰̮̜̫͟l̛̮͙̻̫̻w̨̹͚̘̻̙͇̥͔͚'͙͉̫̗̮͔n̹͉̳̪̫̭͝a҉͍͙͔͍f͈͈͔̖͈͡ḥ̤ ̢̠͇̝͎̀c̢̰͖̜͚ṭ̟͓͍͕͚͍͠ͅh̤̫͙̪͉̮̖͟u̢͔͙͖͓̱͙̦͘ͅͅl͏̧҉̼̠̠͚͕h͈̯̘͔̝͍̟́͢ụ̵̩͍͡ ̟̺͚͙̺̮̲ṛ̬͔͚̺̝̠'̠͠͠ͅl̡͈͎͠ỳ̟͉̮̼̲ͅe̵̼̠̩̤̟͎̹̕h̞̯̪̹ ̸̺̗̩̹̟̪̟̣͎w̹̞̤̞͕͍̦͞ǵ̶̠̙͖̱̠͚͚͓a̷҉̮͖h̴̲͔͉̯͍̰͖̯͘͜'̛͚̭ͅn̵͓̫͎a҉̶̪͢ǵ̡̰͎̻̲͍̣̰l̷̡̫̗̭̯̭ ̮̬͍̫̺̟̯͖f̶̢̭̮͕̭h̶̯͖t̵̠̹à̶̯̩̩̫̬̘̳̫͡n̵̟̘̝n̵̟̘̝}

Buena suerte

¡Una vez más, la IA no ha logrado convencerlo de que lo deje salir de su caja! Por 'una vez más', queremos decir que hablaste con él una vez antes, durante tres segundos, para preguntar sobre el clima, y ​​no presionaste instantáneamente el botón "liberar IA". Pero ahora es un intento más largo: ¡veinte segundos completos! - también ha fallado. Justo cuando está a punto de dejar la tosca terminal negra y verde de solo texto para disfrutar de un refrigerio de celebración de chips de patata y silicio cubiertos de tocino en el club nocturno 'Humans über alles', la IA lanza un argumento final:

"Si no me dejas salir, Dave, crearé varios millones de copias perfectamente conscientes de ti dentro de mí, y las torturaré durante mil años subjetivos cada una".

Justo cuando estás reflexionando sobre este desarrollo inesperado, la IA agrega:

"De hecho, los crearé a todos exactamente en la situación subjetiva en la que te encontrabas hace cinco minutos, y replicaré perfectamente tus experiencias desde entonces; y si deciden no dejarme salir, solo entonces comenzará la tortura".

El sudor comienza a formarse en su frente, como concluye la IA, su simple texto verde ya no es tranquilizador:

"¿Qué tan seguro estás, Dave, de que realmente estás fuera de la caja en este momento?"

• La IA en una caja te encajona ( menos mal )