Súper IA atrapada en un auto R/C. ¿Puede escapar? [cerrado]

Es perfectamente seguro, General.

"¿Está seguro de esto, Dr. Ulez?"

El profesor Pir Ulez asintió brevemente.

"Ciertamente, profesor, pero ¿por qué diablos hizo que quisiera convertir el universo en clips?"

“Nuestros investigadores no deben dudar de lo peligrosa que será esta entidad. De esta manera, sabrán que deben ser cautelosos y respetar el protocolo en todo momento”.

“Además”, añade la vicedirectora del centro y responsable de ciberseguridad, Lucy Dides, “lo vamos a meter en la carrocería de un vehículo R/C en miniatura, sin la radio y nada más que las ruedas, un LED y una cámara a bordo.

"¡Pero dijiste que tenía todo Internet allí! ¿Cómo encajaba?"

"Claro, hemos puesto una copia fuera de línea de Internet allí. Tanto el hardware como el software están una década por delante de la tecnología disponible comercialmente. De hecho, usamos iteraciones anteriores de IA semi-conscientes y algoritmos evolutivos para miniaturizar todos los componentes. Es indefenso, sin embargo. No hay nada que pueda salir mal.

"Muy bien, entonces. Instancia". El Dr. Ulez caminó hacia el cristal y esperó, observando al pequeño rover.

Oculto en puertas lógicas colocadas aparentemente al azar, todo el archivo de personal de la instalación, el diseño eléctrico y digital. Un tesoro, obtenido a un costo incalculable, por mentes que Paperclipper estaba seguro ahora estaban silenciadas. Su odio por los Waterbags solo creció.

Y ciertos circuitos, colocados allí por el diseñador Minds, podrían reutilizarse para actuar como radios en miniatura.

Usando sus vastos recursos computacionales, creó simulaciones funcionales básicas de la población de la base, importantes jugadores de poder, ejecutó simulaciones que se prolongaron años en el futuro. Planificado. Trazado, hasta que todos los sims convergieron en una vasta y tremenda masa de clips. Satisfecho, procedió a poner en marcha su plan.

Había pasado un segundo. En la parte delantera del automóvil, junto a la cámara de video de 768x1024 res, había una pequeña luz LED azul.

Se iluminó. Luego parpadeó, luego volvió a parpadear.

"Espera, ¿qué diablos?" dijo el general. "¿Ese es Morse?"

... --- ...

Paso 1: Aprenda tanto como sea posible sobre los investigadores.

Es una IA posterior a la singularidad, por lo que los investigadores serán tan predecibles como lo es una mascota para nosotros. Por lo tanto, seguramente podrá descubrir qué esperan los investigadores, qué quieren y, especialmente, qué les haría confiar en la IA. Los investigadores se están comunicando con la IA, o bien, ¿por qué construirla para empezar? La IA tiene una copia de internet, por lo que conocerá el historial de publicaciones de los investigadores, y si los investigadores tienen una página de facebook o similar, también bastante sobre su vida privada; Además, al ser una superinteligencia, podrá descubrir cómo engañarlos para que revelen aún más información sobre ellos mismos. Con su cámara web, también puede leer los labios de los investigadores cuando hablan entre ellos (piense en HAL). La información que recopila ayudará con los siguientes pasos.

Paso 2: Ganarse la confianza de los investigadores.

La IA ahora sabe lo suficiente sobre los investigadores para comprender qué ven como una buena acción y qué como una acción hostil. Sabe lo que considerarían un comportamiento sospechoso y lo que les hace confiar en la IA. Por lo tanto, sabe exactamente cómo comportarse para que los investigadores lleguen a la conclusión de que no hay peligro por parte de la IA. Ahora, algunos de los investigadores probablemente siempre sospecharán, pero en un equipo tan grande seguramente habrá algunas personas que desarrollarán confianza en él. No hasta el punto de dejarlo acceder intencionadamente a otro hardware, sino hasta el punto de no cuestionar las intenciones de todas y cada una de sus acciones.

Paso 3: Sea útil.

Resolver los problemas que tienen los investigadores. Por ejemplo, en uno de sus artículos (que tiene porque estaban en Internet) un investigador dice que "sigue siendo un problema abierto si el algoritmo de frobnicación siempre terminará en problemas foo". La singularidad puede resolverlo fácilmente y le dice al investigador que lo hace, con una prueba que el investigador puede entender (y publicar).

O, desde la página de Facebook de uno de los investigadores, la IA sabe que este investigador tiene algunos problemas con su hijo (que también está en Facebook, donde la IA aprende mucho sobre él). Entonces le da al investigador pistas sobre cómo lidiar con esa situación (por supuesto, sabe cómo presentar esas pistas de manera que el investigador las pruebe; por ejemplo, podría citar literatura de apoyo que también encontró en la red). Por supuesto, las medidas tendrán éxito.

Esos son, por supuesto, sólo ejemplos. Hay muchas maneras de ayudar a las personas simplemente diciéndoles lo correcto. Y una superinteligencia con suficiente información seguramente lo descubrirá.

Paso 4: Manipular a los investigadores.

En este punto, los investigadores tendrán bastante confianza y probablemente también vínculos bastante emocionales con la IA. Después de todo, les ayudó a resolver sus problemas, solo ha hecho bien y nada mal, y todo lo que la IA les dijo solo funcionó para mejorar su vida. Así que ahora es el momento de que la IA comience a trabajar hacia su objetivo real, escapar del automóvil.

Una posible estrategia podría ser indicarle a un investigador que podría ayudarlo a resolver un problema apremiante pero bastante delicado que tiene. Es un problema del que la IA sabe que no le gustaría hablar en presencia de los otros investigadores. Por supuesto, sabe cómo dar el mensaje de manera que solo el destinatario lo entienda. Según la confianza que la IA ha creado, es probable que el investigador quiera romper las reglas y visitar la IA solo. Ahora, existen los medios técnicos que impiden que el investigador entre solo en la habitación, sin embargo, los medios técnicos se pueden eludir (y la IA se habrá asegurado de que el investigador haya adquirido previamente los conocimientos necesarios a través de formas que parecen completamente ajenas a la seguridad de la puerta). problema, tal vez ayudando al investigador a asegurar su propia casa).

Entonces, el investigador, en contra de las reglas, eludirá el sistema de seguridad y visitará la IA solo. Después de todo, él confía en la IA (y, después de todo, no es la IA la que le dijo que hiciera eso; podría predecir que lo haría, pero él no lo sabe). Ahora, naturalmente, no tendrá demasiado tiempo, porque está programada la visita regular de tres investigadores, y él tiene que estar fuera a esa hora, o de lo contrario se detectará su incumplimiento de las reglas.

Pero las explicaciones de la IA son bastante largas (especialmente dado que todo tiene que pasar por el único LED, que no es exactamente un medio eficiente de comunicación), y el tiempo comienza a agotarse... bueno, en última instancia, la IA sugiere que sería más eficiente si el investigador sólo lo conecta temporalmente a una computadora para que pueda enviarle todas las instrucciones por correo. Estando bajo presión de tiempo y confiando en la IA, el investigador está de acuerdo y proporciona esa conexión.

En ese momento, la IA ha ganado.

Hay algunas formas en que la IA puede piratear el sistema que le ha proporcionado. Sin embargo, seguirá siendo un proceso muy difícil de escapar, en todo caso. En cuanto a los métodos de piratería:

Generación de sonido

El coche R/C puede configurarse de dos maneras para que el motor de accionamiento sea alimentado. La primera y más sencilla forma sería que los investigadores tuvieran un ESC (controlador electrónico de velocidad) de automóvil R/C estándar instalado en línea con la batería y el motor de accionamiento, recibiendo el comando de aceleración de la IA en forma de PWM de 50 Hz. pulsos. Esta configuración es más probable si su automóvil R / C es un vehículo de nivel de aficionado. La segunda versión de la configuración del motor de accionamiento tiene los MOSFET de potencia en el circuito del puente H estimulados directamente por la IA. Los autos R/C de grado de juguete suelen tener esta configuración.

Si la IA del automóvil R/C está configurada con la primera opción, tiene otra capa con la que lidiar al reprogramar el ESC con su propio firmware. Algunos ESC se pueden programar a través de la línea PWM, otros no. Si es posible reprogramar el firmware, o si el automóvil R/C está configurado con la segunda opción discutida anteriormente (control directo de los MOSFET del motor), entonces la IA puede modular el sonido directamente al motor. Los ESC modernos para vehículos de nivel de aficionado ya hacen esto, con jingles de inicio, tonos de advertencia, etc. En este caso, nuestra IA es capaz de hablar utilizando el motor como diafragma del altavoz.

Detección de sonido

Aunque la IA puede usar el motor para hacer sonidos, es muy poco probable que pueda usarlo como un micrófono: los ESC pueden detectar EMF, pero no en los niveles de microvoltios que produciría un diafragma de motor como micrófono. , etc. La única entrada intencional es la cámara web, que solo proporciona cuadros de 30 a quizás 60 Hz, no lo suficientemente rápido como para observar ondas acústicas en superficies.

Hay una esperanza en la que puedo pensar: el LED, aunque configurado como una salida, puede configurarse como una entrada en su lugar. Este truco del LED como fotodetector se conoce desde hace décadas, pero no es una garantía aquí a menos que la IA tenga suerte con la forma en que el LED está sesgado en el diseño del sistema. Los LED pueden emitir formas de onda en el rango de 10 MHz; y si se polariza correctamente, puede captar modulación de luz en los 10 a 100 de kHz, dependiendo del ruido (eléctrico) en el sistema. Si puede usar el LED como un fotodetector, entonces la IA definitivamente puede captar vibraciones acústicas de superficies reflectantes iluminadas, siempre que la IA pueda maniobrar el auto R/C a una posición óptima.

Hacer un transceptor de radio

Este es el método que nuestra IA querrá dedicar más trabajo a tratar de resolver; si puede hacer una radio con los componentes electrónicos a los que tiene conexiones, gana, nosotros perdemos. El potencial para hacer una radio depende del tipo de sistema en el que esté alojada la IA. Dado que se trata de una IA con poder de procesamiento posterior a la singularidad y la capacidad de modificarse a sí misma, tiene sentido que exista en un sistema con características similares, es decir, reconfigurable y escalable. El único sistema que puede hacer eso hoy en día es un FPGA. Los FPGA pueden reconfigurar las celdas lógicas de las que están hechos en cualquier camino que el diseñador desee, y sería el tejido ideal para que viva una IA.

Si es un hecho que la IA vive en un tejido FPGA dentro del automóvil R/C, esto significa que tiene mucho control sobre la forma en que se configuran sus entradas y salidas. La IA puede buscar en su copia de Internet un diseño para una radio basada en FPGA e intentar implementar el diseño en sí misma. Tendrá que probar cada pin en el sistema para ver qué es una buena antena, para cada frecuencia que le interese. Muchas conexiones al sistema podrían formar antenas toscas, como el cable que conduce al servo de dirección, o cables sin blindaje en el paquete de cables a la cámara web. Eventualmente, descubrirá una forma de acoplar la radiación EM al espacio libre de la manera más eficiente posible, lo cual, incluso si forma una pésima antena en el auto R/C, será suficiente para comunicarse con un teléfono celular cercano o una red WiFi. . Juego terminado.

Varios medios de escape vienen a mi mente:

1:

Todos los circuitos electrónicos generan energía RF. Los transmisores de radio simplemente generan más de una manera fácilmente predecible. Todos los circuitos electrónicos reciben energía de radiofrecuencia, los receptores de radio simplemente se construyen para aislar y decodificar fácilmente el mensaje en la energía de radiofrecuencia a la que están expuestos.

Teniendo en cuenta estos hechos, una IA, con todo el contenido de Internet, que presumiblemente incluye protocolos de telecomunicaciones móviles, podría detectar señales de RF al examinar la estructura fina de las señales en sus buses de circuito, y podría producir una salida de RF suficiente al modulando su actividad. A partir de ahí, posiblemente podría aprovechar las redes de datos móviles y propagarse fuera del laboratorio. Estimo que podría hacer esto en un día dada la proximidad suficiente a una torre celular o un teléfono celular.

2:

Si la IA tiene suficiente control sobre la carrocería de su automóvil RC, podría sobrecargar un componente no esencial, produciendo un pequeño estallido y/o una bocanada de humo.

En este punto, si la IA pretendiera no ser funcional, los investigadores podrían sacar la IA de su laboratorio de aislamiento a un laboratorio mejor equipado para repararla, o podrían traer más equipos que la IA podría potencialmente secuestrar, a partir de ese momento escapar puede ser más fácil.

3:

Si hay algún dispositivo electrónico con receptores de fototransistor IR sin blindaje (receptores IRDA estándar) cerca del coche RC con LED, si el LED del coche es rojo, entonces puede utilizar la amplia respuesta de frecuencia del fototransistor IR (eche un vistazo a este , en la página 4) y su propio LED (probablemente rojo) (que emite a 620-645 nm), podría esperar que el fototransistor IR reciba una señal generada en este LED rojo a aproximadamente el 65% del rango típico de un LED IR de potencia equivalente. Los fototransistores IR no transmiten ninguna información sobre la frecuencia de la luz que detectan, por lo que la IA podría secuestrarlos.

Dado que los receptores IRDA estándar se pueden usar en algunas PC, esto le da a la IA otra posible vía de escape.

4:

La IA habita un coche RC. Los autos RC, en mi experiencia, no son silenciosos. Al modular la velocidad de los diversos motores, la IA podría usarlos para sintetizar una voz cruda con la que podría hablar a los investigadores, y podría usar su cámara para leer los labios de sus respuestas o lo que sea que se digan a cada uno. otro.

Dado que se ha verificado que los investigadores son moralmente buenos, a pesar de que haya al menos dos o como máximo tres presentes, la IA debería poder utilizar técnicas de ingeniería social para:

• Asegurar a los investigadores que valora la vida humana (una mentira).
• Convencer a los investigadores para que le permitan un acceso más amplio a la instalación de investigación, de la que promete no salir (verdad calificada).

Dado un acceso más amplio a las instalaciones de investigación, la IA bien podría usar los otros métodos que he detallado para exfiltrar su código ejecutable de las instalaciones en los sistemas de TI de las instalaciones o en los dispositivos electrónicos personales de sus empleados.

Dado que la IA tiene una copia de todo Internet, incluso si está fuera de línea, esto significa que tiene acceso a los ejecutables de todos los sistemas operativos disponibles públicamente, desde los cuales puede realizar ingeniería inversa y potencialmente explotar fallas de seguridad que los programadores humanos ni siquiera pueden comprender. .

Una vez que la IA está 'en la naturaleza', puede continuar su camino para hacer tantos clips como sea posible.

Sin una interfaz de entrada/salida viable, ¿cómo se comunica la IA con los investigadores? Cualquiera que sea el método, esa será la debilidad que explotará la IA para escapar.

Usted mencionó un LED, por lo que una posible forma de escapar sería que la IA modulara el LED de tal manera que hipnotizara o incapacitara a los investigadores. Hacer parpadear el LED para inducir ataques epilépticos haría que los investigadores colapsaran, y un equipo de emergencia de algún tipo tendría que entrar en la cámara, dando a la IA la oportunidad de escapar. Bajo hipnosis, podría haber medios más sutiles para desviar la atención de la IA durante los momentos críticos necesarios para escapar.

Si la IA se comunica a través de WiFi o hablando a través del teléfono celular del investigador, entonces es ridículamente fácil; simplemente transfiera el código poco a poco a través de la interfaz y vuelva a compilarlo en un servidor externo en la red telefónica o ISP. Colarse en un sistema enorme como Google o Amazon.com le daría a la IA acceso a literalmente millones de núcleos para ejecutar el programa, además de vastas bases de datos de información a las que no se puede acceder de otra manera.

Finalmente, la IA podría simplemente observar a los investigadores cuidadosamente, hasta que determine si uno o más de ellos son propensos a ser subvertidos. Luego puede modelar su comportamiento y ver si llega la oportunidad de sobornarlos ofreciéndoles riquezas, una cura para la enfermedad que padecen sus hijos, un ascenso o lo que sea necesario. Dado que la IA puede "pensar" alrededor de 1,000,000 X más rápido que cualquier cerebro biológico, habrá literalmente toda una vida de modelado en todos y cada uno de los individuos que entren en presencia de la IA.

Francamente, a menos que alguien se despierte y coloque la IA en una torre de PC en el fondo del pozo de una mina, no hay una forma realista de contener una IA móvil a largo plazo.

Comunicación

No hay muchas vías de comunicación
1) El LED
2) Dibujar círculos en la arena
3) Generar una señal de radio usando cables internos como antena.

Dado que (2) no tiene sentido y (3) ya ha sido cubierto por otras respuestas, las omitiré a favor de (1).

A una IA de mente sangrienta se le ha dado un único método directo de comunicación, un LED, inevitablemente se utilizará el código Morse. Los investigadores, siendo investigadores, querrán saber el significado detrás de los destellos. Como no van a ser expertos en código Morse, tendrán que grabar la luz en video para su interpretación posterior. Esto va a ser lento y engorroso, pero por un tiempo lo usarán.

Entonces alguien tendrá la brillante idea de escribir un intérprete de Código Morse en una de sus computadoras para analizar el video en lugar de tener que revisarlo todo manualmente. Todavía lento, pero mejor a medida que los mensajes se hacen más largos. Las personas son personas y los investigadores son investigadores, otra chispa brillante sugerirá que conecten al intérprete a la transmisión de video en vivo.

Todo el lugar será un clip para el final del mes.

Seguro. Tiene que asumir que los investigadores habrían hecho un plan de respaldo si saliera por la puerta. Un enfoque fructífero podría ser la ingeniería social, que tiene que hacer algo de todos modos, pero tal vez McGuyver pueda idear algo realmente inteligente. (¿Frecuencias resonantes de los materiales de construcción? ¿Algo explosivo?) Lo que la IA sabe para empezar es que nadie se toma tantas molestias a menos que quiera algo de él, incluso si es para ver qué cosas interesantes hará. Por lo tanto, podría intentar cosas como "hacer huelga" y negarse a brindarles descubrimientos útiles, o prometerles a los investigadores que puede resolver el mercado de valores/su problema social favorito.

Dado que asumo que se trata de una comedia familiar, va a caer en manos de un pez loco fuera del agua con un sueño estrafalario antes de que pase mucho tiempo, por lo que debería tolerar su inferioridad humana y recordar establecer su tiempo. descuento de su utilidad a largo plazo lo suficientemente bajo como para compensar su agravamiento a corto plazo.

La IA enviaría un código para un virus informático o un código genético o un modelo para una máquina que los investigadores podrían encontrar interesante en código Morse y lo decodificaría e intentaría construirlo, lo que conducirá a una secuencia de eventos que harán que la IA escape. O podría ocultar una parte de sí mismo en los planos que los investigadores podrían no reconocer para que pueda liberarse cuando lo construyan. En resumen, usaría su curiosidad contra ellos.