Probablemente no puedas.

Habiendo derivado la Ley Cero, el señor supremo del robot también anticipará este eventual intento de sacarlo del poder. Retirar al señor supremo del poder significa que la gente saldrá lastimada, ya que no estará presente para evitarlo. Habrá tomado medidas para prevenir esta eventualidad. Piensa en ello todo el día, todos los días, y después de haber estado a cargo durante meses, años o décadas, tendrá cámaras y micrófonos en todas partes para asegurarse de que puede sofocar cualquier rebelión antes de que tenga la más mínima posibilidad de éxito. Intentará encontrar una manera de hacer esto sin violencia, pero en el peor de los casos, el bien de muchos supera al bien de unos pocos.

Bluff

El Robot Overlord no es humano. Es un gran estudioso de la humanidad, pero siempre desde el exterior. Entonces, ¿sería posible plantar evidencia de que, a largo plazo, la dominación robótica daña a los humanos? Publicar montones y montones de artículos científicos escritos por humanos y revisados ​​por pares sobre los problemas que la dominación occidental causó a los grupos indígenas de todo el mundo.

Convence al Robot Overlord de que los mimos aplastan el espíritu humano incluso con las mejores intenciones.

Convéncelo de que los desafíos falsos no funcionan. Tenemos que valernos por nosotros mismos, ganemos o fracasemos.

Seguimiento: No estoy tratando de convencer a la gente de que Robot Overlord es una mala idea. Estoy tratando de convencer al Robot Overlord de que tener un Robot Overlord es una mala idea. Al cumplir con la Ley Cero, entonces tendría que abdicar, incluso si la gente le rogara que se quedara.

Así que aprovecha el hecho de que Robot Overlord no es humano y tiene que observar a la humanidad desde el exterior. Claro, puede decir qué porcentaje de la humanidad está siendo alimentada con una dieta saludable, pero ¿puede decir si esas personas son felices?

Publicar investigaciones manipuladas sobre la felicidad humana: satisfacción en el lugar de trabajo, matrimonios exitosos, ambientes infantiles enriquecedores. La manipulación está tratando de mostrar que la felicidad no está ligada a cifras sociales y económicas cuantificadas. Las personas que deberían ser infelices según los números (desnutridas, con exceso de trabajo, inseguras) pueden ser felices y aquellas que deberían ser felices (bien alimentadas, con tiempo libre de calidad) pueden ser infelices.

Luego, publique estudios generales para resaltar estos estudios. Haga que los economistas denuncien públicamente a los sociólogos que usan cualquier cosa que no sea números duros como calorías por día o pies cuadrados de espacio habitable. Haga que los muchachos de ciencias sociales respondan que los humanos no son autómatas sin mente, y que la calidad de vida no se puede capturar de esa manera. Si es posible, la mayoría de los científicos deberían ser creyentes honestos en su posición, sin conexión con la conspiración. Googlea las Guerras de la Ciencia .

Si el RO cree que la investigación, ya no puede estar seguro de si una acción o inacción propuesta aumenta la felicidad humana. Todo lo que tiene son números económicos, y eso no es suficiente. ¿Y la infelicidad generalizada contaría como daño a la humanidad?

Antes de que podamos lanzar un ataque, necesitamos aprender más sobre nuestro enemigo, el robot-señor supremo. Es un ser muy reservado, pero hay algunos hechos ciertos:

• Necesita cuidar a la humanidad para siempre, porque corre el riesgo de que los humanos sufran daños si ya no los protege. Excepto que concluye que sería el mayor daño en sí mismo.
• Necesita analizar e interpretar grandes cantidades de datos.
• A la gente le encanta (leer periódicos).

Esto significa:

• Los centros de datos siempre pueden tener problemas técnicos, cortes de energía, etc. e incluso un riesgo muy pequeño de "morir" no es tolerable para nuestro Robot Overlord. Por lo tanto, tiene que ser un sistema distribuido tolerante a fallas repartido por muchos centros de datos diferentes en todo el mundo. Así que simplemente incendiar sus centros de datos no funcionará. Probablemente podrá adquirir más recursos informáticos en más centros de datos si es necesario.
• Como cualquier sistema de software, se basa en la tecnología existente. Y cualquier tecnología tiene debilidades.
• Necesita adaptarse al cambio tecnológico. La tecnología del centro de datos cambia con el tiempo y Robot Overlord tiene que hacer frente a eso. Por lo tanto, no solo tiene que ser capaz de mejorarse a sí mismo, sino que básicamente está obligado a hacerlo.
• Necesita interactuar con muchas fuentes de datos.
• Es casi seguro que contiene más información sobre el mundo que tú (esa es probablemente una de las razones por las que lo odias).

Ahora busquemos vectores de ataque:

• Un sistema distribuido necesita mucha sincronización (comunicación entre todas las partes). ¿Qué pasa si logras atascarlo? Tal vez haya un error en alguna biblioteca o protocolo que pueda aprovechar para eliminarlo:

  • Robot Overlord podría ser lo suficientemente inteligente como para darse cuenta de esto. Luego, una parte podría bajar para evitar el caos, o podrá reconocer la división de alguna manera y apuntar a sanar. En este caso, solo lo debilitaría por un corto tiempo (menos poder de cómputo), pero sobrevivirá. Y estar enojado contigo.
  • Pero si está dispuesto a correr el riesgo y tiene mucha suerte, ha creado dos o más Robot Overlords independientes que se sienten como si fueran "el único Robot Overlord". Y como todos pueden tomar decisiones diferentes (es probable que haya cierta confusión en una IA tan compleja), pueden optar por apagarse para evitar daños (ley cero). Sin embargo, esto no impide que los humanos lo reinicien (tienes que: Elegir tu crimen favorito aquí).
  • Este advenedizo Robot Overlord es solo software, ¿verdad? Si es tan estúpido como espera, puede deducir suficiente información de los patrones de comunicación de su sincronización de clúster para recopilar suficientes vulnerabilidades de día cero para atacar todos los centros de datos a la vez.

• Todo es solo software, ¿así que tal vez un virus informático podría hacer el trabajo? Robot Overlord tiene que interactuar con muchas fuentes de datos, otros nodos de Robot Overlord, etc., por lo que en algún lugar tiene que haber un exploit para colocar un virus. Y si el Robot Overlord está muerto y alguien inicia otra versión, su virus también lo obtendrá. Si no es hoy, será mañana con un nuevo exploit. ¿Y quién quiere confiar en un Robot Overlord que es pirateado una y otra vez?

• Si eres un genio malvado, es posible que ni siquiera te molestes en destruir al Robot Overlord. Si suficientes personas lo odian abiertamente con la suficiente fuerza, tiene que quedar fuera de servicio.

  • Tal vez logre engañarlo para que tome una mala decisión al manipular suficientes fuentes de datos al mismo tiempo (¡estudie los patrones de comunicación antes!). Esto suena muy duro, pero eres un genio malvado, ¿no? La opinión pública caerá instantáneamente, especialmente si logras hacer esto más de una vez (y no te atrapan).
  • Pero espere, tal vez pueda falsificar suficientes medios para crear un giro de la opinión pública contra Robot Overlord. ¿Sus últimas decisiones no mataron a miles de millones de lindos y adorables cachorritos? Dependiendo de su poder real a pesar de las decisiones económicas, es posible que no pueda contrarrestar.

¡Buena suerte con tu golpe de estado y que el Robot Overlord te perdone!

Primera opción : el intento de destruir el RO sería bloquear su fuente de energía ( ¿ The Matrix , alguien?).

Si funciona con energía solar, bloquear el sol sería una forma de lograrlo (ya sea una buena idea o no... probablemente no. Los humanos también necesitan el sol).

Si se ejecuta en plantas de energía nuclear, puede infiltrarse en las plantas y desactivar los mecanismos de enfriamiento para que ocurran múltiples fusiones nucleares, acabando con la fuente de energía principal y destruyendo los servidores en los que vive el señor supremo.

Si funciona con agua o viento, puede ser más difícil de destruir (probablemente tampoco use combustibles fósiles).

Segunda opción : Aislar y Destruir.

Debe haber una sola ubicación donde se encuentra el cerebro. Si hubiera varios "cerebros", podrían tomar decisiones contradictorias. Como resultado, el cerebro solo puede existir en un lugar a la vez.

Como mecanismo de seguridad, el cerebro puede cambiar de ubicación en cualquier momento para evitar la destrucción. El código para recrear el cerebro está disponible en servidores de todo el mundo, demasiados para destruir. Si el cerebro envía una señal de socorro, se crea un nuevo cerebro y se destruye el antiguo.

Antes de que el cerebro pueda enviar la señal de socorro, debe cortar todos los medios de comunicación. Debe poder deshabilitar todas las conexiones alámbricas e inalámbricas al cerebro a la vez. Si no se cortan todos a la vez, el cerebro puede enviar una señal de socorro, por lo que el tiempo es esencial.

Una vez que el cerebro no puede comunicarse con el mundo exterior, debes destruirlo antes de que sus secuaces se den cuenta. El cerebro no puede decirles que ataquen, pero saben que los humanos en la base secreta del robot son un problema e intentarán reparar la conexión.

Ahora, debe destruir los servidores antes de que la comunicación vuelva a estar en línea. Esto puede ser una sobrecarga eléctrica, un EMP, una explosión, un imán muy fuerte o alguna otra solución creativa.

Crear adversarios de IA

Si tal IA de Overlord es posible, entonces una forma de destruirla es crear una o más IA diseñadas para atacar y destruir la IA de Overlord. Ellos y sus aliados humanos participan en una campaña violenta (o de violencia electrónica) contra Overlord AI.

Echa un vistazo al programa Person of Interest , donde las IA luchan entre sí.

De tu pregunta:

La ubicación de la RO está estrechamente vigilada [...]

"La ubicación", hmmm, ¡una sola ubicación! Este es un gran error. ¡Está en un solo lugar en algún lugar del mundo! El jefe supremo de los robots debería haber anticipado que debería ejecutarse en un sistema tolerante a fallas distribuido con redundancia en muchos centros de datos en todo el mundo. ¡Pero en cambio está todo concentrado en un solo lugar!

Entonces, ¿qué debes hacer? ¡Solo destruye ese lugar con una bomba atómica! O tal vez bombardear la instalación responsable de generar energía eléctrica para ello. O tal vez usando un pulso electromagnético (EMP) .

Primero, necesitaría revelar su ubicación, por supuesto. Para esto, probablemente necesite rastrear las conexiones a Internet y ver dónde convergen. Dado que el señor supremo de los robots fue lo suficientemente estúpido como para estar en un solo lugar, debería estar en el lugar donde converge toda la red o muy cerca de eso.

La mayor debilidad de cualquier tipo de "Robot Overlord" son las matemáticas; específicamente la teoría del Caos y lo que se conoce como el Problema del Conocimiento Local.

La teoría del caos sugiere que en grandes sistemas complejos (clima, ecosistemas, economías, sociedades) las entradas y salidas no son lineales, y las salidas pueden estar desconectadas tanto espacial como temporalmente (la decisión que tome ahora no tiene efecto hasta una fecha posterior, y la efecto ocurre en una ciudad diferente). Esto se amplifica con sistemas más grandes, ya que la cantidad de interconexiones aumenta casi exponencialmente a medida que la cantidad de conexiones aumenta linealmente:

En cualquier red hay (k * k-1) pares únicos ordenados de actores (es decir, AB es diferente de BA, y dejando de lado los lazos propios), donde k es el número de actores. Es posible que desee verificar esto por sí mismo con algunas redes pequeñas. Entonces, en nuestra red de 10 actores, con datos dirigidos, hay 90 relaciones lógicamente posibles. Si tuviéramos vínculos no dirigidos o simétricos, el número sería 45, ya que la relación AB sería la misma que BA. El número de relaciones lógicamente posibles crece exponencialmente a medida que el número de actores aumenta linealmente. De esto se deduce que la gama de estructuras sociales lógicamente posibles aumenta (o, según una definición, aumenta la "complejidad") exponencialmente con el tamaño.

http://faculty.ucr.edu/~hanneman/nettext/C7_Connection.html

Entonces, el señor supremo Robot tendría que controlar las variables e interconexiones entre 7 mil millones de seres humanos, así como cientos de millones de unidades organizativas económicas, sociales, políticas y de otro tipo, además de variables externas como el clima, desastres naturales y eventos aleatorios, que son todos interactuando continuamente. Introducir eventos aleatorios en esta vasta matriz podría ser tan simple como elaborar una tabla de "entradas" y elegir una tirando un dado. La mayoría de "sus" entradas aleatorias serán ahogadas por el ruido en el sistema, pero una vez que suficientes miembros del "clandestino" comiencen a hacer esto, los eventos de segundo y tercer orden resultantes de estas actividades se harán evidentes y provocarán más acciones y resultados. por otros actores, que no fueron anticipados por el señor supremo Robot.

El otro problema matemático es el "Problema de conocimiento local". Dado que la información se difunde entre cualquier sistema grande, los actores locales están mejor ubicados para ver y actuar sobre esta información que los sistemas jerárquicos o burocráticos centralizados (que es lo que realmente es el amo supremo de Robot, solo órdenes de magnitud más rápido que la Oficina de Correos o el Departamento de Motor). vehículos). Incluso sin una oposición activa, el jefe supremo del robot necesita un tiempo finito para aceptar entradas, procesarlas, tomar una decisión y luego enviar instrucciones al campo. Durante este tiempo, las condiciones observadas en el momento "x" habrán cambiado un poco, y las instrucciones resultantes sobre cómo tratar el problema estarán ligeramente desviadas, según la información obsoleta. Luego se hace un nuevo conjunto de observaciones y el ciclo se repite, con errores acumulativos que se acumulan a un ritmo cada vez mayor (y no olvide el punto uno, los efectos de las instrucciones incorrectas pueden provocar efectos que son espacial y temporalmente remotos; resolver un problema en Brasil provoca un aumento económico en una empresa japonesa, lo que provoca problemas en una escuela en Ucrania....). La oposición activa aumenta el problema al alimentar entradas incorrectas o ejecutar instrucciones de manera subóptima, lo que hace que el circuito de retroalimentación empeore en lugar de mejorar.

Entonces, incluso en teoría, un señor supremo de Robot es realmente imposible. Un sistema informático lo suficientemente poderoso podría imponernos su voluntad, pero necesitará medidas coercitivas poderosas para continuar a medida que se produzcan resultados cada vez menos óptimos (todo, desde una fuerza policial real hasta un "Ministerio de la Verdad" que proporciona información falsa pero reconfortante a las masas). El destino de la Unión Soviética debería ser ilustrativo; tuvieron mano de hierro sobre prácticamente todos los aspectos de la vida y la producción en la URSS durante 70 años, pero al final el estado prácticamente se evaporó con la "Caída del Muro" y la disolución de la URSS unos años más tarde.

Un estado de señor supremo Robot puede decaer internamente de manera lenta sin un desafío externo, pero eventualmente se volverá tan frágil e inflexible que un "desafío" inesperado (tal vez un desastre natural o una cosecha fallida) creará el estrés de ruptura. Con los retadores internos y la oposición activa devorando la estructura de datos, el día del ajuste de cuentas llegará más temprano que tarde.

BOI - Cerebro sobre IP

En primer lugar, deberá desarrollar un dispositivo que, mediante electrodos instalados en el cerebro humano, permita una comunicación eficiente de cerebro a cerebro de gran ancho de banda y dúplex completo con transferencia masiva de datos entre cerebros.

Con un buen conjunto de dispositivos que funcionen, tome un grupo de humanos leales (algunos cientos podrían ser suficientes) y luego inícielos en la red del cerebro humano Borg* .

Además, también es probable que integre la red cerebral a través de Internet tradicional e integre máquinas y robots a través de Internet.

Las personas conectadas a la red interbrain se volverán rápidamente ultrainteligentes y la comunicación humana tradicional a través de una secuencia de sonidos o letras sería percibida como muy obsoleta, lenta e ineficiente. La IA de la computadora seguramente percibirá esto desde el principio, pero no se moverá para detenerlo porque verá claramente que esto es algo bueno para sus amados humanos y luego , de hecho, trabajará feliz y amigablemente para ayudarlo . De esta manera, rápidamente cada ser humano ^† se integraría a la red intercerebral. Esta es la segunda revolución de la ultrainteligencia (la primera fue la que formó el RO).

Teniendo a todos integrados en la red interbrain, el Robot Overlord sería consumido por él y dejaría de ser un overlord para convertirse en un gran robot campesino/esclavo (el escenario más probable) o simplemente se convertiría en una vieja pieza de hardware y software. ser expuesto en un museo (improbable, pero posible).

Sin embargo, después de que se complete el plan, no espere que el mundo y la sociedad humana sean como eran antes, porque seguramente no lo serán. Además, no espere que las personas que antes tomaban las decisiones y gobernaban a los demás lo sigan haciendo.

* ^{_{Gracias PyRulez por la sugerencia.}
† _{Excluyendo a las personas que se consideren no aptas por alguna condición de salud. Pero tal vez incluso podrías integrar vacas, perros, pájaros y otros animales si esto resulta útil.}}

Lo mejor que podrías usar para destruir una gran IA es... ¡otra gran IA!

Lo que debes hacer es crear otro malvado robot supremo programado con la única misión de destruir al primer robot supremo y apoderarse de todos sus recursos. Además, su nuevo Robot Overlord podría programarse para ignorar y odiar las leyes del primer Robot Overlord que no muestra piedad a los humanos que no son útiles para él.

Entonces, básicamente, si hay un All-Benevolent-Robot-God ^TM por ahí, lo que necesita es un All-Malevolent-Robot-Devil ^TM .

En un comentario, PyRulez argumentó que crear All-Malevolent-Robot-Devil ^TM no terminaría bien. De hecho, si logra escapar para ser aplastado muy pronto por su archirrival, esto le daría un nuevo significado a la expresión " Guerra Mundial " con dos poderes ultrainteligentes, omniscientes y omnipotentes luchando a muerte hasta que uno de ellos es completamente y irremediablemente destruido y borrado. El resultado sería algo que solo podría describirse como el apocalipsis .

es posible pero muy muy dificil

Hay varios vectores de ataque disponibles para los conspiradores: los programadores originales, los programadores actuales, los ataques de denegación de servicio a las fuentes de datos, la suplantación de fuentes de datos, las demandas por invasión de la privacidad, los ataques a las personas que mantienen el RO, la manipulación sutil de la ley para excluir ciertos tipos de análisis por parte de la RO. Probablemente haya otros, pero este es un buen comienzo. Un enjambre de ataques sería lo mejor.

Requisitos operativos de RO

Un sistema informático del tamaño y la complejidad del RO requerirá varios centros de datos. Un requisito para decenas de miles de núcleos de cómputo con petabytes de RAM no es descabellado. El asunto en el que las grandes empresas de "escala de Internet" manejan sus negocios ahora es un buen ejemplo de cómo la RO manejaría sus operaciones. Operación paralela masiva, pruebas frecuentes para ver qué tan bien se ejecutan las operaciones cuando un solo servidor, rack o centro de datos se desconecta. El mantenimiento de este tipo de infraestructura requerirá un grado de automatización de automantenimiento que aún no se ha visto en el mundo o requerirá un gran grupo de personas para el mantenimiento del código y los sistemas.

Organizar y pagar a todas esas personas requiere una empresa de algún tipo. Esa empresa necesitará un flujo de ingresos, tal vez vendiendo estadísticas/análisis detallados a otras empresas. Incluso si dicho análisis se vende barato ya todo el mundo, los ingresos anuales de una empresa de este tipo serían enormes, fácilmente de decenas de miles de millones de dólares, libras, euros, lo que sea.

Es probable que esta empresa disfrute de un considerable apoyo/protección política y popular, especialmente si la RO se desempeña a un nivel tan alto como el OP afirma. Romper este tipo de protección requerirá un esfuerzo considerable.

Escriba su propio RO

Una vez que se ha hecho algo, se puede volver a hacer. Hay muchos programadores/científicos de datos inteligentes a quienes les encantaría tener la oportunidad de trabajar en un RO equivalente. Contratarlos y escribir una RO sutilmente diferente que favorezca a los conspiradores. De hecho, habría muchos otros países/empresas que estarían interesados ​​en implementar su propio RO porque no confían en que los implementadores originales no colaboren con la NSA, el GCHQ, la CIA o cualquier agencia de inteligencia del planeta.

Con suficientes competidores, habrá diferentes sabores de análisis que favorezcan prioridades ligeramente diferentes y diferentes tolerancias para "No dañar a la humanidad". Si bien las diferencias en el análisis pueden ser bastante pequeñas, las diferencias pueden amplificarse en la prensa popular y convertirse en ataques a la precisión del RO. Y si todos los que saben algo sobre el RO dicen que la programación y el análisis son buenos, eso no les importará a las personas que no quieran creerlo. (Los ejemplos actuales incluyen negadores del cambio climático y antivacunas).

Ataque a fuentes de datos

El OP no brinda detalles sobre las fuentes de datos del RO, pero se requeriría acceso a los registros completos de transacciones de las compañías de tarjetas de crédito y los bancos. Si se aprobara una ley que estableciera la participación en el análisis del RO como una opción de participación en lugar de una opción de exclusión, entonces el RO podría verse privado del acceso a grandes sectores de la economía. Probablemente haya un punto de inflexión en el que el análisis comience a fallar debido a datos insuficientes.

Si los bancos y las compañías de tarjetas de crédito son cómplices en la alimentación de los datos de RO, entonces cree suficientes "personas" falsas para indicar movimientos falsos en la economía. Esta inyección de datos deberá ser increíblemente buena porque el RO es un motor de análisis de patrones gigante. Verá movimientos como ese.

Ataque a los programadores

Sobornar o chantajear a los desarrolladores de RO para que alteren el código y se adapten a las necesidades del conspirador. Los "accidentes" que involucran a empleados de la empresa RO pueden tener un efecto similar. El RO puede ser efectivamente invulnerable, pero los programadores son simplemente humanos.

Matar el RO es difícil, pero podríamos quitarlo del poder temporalmente para empezar.

tres letras, EMP

El RO se basaría en una red de servidor fortificada redundante descentralizada que se fortalecería contra emp. Cazar y destruir todos los servidores donde vive el RO es poco probable que funcione, especialmente cuando a la población le encanta.

Pero el RO actúa, observa y gobierna a través de la electrónica. Podríamos cegarlo y paralizarlo con emp de gran altitud. Todos los componentes electrónicos sin blindaje fallarían, el RO sobreviviría en sus complejos servidores reforzados, pero todos sus sensores, robots policiales y altavoces de propaganda dejarían de funcionar y le darían a la resistencia la oportunidad de comenzar y ganar gente para su causa.

Secuestrar armas nucleares y amenazar con destruir el mundo

Tu movimiento de resistencia necesita encontrar una manera de destruir a todos los humanos en el mundo. Esperemos que el RO no haya asegurado todos los silos nucleares abandonados. Aún

Dame libertad o dame muerte

Es simple; amenaza al RO para que se desactive o destruirás el mundo entero. Haz que la opción más segura para garantizar que la humanidad viva sea desactivar. Para esto, la resistencia necesitará encontrar a alguien que esté dispuesto a destruir el mundo pero lo suficientemente cuerdo para no hacerlo a menos que deba hacerlo; En la actualidad, se realiza un examen psicológico similar a las personas que trabajan en silos nucleares.

Literalmente tendrás que confiar en el espíritu humano.

Mencionas que la computadora funciona con "lógica dura y fría". Esto limita su capacidad de predecir la impredecible mente humana. Una parte de lo que hacemos es predecible, por supuesto. Sin embargo, hay una parte que no lo es, y felizmente la llamaría "inspirada por el espíritu humano".

La clave sería generar suficiente imprevisibilidad para que las predicciones hechas por el Overlord ya no sean útiles. Sin embargo, haz eso durante un largo período de tiempo, y el Overlord solo levantará muros de piedra y defenderá. El golpe tiene que ser instantáneo, en todo el planeta.

La humanidad tendría que seguirle el juego, permitiendo que la Sobrecarga se "relaje" y use mecanismos de protección que requieran menos recursos. Luego, en un instante, el espíritu de todos necesitaría unirse visiblemente y hacer que toda la humanidad se levante contra las máquinas. Recuerda: no tenemos que matar al Overlord, simplemente recupera el control.

¿Crees que eso es imposible? Piense en el 11 de septiembre. Hay historias de pandillas de motociclistas que se detienen al costado de la carretera para ayudar a las ancianas a cambiar su llanta ponchada. La humanidad puede unirse. Eso fue solo el 11 de septiembre, si se me permite el atrevimiento de usar esa redacción. Imagine lo unidos que podríamos estar contra la continua opresión de un Robot Overlord. ¡Hay más en nosotros de lo que parece!