¿Qué tan rápido podría una IA sin caja dominar el mundo? [cerrado]

Así que solía trabajar en un grupo de Unix/VMWare. Parte de mi trabajo requería enviar imágenes de una distribución de Linux específica a servidores en Alaska (de los 48 estados inferiores).

La instalación de la imagen en el servidor tomó alrededor de tres horas, incluida la personalización preconfigurada y automatizada. En realidad, la transferencia de la imagen tomó más de 6 horas. Conecté discos ya ocupados a la máquina virtual, pero hubo un problema con los archivos. Tuve que usar algunas utilidades integradas para buscar y verificar los distintos discos. Esto tomó fácilmente otras 3 horas.

Para una sola máquina.

Por ningún tramo de la imaginación podríamos ver una toma de control significativa de menos de 12 horas por parte de una IA; necesitaría encontrar, acceder, eludir los sistemas de seguridad y finalmente manipular muchos, muchos sistemas.

Bastantes sistemas de alta seguridad están física o lógicamente separados de Internet, lo que significa que son callejones sin salida para los ataques basados ​​en la red. Es razonable suponer que algunos sistemas gubernamentales en los que la IA estaría interesada en tomar el control estarían configurados de esta manera, y la IA tendría que encontrar un proceso más manual para solucionar estos contratiempos.

Además, todo esto supone que la IA está diseñada para ser un robot de seguridad/sombrero negro. Si no es así, ahora la IA tiene que buscar materiales de aprendizaje sobre intrusión y seguridad y varias utilidades/herramientas, y comenzar a estudiarlos. Nuestra IA estará limitada por la velocidad del procesador de su velocidad singular, ya que en este punto ni siquiera puede piratear un clúster en red tosco. ¿Alguna vez Chrome ha tardado en abrirse? Podemos saber con absoluta certeza que una IA que intente enseñarse a sí misma la seguridad y la IA tardaría muchísimo más que esto. Y lanzarle una supercomputadora se ha demostrado histórica y repetidamente que es una forma terrible de obtener ganancias (como la mayoría de los estudiantes de primer año de informática, incluso, probablemente sabrán).

Solo puedo comenzar a adivinar cuánto tiempo le tomaría a una IA aprender estas cosas, experimentar y refinar sus habilidades, pero no sería rápido. E incluso entonces no podrá rastrear suficiente información publicada para comprender intuitivamente cómo hackear, por ejemplo, el arsenal nuclear. Cada truco exótico y nuevo será un proceso de aprendizaje exótico y nuevo.

Podría seguir así, pero esta adquisición no será instantánea. Involucrará preparación, planificación y tiempo significativo para la ejecución.

Una cuestión que no ha especificado es qué tiene exactamente en mente la IA como "tomar el control".

Es posible que deshabilite los sistemas automatizados, los equipos de fabricación controlados por computadora y los sistemas de control, dejando a los operadores frustrados mirando la "Pantalla azul de la muerte" o el equivalente a una videograbadora parpadeando 12:00...12:00...12:00 ...12:00...

En su mayoría, esto requeriría corromper el código operativo para que las entradas o salidas no tengan sentido, por lo que, en teoría, podría hacerse con bastante rapidez una vez que la IA haya obtenido acceso a los sistemas. Antes de eso, durante la etapa preparatoria, habría creado gusanos para navegar por Internet e infiltrarse en la mayor cantidad posible de máquinas objetivo. Esto dañaría o paralizaría una gran parte de la economía civil, pero muchos de los sistemas más importantes serían cortafuegos o con espacios de aire, y no serían accesibles.

La IA podría correr el riesgo de su propia destrucción simplemente cerrando la red eléctrica y haciendo que todo se desconecte. Incluso los sistemas protegidos con UPS y generadores de respaldo solo podrán funcionar durante un tiempo relativamente corto después de eso (lo que significa que, a menos que la IA o su creador ya hayan desarrollado planes muy seguros para lidiar con esto, también se apagará). Esto prácticamente garantiza que la gran mayoría de los sistemas dejarán de funcionar y que los seres humanos de las sociedades tecnológicas se quedarán repentinamente varados y sin luces. Seguirá el caos masivo y las megamuertes.

Si tiene algo diferente en mente para "tomar el control", entonces la IA necesitará un programa de varios años para prepararse. La creación de gusanos y otro malware seguirá siendo parte del plan, pero la IA deberá realizar un estudio profundo de la historia humana, la economía, la política, las religiones, la sociedad, etc. IOT para que el malware corte efectivamente el acceso a los humanos y llevar a cabo cualquiera que sea el gran plan de la IA. Un plan completamente exitoso puede notarse por un breve parpadeo de las luces y el reinicio inesperado de millones de máquinas, pero la IA habrá implantado cambios sutiles en los sistemas y los resultados que verán los humanos, por lo que llevarán a cabo las órdenes de la IA. sin darme cuenta de lo que está pasando .

Esto también se puede hacer por etapas, con la IA gradualmente tomando el control de las redes y cambiando los resultados económicos, los resultados políticos, manipulando las redes sociales, etc., y fomentando gradualmente la introducción de nuevo firmware o programación en las redes no afectadas para permitir el acceso de la IA. La IA puede incluso crear corporaciones fantasma para construir nuevas granjas de servidores para expandir directamente sus propias capacidades.

Entonces, la respuesta dependerá del estado final deseado de la IA.

¿Da o toma? probablemente de 10 segundos a 10 minutos como máximo, no ha especificado cuál es la capacidad de la IA y solo basé esa línea de tiempo en qué tan rápida es la conexión a Internet entre las naciones del G8