¿Cómo evitar que las personas creen nanobots de IA manipuladores?

Ambientada en el futuro donde hay al menos una impresora 3D en cada hogar, la demografía de la población muestra el envejecimiento en todas partes del mundo. En este futuro, muchas élites tienen poderosos nanobots de IA funcionando dentro de sus cerebros para ayudarlos con la toma de decisiones, así como para estar informados sobre los eventos actuales relevantes que suceden en el mundo en este momento. Estos diminutos nanobots no pueden replicarse por sí mismos y deben imprimirse en 3D. Por lo general, las personas de mayor estatus social a menudo son manipuladoras y probarán métodos encubiertos, como alimentar involuntariamente a sus trabajadores o esclavos con nanobots para escuchar a escondidas y monitorear sus actividades diarias para chantajearlos a su debido tiempo. Ha habido un rumor durante algún tiempo sobre los ricos y poderosos que usan nanobots de IA para controlar la corporación, e incluso toda la nación.

inspirado en el basilisco de Roko ;D

Gracias, debido a su última línea, ahora sé de dónde proviene el nombre del personaje "Roko Basilisk" en el webcomic questionablecontent.net . :D
¿Impresión 3D a nivel molecular? No lo creo en el corto plazo. ¿Y qué tiene que ver con esta pregunta "la demografía demográfica muestra el envejecimiento en todas partes del mundo"?
Esto no tiene nada que ver con el comercio acausal que es el mecanismo de Roko Basilisk.
@Christian: tienes razón, no puedo usar roko porque no puedo pensar en una manera de motivar a la IA para torturar humanos; D
No son nanobots, pero están lo suficientemente relacionados como para ser de interés .

Respuestas (4)

Les falta el diseño. Les falta el código. Carecen del hardware.

La impresión 3D de un nanobot es más que simplemente imprimir. En primer lugar, necesita el hardware adecuado. Las impresoras 3D se pueden comprar en los supermercados en estos días, pero hay un mundo de diferencia entre una impresora doméstica y una impresora comercial que cuesta muchos miles de dólares más.

Si tuviera que imprimir en 3D una pistola en la impresora de su hogar, lo más probable es que se vuele los dedos o la cara. Una imprenta comercial puede imprimir un arma de mejor calidad que se pueda disparar de manera segura.

A continuación, necesita el diseño. Los ricos tienen equipos de diseño de ingenieros y pueden gastar miles de horas de trabajo y recursos incalculables para construir y probar.

Finalmente necesitas el código. Un nanobot necesita programación además de un cuerpo. Los ricos pueden permitirse comprar los mejores programadores y software. Los pobres pueden, en el mejor de los casos, descargar algún código pirata del que realmente no saben qué hace o si está cargado con malware. Lo más cerca que pueden hacer los pobres para competir es con hardware, diseños y códigos robados que modifican y esperan lo mejor.

Los diseños y la programación no son necesariamente un problema; siempre hay Open Source y Open Hardware. OTOH, de hecho, existe una gran diferencia entre las impresoras 3D que pueden hacer cosas a gran escala y las impresoras 3D que pueden imprimir productos electrónicos modernos.
@Matthew, sin duda requeriría una persona bastante valiente para poner un nanobot de IA de código abierto/hardware en su cerebro. Si así fueran las cosas, puede esperar que el FBI/CIA tenga su dedo en ese pastel, sin mencionar todos los otros problemas que tiene la comunidad de código abierto...
@Matthew La mayoría de los diseños de hardware de primer nivel para la mayoría de los dispositivos electrónicos modernos no son de código abierto. Y no lo será hasta que sean irrelevantes. Estamos hablando de planos de conjuntos de chips de NVIDIA aquí, no de controladores de NVIDIA (que de hecho han sido de código abierto para una mejor interoperabilidad).
@Gnudiff Los controladores NVIDIA de código abierto desarrollados por la comunidad tienen un rendimiento notablemente inferior al de los controladores de código cerrado desarrollados por NVIDIA.
@Michael es cierto, pero ni siquiera estamos hablando de controladores, excepto por el contraste. El diseño de los nanobots es similar a los planos de los conjuntos de chips, no a los controladores de los conjuntos de chips.
¿Qué te impide construir un dron? Nada. ¿Qué te impide construir un dron militar? Falta de hardware (impresora 3D para chasis, CNC para diseño de circuitos, máquina de colocación automatizada para agregar chips y resistencias, etc. y las piezas en sí), falta de software (canales de comunicación seguros, pruebas exhaustivas, etc.), preocupaciones legales. Dado que es probable que un nanobot se pierda en acción, necesitará muchos de ellos. Incluso entonces, es probable que los ricos tengan escáneres que verifican las señales salientes de los nanobots dentro de sus cuerpos y pueden realizar controles aleatorios en los empleados en busca de dispositivos similares.
@Michael ¿No se debe principalmente a que NVIDIA intenta ocultar información al equipo de código abierto?
No me lo creo: la historia está plagada de desvalidos que ganan a los "grandes". Cualquier cosa, desde la Revolución Americana (los británicos "pffft, no son una amenaza"), hasta Dell Computer + otros (¿IBM notó siquiera el comienzo de su caída?). Estoy pensando más como una especie de maravilla creando nanobots para buscar y destruir nanobots... hmmmm.
@gszavae todo lo contrario, sería muy valiente, o incluso tonto, poner un nanobot de código cerrado en tu cerebro. ¿Cómo sabrías lo que realmente hace una vez que está ahí arriba? ¿Cómo se mantiene a salvo una vez que dejan de proporcionar parches?
Muchos de ustedes están perdiendo el punto. La gente no se los mete en la cabeza. Los ricos y escondiéndolos en su comida/agua. Ellos no tienen elección. Los ricos ejecutan código personalizado que poseen y controlan. No necesitan código abierto.
@ njzk2 Desafortunadamente, ambas cosas son ciertas para el código abierto. ¿Quién exactamente está investigando todo el software de código abierto y escribiendo sus propios parches? Incluso para proyectos extremadamente bien utilizados, eso es un gran problema. Implicar que solo los proyectos de código cerrado sufren este problema no es cierto.
@gszavae para su primer punto: muchas, muchas más personas que están investigando proyectos de código cerrado, por definición.
@ njzk2 Eso no es correcto. Muchas más personas podrían estar examinándolos, pero afaik no ha habido estudios que realmente lo demuestren. Han existido errores horribles dentro de los proyectos de código abierto, y eso ni siquiera habla de vulnerabilidades deliberadas. Muchos programas de código abierto se basan en "oh, pero cualquiera podría leer la fuente" y no tienen esquemas sólidos de prueba y validación. Muy, muy pocos usuarios leerán alguna vez la fuente, casi nadie (si es que hay alguien) examinará la fuente. Es una ventaja teórica, eso es todo.
Caso en cuestión de @gszavae: Abrí un informe de error hace un par de días en una biblioteca que uso, y después de haber podido analizar con precisión lo que estaba sucediendo, puedo sugerir una resolución y posiblemente proporcionar la corrección. Por otro lado, no puedo hacer la mitad de los errores encontrados en las bibliotecas de código cercano.
@njzk2 Arreglar un error está muy lejos de auditar un programa. Trate de entender lo que está insinuando; "Arreglé un error una vez, por lo tanto, el código abierto está a salvo de errores y malicia"? ¿En qué mundo tiene eso sentido? Hemos tenido tantos casos de proyectos de código abierto que no solo tienen errores gigantescos sino también puertas traseras intencionales. Sé que estás discutiendo ideales, no pragmática, pero en algún momento tenemos que traerlo de vuelta a la realidad.
Lo más probable es que el software en esa etapa sea escrito por AI. La gente simplemente no podrá leerlo de todos modos.
@gszavae es solo un ejemplo, y de ninguna manera una demostración, pero ilustra que el código abierto brinda a los usuarios la posibilidad de sumergirse en el funcionamiento interno de una pieza de código y colaborar para mejorarlo. No se puede decir nada por el estilo del código cerrado.
El código cerrado de @njzk2 no se basa en pruebas y depuración ad-hoc
@gszavae Nunca dije que sí. A menos que esté insinuando que el código abierto lo haría (¿de dónde sacaría esa idea?), No estoy seguro de qué hacer con su comentario.
@ njzk2 el escenario que describió no es normal para el código cerrado porque existen otras soluciones más sólidas.
@gszavae, ¿el escenario en el que se descubre un error en un programa de código cerrado no es normal? ¿Dónde dice en código cerrado que hay soluciones particulares, robustas o no, en su lugar?

Prohibido por las impresoras 3D

Tome algo de dinero e intente escanearlo o imprimirlo. Su máquina no le permitirá hacer esto. Hay protección específica para evitar eso, la más famosa es la constelación de EURion . Su impresora 3D tendrá una protección similar, detectando que intenta imprimir un nanobot.

Gran cantidad de datos para enviar y procesar

Piense en los coches autónomos. Recopilan toneladas de datos y necesitan procesarlos rápidamente. Generan Terabytes de datos. El cerebro es incluso más complejo que un automóvil, por lo que será de varias magnitudes más alto. Sus nanobots no son lo suficientemente rápidos para procesar tantos datos, los envían a una computadora central, que procesa estos datos. Pero eso puede ser detectado, y por lo tanto regulado.

Esta es mi respuesta favorita: utiliza la tecnología existente para impedir la falsificación para extrapolar una limitación intencional en las impresoras 3D de consumo que no se puede eludir sin destruir las máquinas (o requiere un nivel de experiencia poco común entre la población en general).
@JBH: pero esa protección es solo como un candado de bicicleta: previene el crimen casual. Un criminal muy decidido puede encontrar una forma de evitarlo. Uno podría escribir su propio firmware para ejecutar la impresora o el escáner, por ejemplo.
@vsz Un criminal muy decidido (no para señalar con el dedo, pero digamos, :-) los súper ricos ) puede sortear todos y cada uno de los sistemas defensivos. No existe tal cosa como la protección perfecta. Podríamos usar alguna aclaración del OP, pero sospecho que el crimen casual es de lo que está hablando. (¿El firmware de prohibición de escaneo es hoy en día? Solía ​​​​ser obligatorio como grabado en el chip para que no se pudiera cambiar trivialmente).
@JBH: de hecho, no se puede leer y cambiar de manera trivial, pero siempre se puede escribir un nuevo software desde cero. Si los voluntarios pueden escribir un sistema operativo completo en su tiempo libre, un software de controlador de impresora no es tan descabellado.
@vsz pero es por eso que originalmente se quemó en el chip. No podría ser reescrito por un joven ingeniero emprendedor. Tuvo que ser completamente reemplazado por la fabricación y la cadena de fabricación tenía reglas impuestas (si mal no recuerdo, reglas penales, fue en los años 90 cuando miré por última vez) que fundamentalmente detuvieron esto en todos los casos, excepto en los más determinados. Francamente, me sorprendería si la capacidad de no falsificar dinero fuera simplemente una cuestión de empresa/software. Tendrías estudiantes universitarios en cada campus produciendo billetes de $20.
@vsz Sin embargo, esto plantea otro punto, si no recuerdo mal, los fabricantes de impresoras también debían evitar por completo la gama de colores utilizada por los billetes anteriores a los colores. En otras palabras, hay varias formas en que el OP podría imponer este requisito. Haga que los nanitos dependan de una aleación particular de titanio y luego controle completamente la venta de ese titanio, por ejemplo. Entre las dos restricciones, se necesitaría un criminal muy decidido para hacer los pequeños bocinazos.
@JBH: quemado no significa que no se pueda sobrescribir. En la mayoría de los chips, hay bits de bloqueo que impiden la lectura, pero no la escritura. E incluso si el chip de alguna manera solo se puede escribir físicamente una vez (lo que evitaría las actualizaciones de firmware), uno podría comprar un nuevo microcontrolador. Y si eso resulta ser imposible, simplemente desoldar el microcontrolador y conectar otro. (como una corteza de gama alta, eso es más que suficiente para implementar un software, para mover los motores de la impresora).
Puedes buscar en internet, hay gente que cambió el firmware de su impresora y escáner para que varíe la frecuencia del motor de forma que suene una canción. Hay implementaciones del videojuego Doom para impresoras.
@vsz Me disculpo, parece que no entendiste. En los años 90, los chips fueron literalmente diseñados y quemados para prohibir tales cambios. (Recuerde que está hablando con un ingeniero eléctrico). No estoy hablando de FPGA, arreglos de puertas o cualquier otro tipo de firmware o memoria. Me refiero a que los chips de control no tienen la capacidad de reconocer los colores (en el escaneo o en la impresión) de modo que no pueden (punto) replicarse. No tiene sentido ninguna otra solución. Los estudiantes de secundaria podrían superar la limitación.
@JBH: mi punto era que no tienes que reprogramarlo o replicarlo. Puedes simplemente eliminarlo. Y maneja la mecánica con tu propio controlador. Es mucho más sencillo construir su propio controlador que fabricar las partes mecánicas de la impresora.
@vsz Es mucho más simple construir su propio controlador que fabricar las partes mecánicas de la impresora. Me temo que necesito dejar esta conversación. No sabe lo suficiente sobre el diseño de chips, la fabricación y la modificación de placas de circuito impreso para hablar de esto. Los componentes mecánicos de una impresora 3D suponen quizás el 20 % del coste y el esfuerzo de fabricación. Los engranajes son fáciles.
@JBH: deja de hacer suposiciones sobre lo que sé y lo que no sé. Pareces malinterpretar deliberadamente lo que digo. ¡No me refiero a diseñar y fabricar un chip personalizado! Me refiero a comprar un microcontrolador existente y desarrollar mi propio firmware para que controle todas las partes mecánicas. Y ni siquiera estaba hablando de impresoras 3D. Construir una impresora de inyección de tinta o una calidad adecuada desde cero en casa no es más fácil que simplemente escribir software. Pero sí, conectar un microcontrolador diferente podría ser una solución extrema. Hay formas más fáciles: youtu.be/R6k72DI0Qo0?t=32

Tamaño del cabezal de la impresora. Una impresora con un cabezal lo suficientemente pequeño para manejar correctamente la producción a nanoescala no está disponible para el público. ¿Por qué las corporaciones alguna vez venderían impresoras con un tamaño tan pequeño? El público rara vez necesitará ese nivel de detalle en su impresora.

Forma y funcionamiento del cabezal de la impresora. La forma del cabezal de la impresora (y los tubos de alimentación), así como su funcionamiento, pueden limitar los materiales que puede manejar. Es probable que estas impresoras tengan docenas, si no cientos, de cabezales de impresión diferentes, y el que tiene la forma y las funciones correctas para imprimir nanobots (maliciosos) simplemente falta o siempre es un "error de producción".

Materiales no disponibles. Los nanobots son más a menudo moléculas específicas que se acercan a funciones biológicas. Si los materiales correctos no se venden al público para construir las versiones avanzadas, no puedes construirlas.

Plantillas no disponibles. Las impresoras 3D necesitan una plantilla para trabajar y saber qué construir. Es un poco difícil diseñar un enjambre de nanobots en funcionamiento capaz incluso de una pequeña tarea, y mucho menos la complejidad mágica que requiere docenas, si no cientos, de variantes de nanobots en enjambres para funcionar.

Limitaciones de software + hardware de computadora. La construcción maliciosa de nanobots provoca errores deliberados, lo que hace que sea imposible construirlos a menos que pueda construir su propio software y hardware de computadora para solucionar los problemas. ¿Cómo vas a construirlo? Bueno, es probable que dependa de esta impresora 3D que le está dando errores cada vez que intenta construir las piezas que desea...

Comprobaciones de software. Todas las impresoras están conectadas a un concentrador central. Si te detectan haciendo nanobots específicos, obtienes un viaje a través del sistema de justicia.

Sabotaje de nanobots. Todas las impresoras 3D públicas vienen con nanobots instalados que escuchan la impresora 3D y su entorno. Se dan cuenta de que construyes nanobots que no se borran y dañarán la impresora 3D. Si los bots no alertan a las autoridades, un mecánico lo hará (aunque el mecánico podría pensar que solo está ordenando una pieza específica).

Para empezar, las impresoras que realmente pueden imprimir a escala atómica (en lugar de ensamblar macromoléculas existentes) son increíblemente caras. Además, casi todas las impresoras de cualquier tipo están restringidas a diseños preaprobados o variaciones de alto nivel de estos. Los diseños deben tener la identificación del fabricante con marca de agua, no pueden contener ninguna autorreplicación, excepto en diseños muy específicos y rigurosamente examinados, y deben contener una serie de otras características de seguridad destinadas a restringir el uso indebido. Una impresora que puede evitar o falsificar las características de seguridad es extremadamente ilegal. Los únicos modelos legales "desenfrenados" son aquellos que realmente crean nuevas impresoras, nuevos diseños de bajo nivel, armas. . . Estos son controlados por las autoridades a niveles de paranoia que se asemejan a los métodos actuales para material nuclear e imprentas para papel moneda y documentos de identidad.

Recomiendo encarecidamente leer The Diamond Age de Neal Stephenson por lo que creo que puede ser una visión seminal sobre esto.

¿Cómo evitar que las personas creen nanobots de IA manipuladores?
RespuestasAquíPolítica de privacidad1y, 0v