¿Se adhieren los datos a las Tres Leyes de la Robótica?

Estoy tratando de pensar en los momentos en que Data rompió las Tres Leyes de la Robótica, pero no puedo pensar en ninguno fuera del episodio "Pistas" en Star Trek: The Next Generation .

Pero tampoco recuerdo ninguna mención de las Tres Leyes de la Robótica por parte de Data o Soong.

¿Pueden los datos romper alguna de las tres leyes de la robótica?

Estoy tratando de pensar qué regla rompió en Pistas: estaba mintiendo, pero luego un oficial superior le ordenó encarecidamente que mintiera, con la motivación de que mentir salvaría a la tripulación del barco.

Respuestas (8)

Los datos ciertamente NO siguen las tres leyes de la robótica.

Data es un oficial en servicio en las fuerzas armadas de la Federación, da y recibe órdenes. Si siguiera la Segunda Ley de la robótica, incluso el personal alistado podría obligarlo a seguir sus órdenes.

Data ignora la Tercera Ley, no podría haber actuado como lo hizo al final de Nemesis: había formas obvias y superiores de salvar a Picard sin arriesgar su propia existencia (un resumen completo está más allá del alcance de esta respuesta).

Por último, si asumimos (y creo que DEBEMOS, dado el contexto de las historias involucradas) que el término 'humano' en las leyes se cambiaría a 'ser sintiente' (o algo similar, para incluir Vulcanos, Andorianos, Telleritas, Oriones, etc.) Data no podía funcionar en sus tareas a bordo de la nave y seguir obedeciendo la Primera Ley.

El Enterprise es un buque de guerra. La tripulación lo dice explícitamente en TNG5x14: Conundrum , cuando olvidan todo menos su entrenamiento. El propósito mismo de la nave es explorar, buscar nuevas formas de vida y estar listo para volarles el infierno si son una amenaza.

Constantemente en la serie, Data se desempeña como oficial de operaciones. Esta posición es responsable (entre otras cosas) del análisis de situaciones tácticas y tecnología enemiga. Con frecuencia sugiere formas de inutilizar o destruir barcos enemigos cuando las tácticas o la tecnología estándar resultan ineficaces. Sus acciones ponen DIRECTAMENTE a la tripulación en peligro, y él ayuda a causar daño (y muerte, mucha muerte) a otros.

Los datos no son, y no pueden ser, un robot positrónico al estilo de Asimov, o su cerebro positrónico se habría quemado hace mucho tiempo (posiblemente antes de que dejara la Academia).

Sí, un buque de guerra con guardería (suspiro)...
presumiblemente, los datos que no reciben órdenes del personal alistado PODRÍAN computarse como compatibles con la Segunda Ley, ya que hacerlo contradiría órdenes más importantes de ofertas superiores (específicamente, que un oficial no debe recibir órdenes de alistados)
= +1 para "explorar, buscar nuevas formas de vida y estar listo para volarles el infierno"
Además, si Sung creó cerebros positrónicos al estilo de Asimov, sería difícil incluir a Lore en la historia.
@DVK no es así. Eso solo funcionaría si las órdenes de los soldados fueran contradictorias con las órdenes anteriores de los oficiales. Si un hombre destacado le dijera que traiga una bebida cuando no está bajo órdenes que excluyen esa opción (es decir, órdenes que impiden hacer cualquier otra cosa hasta que se complete), tendría que hacerlo. La segunda ley convierte a los robots en esclavos, no pueden tener libre albedrío cuando se trata de tratar con humanos (y, por lo tanto, nunca pueden anular las órdenes de ningún humano).
@jwenting: supongo que un alistado que le ordena a un oficial que traiga una bebida viola las reglas sobre disciplina militar (aunque no soy un experto en las leyes de la Federación :))
"Por último, si asumimos (y creo que DEBEMOS, dado el contexto de las historias involucradas) que el término 'humano' en las leyes se cambiaría a 'ser consciente' (o algo similar, para incluir Vulcanos, Andorianos, Telleritas , Oriones, etc)" • Otra cosa que apoya esto es... (1/2)
... el hecho de que en el episodio The Most Toys , Data había a) dicho a Kivas Fajo que "he sido diseñado con un respeto fundamental por la vida en todas sus formas, y una fuerte inhibición de causar daño a los seres vivos", yb) disparó intencionalmente el arma Varon-T Disruptor a Fajo con el argumento de que "no puedo permitir que esto continúe", lo que demuestra que puede anular su programación en circunstancias excepcionales que requieran tal acción. (2/2)
Ahora me doy cuenta de que @Nick_T ya ha mencionado esto a continuación. Mi error. (3/2)
Pequeño detalle, pero Data casi nunca opera el timón. Es el oficial de operaciones.
"El Enterprise es un buque de guerra". No, no es. Todo lo contrario, y Starfleet se jacta cada vez que puede de que son una fuerza de paz sin ningún tipo de nave ofensiva.
"El Enterprise es un buque de guerra. La tripulación lo dice explícitamente en TNG5x14: Conundrum, cuando se olvidan de todo menos de su entrenamiento". — Dijeron que era un buque de guerra, pero trabajaron a partir de suposiciones (extraídas de que la Enterprise tenía capacidad de combate) y la misión en la que estaban (que fue insertada en los registros de la computadora por los satarranos).
@Quentin - Toro. No estaban trabajando con suposiciones, estaban trabajando con su entrenamiento y conocimiento de sistemas de armas, sistemas defensivos y tácticas. Estaban estudiando las capacidades de las armas, las capacidades defensivas y el diseño de la nave. Después de unos momentos de revisar los datos tácticos, todos concluyen que el barco está construido para la guerra. La Flota Estelar puede usar la nave para misiones pacíficas, pero fue diseñada para proyectar poder y enfrentarse a cualquier enemigo concebible (en el momento del diseño).
@Jeff La línea era "Somos un acorazado". y lo dijo MacDuff, el infiltrado alienígena, no un miembro de la tripulación. Los estuvo manipulando todo el tiempo. No puede tomarse como un reflejo exacto de las creencias de la tripulación. La respuesta sería mejor sin ese párrafo.
@Quentin Ver arriba: la tripulación no lo dijo.
"Tener un respeto fundamental por la vida y una fuerte inhibición de causar daño" solo significa que Data, si tuviera la opción, preferiría no dañar a los seres vivos. Si siente que no tiene otra opción, los dañará de manera muy permanente. Si realmente se siente justificado, incluso podría disfrutar torciendo un poco la daga. No tuvo que burlarse de la Reina Borg en el Primer Contacto después de revelar que había estado jugando con ella, pero lo hizo.

De alt.books.isaac-asimov FAQ, n.º 12 , originalmente extraído de John H. Jenkins, publicación del 20 de julio de 1994

Asimov tendía a no permitir que otras personas usaran sus leyes específicas de la robótica, pero su idea esencial, que los robots tendrán sistemas éticos incorporados, se usa libremente.

Sin embargo, Data no tiene las Tres Leyes (véase el episodio "La medida de un hombre" en el que se niega a seguir una orden directa de un oficial superior [Segunda Ley] sin invocar el peligro para un ser humano específico [Primera Ley] o las necesidades superiores de toda la humanidad [Ley Cero]). Además, su programación ética no es fundamental para su diseño (su prototipo, Lore, carece de ella por completo, y el programa ético de Data está desactivado durante gran parte de "Descent, parte II").

Asimov declaró que Roddenberry le pidió permiso para hacer de Data un robot positrónico después del hecho. El propio Asimov no intervino en el personaje.

Estoy programado con la habilidad de usar fuerza letal en la causa de la defensa.

— Datos, la mayoría de los juguetes

Más tarde, aparentemente estuvo a punto de matar a Fajo, pero pudo haber sido una finta.

Recuerdo que también mató a varios Borg, en particular a los que se habían separado del Colectivo. En un episodio, "disfruta" matándolos.
@NickT: Dudo que fuera una simulación, considerando que O'Brien señaló unos momentos después que se había descargado durante el tránsito. Dadas las circunstancias, era poco probable que eso fuera, como Data insinuó a Riker a partir de entonces, un mal funcionamiento o algo así.

En la Fundación Asimon, el robot Daneel se da cuenta de una cuarta ley que define la Ley Cero:

Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daños.

En el universo de Star Trek, la humanidad puede ser concebida como un ser biológico inteligente. O eso supongo.

Entonces, asumiendo que Data posee un cerebro positrónico (como en las historias de Asimov), puede tener la ley cero.

En este caso, persiguiendo un propósito superior, los datos pueden dañar (o incluso matar) a un ser humano para preservar un número mayor.

Tal vez solo el Dr. Noonien Sung pueda responder a esta pregunta.

¡Buena decisión sobre la ley cero!

"The Most Toys" es el episodio 22 de la tercera temporada de la serie de televisión de ciencia ficción Star Trek: The Next Generation.

Cuando Data fue retenido cautivo por ese tipo de coleccionista, ambos tenían estos disruptores romulanos súper dolorosos y prohibidos apuntándose el uno al otro. Data vio lo dolorosa y horrible que era el arma cuando el recolector le disparó a una cautiva que estaba ayudando a Data Escape. Parecía golpear a la víctima, quemarla y causarle un dolor intenso durante varios segundos antes de extenderse al resto del cuerpo para vaporizarla por completo. Tomó alrededor de 5-7 segundos. En el enfrentamiento final entre Data y el Coleccionista, ambos tenían estos disruptores apuntándose el uno al otro. El tipo del Coleccionista arrojó el suyo al suelo y le dijo a Data, estoy desarmado, debes dejarme ir, refiriéndose vagamente a las Tres leyes de la Robótica, y riéndose de Data todo el tiempo, diciendo que como androide no tenía otra opción. Sabía que la Federación lo trataría con ligereza o tendría alguna jurisdicción sobre él, y parecía muy seguro de sí mismo de que distribuyó muchos sobornos por la zona, por lo que era muy poco probable que alguna vez fuera castigado y volviera a robar y causar miseria a los demás en poco tiempo. Data vaciló y bajó brevemente el arma. Después de reflexionar sobre su acción por un momento o dos, Data apuntó el arma al coleccionista y le anunció: "No, no puedo permitir que esto continúe por más tiempo". El tipo del Coleccionista se sorprendió y dijo, no puedes, estoy desarmado, o algo por el estilo, parecía realmente asustado. En ese momento, la Enterprise comenzó a transportar datos de regreso a la Enterprise cuando el jefe O'Brien anunció a Picard y Riker que un arma de tipo Disruptor se estaba descargando y la desarmó antes de que Data se reactivara en la Enterprise. Cuando Picard cuestionó a Data sobre la descarga del Disruptor. Data dijo que no recordaba que estuviera disparando. Con solo mirar la cara de Data antes y después del transporte, sabías que Data iba a desperdiciar a esa escoria de Collector.

Si bien Data tiene las tres leyes de la robótica, también tiene su juramento a la Flota Estelar. A medida que procesa situaciones, inicialmente las procesa con su juramento de la Flota Estelar. Esto le permite seguir órdenes que pueden entrar en conflicto con sus tres leyes. Hay situaciones en las que su juramento de la Flota Estelar le permite ignorar sus tres leyes básicas y momentos en los que sus tres leyes exigen que ignore el juramento de seguir sus tres leyes. Su intento de matar a Fajo fue siguiendo su juramento de la Flota Estelar. Su contacto con una niña pequeña en el subespacio para salvar su planeta estaba siguiendo sus tres leyes básicas. Un hilo muy complicado de tejer.

Si puedes ignorar cualquiera de las 3 Leyes, entonces no las tienes . Son absolutos y no pueden anularse, independientemente de otros juramentos o compromisos. Lo único que permite a un robot ignorar cualquiera de las Leyes es la invocación de una Ley de número inferior.

Yo diría que Data se adhiere a las tres leyes de la robótica, así como a la ley cero. También (en el espíritu de la ciencia) presentaría una ley de "uno negativo" que establecería "un robot no puede, por acción o inacción, permitir que ningún ser sufra daño", ya que estamos en un multiverso que incluye varias formas de vida. y civilizaciones.

El concepto de daño es relativo; en términos de humanos (en la tierra) NADIE debería sufrir daños, según la ley de Asimov. Pero si recuerdas, los robots están prohibidos en la Tierra; por lo que se seguiría que el daño al que se hace referencia es en términos de una relación maestro-trabajador.

Sin embargo, en términos de los espectros multiversales de Star Trek y en cooperación con la Primera Directiva, algunos seres PUEDEN tener que sufrir daños, en beneficio de la suma total.

Todo el mundo parece olvidar en la primera temporada cuando el equipo visitante descubre que la historia se desarma, Tasha hace referencia a que el Dr. Soong finalmente se dio cuenta del sueño de Asimov de un cerebro positrónico. Sugiriendo que los datos y la tradición y de ninguna manera están realmente conectados con los robots asimovs o las tres leyes, simplemente fueron la idea o la inspiración para crear datos y tradición... dicho de manera más simple, en Star Trek, Asimov es un autor muerto hace mucho tiempo, pero al Al mismo tiempo, el creador de Star Trek, Gene Roddenbarry, la inspiración para el personaje Data fue el robot Asimov i y la serie Foundation.

Hola, bienvenido a SF&F. No estoy seguro de estar leyendo esto correctamente; parece estar argumentando que la conexión con Asimov se reconoció en el universo, pero eso aún no responde si Data fue diseñado para cumplir con las Tres Leyes. Asegúrese de responder la pregunta en lugar de responder a otras respuestas.