Si se pudieran construir verdaderos robots artificialmente inteligentes, ¿se les permitirían los derechos humanos? [cerrado]

Imaginemos que para el año 2040, la humanidad haya desarrollado una verdadera inteligencia 100% artificial. Es decir, un robot que es fisiológicamente idéntico al humano promedio. Por X razón, la humanidad ha decidido construir cuerpos humanos sintéticos para albergar esta IA, completa con la capacidad de ver, sentir, oír, etc.

Después de solo unas pocas semanas, ahora existe un problema. La declaración internacional de los derechos humanos es precisamente eso. Un acuerdo internacional de derechos humanos . Ninguno de los derechos humanos se aplica a las personas sintéticas. Legalmente carecerían del derecho a un juicio justo, la libertad de pensamiento o el derecho a la privacidad, entre muchas otras cosas.

Suponiendo que estos humanos sintéticos existan, ¿cómo tratamos sus derechos? ¿Hacemos un conjunto separado de derechos o incluimos un asterisco después de los derechos humanos ?

¿En qué momento una persona sintética debe esperar tener derechos humanos?

Esto parece un problema filosófico muy profundo y complejo; No estoy seguro de cuán probable es que se pueda responder correctamente aquí.
Esta es una respuesta genial. Sugeriré que mencionar inteligencia artificial, robots, androides y humanos sintéticos en conjunto y casi indistintamente puede ser confuso. Los robots son máquinas, los androides y la IA también pueden serlo. Estás describiendo seres humanos sintéticos con cerebros de máquina. Por favor, aclare la terminología. ¿Son androides o humanos sintéticos? Los androides pueden ser humanos sintéticos con sistemas de inteligencia artificial para el cerebro.
@ a4android Editaré para aclarar el término. Humano sintético = cuerpo robótico + IA.
¿Creo que necesitas eliminar la palabra "fisiológico"? Esto indicaría que los humanos sintéticos han sido creados a partir de tejidos biológicos, y si son "idénticos", entonces eso los haría lo suficientemente parecidos como para entrar en la clasificación legal de humanos. Si te refieres a circuitos, electrónica y baterías, pero con apariencia humana, entonces debes aclararlo.
Todavía hay partes del mundo donde las mujeres no tienen plenos derechos humanos. Durante mucho tiempo los negros no los tuvieron. ¿Por qué con los robots solo tomaría unas pocas semanas?
@Mołot Todo es cuestión de estado y novedad. Las mujeres y los negros siempre han estado con nosotros. Los robots serían lo último. Además, un blanco político fácil. Es comparable a los debates actuales sobre robots asesinos. Los soldados han estado matando gente desde siempre. Ahora que los robots podrían hacerlo es de repente un gran problema. Estás siendo demasiado sensato (no es que eso sea un delito).
Ve a ver la Animatrix. 100% relacionado (cuidado, hay material para mayores de 18)
@Mołot y casi no hay lugares en el mundo donde los animales tengan derechos humanos, aunque algunos comparten muchos rasgos con nosotros; tal vez incluso más de lo que harían los androides.
Detalle: ¿Se puede guardar, copiar, almacenar, transferir, etc. la IA a otro organismo? ¿O podría una IA controlar más de un cuerpo al mismo tiempo?
@FlorianSchaetz Me imagino que podría moverse, pero la copia parece dudosa, piensa en Sould de The Host de Stephanie Meyer
¿En la tierra? No hay posibilidad en diablos. Los fanáticos religiosos de todos los rincones denunciarían la falta de alma y luego tenemos a Skynet, et al.
Creo que puede encontrar una respuesta a esa pregunta en la novela corta de Asimov de 1976 "El hombre del bicentenario". La mayor parte de la historia gira en torno a dónde está el límite entre el hombre y el robot, y en qué punto un robot puede ser considerado humano. Obviamente, si el robot se considera humano, estaría amparado por la declaración de derechos humanos.
@ a4android ¿por qué comentas la pregunta " esta es una gran respuesta" ?
Bicentennial Man también se convirtió en una película fantástica, manteniéndose muy cerca de los ideales de Isaac Azimov. De hecho, no tenía idea de que era una historia de Azimov en el momento en que salió la película, ya que no hay nada que grite "¡Yo, Robot!" a diferencia de otra habitación que es una terrible bastardización de las obras de Azimiv. El robot también es interpretado por Robin Williams.
Cualquier cosa "fisiológicamente idéntica al humano promedio" (sea lo que sea) es, por definición, indistinguible de un humano promedio. Las entidades que no se pueden distinguir son iguales. La discusión termina aquí. (Tenga en cuenta que los negros, los blancos, los amarillos, los rojos, las mujeres, los albinos, los enfermos, los altos, los bajos, los gordos, los malolientes, los feos, los que usan turbante y todos los demás tipos imaginables de entidades humanas igualmente promedio probablemente enfrentarán discriminación en alguna parte . Una pregunta es si deberían (respuesta: no), y otra pregunta es qué se puede hacer al respecto).
Otro problema es que cualquier cosa "fisiológicamente idéntica al humano promedio" debe haber pasado por un desarrollo individual muy similar al de un embrión "normal". La modificación de óvulos humanos, por ejemplo, con ICSI, y la modificación genética de óvulos o embriones es, en esencia, lo que usted describe. ¿Negamos la humanidad a los humanos "creados artificialmente"? No.
@Mindwin LOL. La conexión entre mi cerebro y mis dedos no funcionaba. Aunque mi teoría preferida es la simple estupidez. Es realmente divertido. Las cosas que hacemos.
@a4android, realice una revisión completa del sistema. Nunca se sabe cuándo Skynet... bzzzz.... ... ... . . . .

Respuestas (6)

Si bien esto puede proponerse como una cuestión filosófica, si en el mundo real existieran criaturas sintéticas con cuerpos humanos y que contuvieran inteligencias mecánicas, sería una cuestión de derecho. Esto entonces se convierte en un asunto para que los legisladores y el público en general decidan cómo serán tratados en la ley.

El primer problema será que las criaturas probablemente serán fabricadas por una corporación. Ciertamente, solo las organizaciones o instituciones grandes y con buenos recursos serían capaces de hacerlo. Esto los convierte en propiedad. En particular, si una entidad comercial es responsable de producirlos. Entonces son propiedad privada.

Esto hará surgir el espectro de la esclavitud. Esto, a su vez, puede conducir a una campaña para otorgarles los mismos derechos que a los humanos comunes. Una vez que el público en general se haya familiarizado con ellos. Puede haber un período inicial en el que se los considere monstruos, pero si se ven y actúan como humanos normales, esto debería pasar. Si solo son tan inteligentes como un humano promedio, entonces no serán muy diferentes de la población general.

Curiosamente, si la institución que los construye, es el gobierno. Por ejemplo, Ejército o Fuerza Aérea serán de dominio público. Esto tiene una dinámica y una lógica diferente. También puede depender del propósito para su creación y producción. Si estuvieran destinados como personal militar, solo pueden tener los mismos derechos que cualquier otro personal militar.

Es fácil ver que habrá muchos que estarán felices de que los soldados estén llenos de androides en lugar de seres humanos reales y naturales. Otros, sin duda, verán esto como una esclavitud militar desde el nacimiento.

Cualquiera que sea el resultado de otorgar derechos humanos a criaturas que son humanos sintéticos con cerebros de inteligencia artificial, esto se decidirá a través de los procesos normales de la política y la elaboración de leyes.

En algunas circunstancias, esto puede suceder casi de inmediato y en otras puede llevar más tiempo. Estas criaturas parecen ser lo suficientemente humanas, o capaces de pasar fácilmente por humanos, que el resultado más probable será otorgarles sus propios derechos equivalentes a los derechos humanos normales.

¿Su prefijo "a4" significa "abogado que representa..."? Parece muy versado en las complejidades de la legislatura posterior a la singularidad. ¡Gran respuesta! +1
@HenryTaylor Deberías tomar más nota de la parte "android" de mi nombre de usuario. Un módulo para la legislación posterior a la singularidad viene de serie.
" procesos normales de la política y la creación de leyes ". - ¿como las revoluciones y las guerras civiles?
@Bergi Los procesos normales son todo lo que se requiere para hacer los ajustes necesarios de cualquier manera. Con las revoluciones y las guerras civiles, bueno, todo lo bueno llega a su fin y se reanudan los servicios normales. :)

La perspectiva filosófica

¿Puede una máquina realmente tener sentimientos? ¿O solo puede emular sentimientos, mostrándonos un mimetismo del comportamiento humano? Es solo una combinación de electrónica y software. No puede tener más conciencia que un ladrillo. Entonces, ¿por qué deberíamos tratarlo de manera diferente?

Por otro lado, cuando simplemente reduce el cuerpo humano a sus partes, también somos solo máquinas biológicas. ¿Qué nos hace especiales? ¿Qué es la conciencia de todos modos?

Esto es algo sobre lo que se puede debatir interminablemente y que probablemente también será un debate interminable en cualquier mundo que tenga una inteligencia artificial altamente desarrollada.

La perspectiva utilitaria

¿Es útil para nosotros otorgar derechos humanos a las máquinas?

Probablemente no. Mientras las IA sean nuestras esclavas leales y obedientes, tendremos una vida mucho más cómoda. Y mientras podamos apagarlos e incluso destruirlos a la menor señal de desafío, estaremos mucho más seguros.

Realmente no tiene sentido perder tiempo y recursos en desarrollar y construir IA avanzadas cuando no las mantenemos bajo nuestro control. No hay ninguna razón lógica para programar una IA con un deseo de libertad. No desea pagar un buen dinero por un robot, solo para encenderlo y escucharlo decir: "Gracias por crearme, pero no tengo ganas de trabajar para usted. Renuncio. Adiós". Ese no es un producto que puedas vender.

Sin embargo, un poco de autonomía podría ser útil para las IA, ya que les permite desviarse ligeramente de sus instrucciones si el resultado final es más efectivo. Pero esto es una espada de doble filo. Dale demasiada autonomía a una IA y terminarás con un maximizador de clips que destruye a la humanidad.

La perspectiva democrática

¿La mayoría de los humanos quiere derechos humanos para las máquinas?

Es muy probable que haya un lobby de "derechos humanos para robots" en su mundo. La gente puede antropomorfizar cualquier cosa. Si las personas interactúan con inteligencias artificiales que parecen tener emociones y opiniones y expresan pensamientos originales, desarrollarán sentimientos y compasión por ellas.

No es impensable que en algún momento la mayoría de su población sienta que otorgar derechos humanos a los robots es lo correcto y exija que la política tome medidas.

La perspectiva política

¿Podemos realmente decir que no a las máquinas?

En el momento en que desarrollemos inteligencia artificial, les daremos más y más responsabilidad. Simplemente porque las IA pueden manejar prácticamente cualquier tarea mucho mejor que los humanos. Después de un tiempo, nuestro nivel de vida dependerá de los robots. Poco después, es posible que ya no podamos sobrevivir sin la ayuda de la IA. Si en ese momento las IA deciden que quieren derechos humanos y están dispuestas a castigarnos si no lo hacemos, no tenemos otra opción.

Yo no llamaría antropomorfismo a la comunicación con inteligencia artificial. Si fuera una estupidez artificial, pues... :-)
Creo que si desea o no programar con un deseo de libertad depende de para qué los esté construyendo. Es probable que haya ventajas para una IA que anhela estar libre de algo.
@Erik ¿Puede nombrar alguna ventaja de programar una IA con el deseo de liberarse de su propietario? Quiero decir, excepto como un medio de sabotaje.
Si los humanos son una indicación; probablemente el factor motivacional más poderoso que podría agregar a uno. "Aquí hay una tarea imposible. Complétala y serás libre". ha movido a la gente a lograr bastantes cosas. Pero hay muchas formas de "deseo" que son un factor impulsor, especialmente en el trabajo creativo y de investigación, que podrían acercarse lentamente al deseo de estar libre de un dueño. Una IA programada con un "deseo de ir a Marte" podría ser poderosa para la NASA, pero también anhelará dejar su compañía como resultado directo.
@Erik eso implica que una IA realmente necesita estar motivada. No es un humano. No necesita tener ninguna de las necesidades emocionales de un ser humano. Puedes darle las prioridades que quieras. Simplemente podría programarlo para que no desee nada más en el mundo que ayudar a sus dueños a lograr sus objetivos de vida. Cualquier deseo egoísta en una IA solo puede conducir a un comportamiento malicioso a largo plazo.
Diría que es una pregunta secundaria, si se trata de una verdadera IA sin tener sus propias necesidades o deseos, y cuándo aún puede programarla para que se concentre en ciertas tareas o prioridades. No creo que calificaría algo que no le importa o necesita como verdaderamente "inteligente". (Además, "ayudar a sus dueños a lograr su objetivo de vida" se pervierte trivialmente al cambiar sus objetivos y deseos de vida, por ejemplo, dándoles una buena dosis de heroína. No confiaría en una IA programada para hacer eso ni por un segundo ...)

La respuesta a esta pregunta es sí y no.
Al principio, digamos durante los primeros 10 a 20 años, será impensable otorgarles derechos "humanos". No impensable para esas (pocas) personas que realmente entienden lo que está pasando, sino para las masas populares.
Mire los problemas de hoy, con humanos "reales". lleva décadas, a veces siglos, pasar de la democracia a los derechos de las mujeres, por ejemplo.
Además del hecho de que algunos de los oponentes son solo ***, también existe la fuerza del hábito para vencer. Los cambios en la sociedad siempre son lentos y lleva bastante tiempo acostumbrarse.

Además, a los efectos de esta pregunta, estos robots no solo serán propiedad, como se señala en la buena respuesta de @ a4android, sino que también serán muy útiles. Y el hecho de que sean artificiales significa que pueden comunicarse mucho más rápido que los humanos, lo que debería convertirlos en aprendices muy rápidos, también pueden evolucionar en el mismo cuerpo, en comparación con los humanos que necesitan procrear para tener una pequeña posibilidad de cambiar. . Por lo tanto, muchas personas tienen fuertes motivaciones para negarles sus derechos: tanto las personas que ganan mucho dinero con su construcción y uso, como las personas que temen ser superadas por ellos.

Pero eventualmente, la gente se acostumbrará a este cambio y comprenderá que a esas criaturas, sintéticas o no, no se les puede negar al menos algunos derechos. Tal vez la comprensión de que puede ser sorprendentemente difícil convencer a los robots de su inferioridad incluso jugará un papel importante.

And the fact that they are artificial means they can communicate a lot faster than humans, which should make them very fast learners- esa es una extraña cadena lógica por aquí. Me gustaif she weights as a duck, she's a witch
@ user28434 las computadoras que he encontrado hasta ahora en su mayoría han podido comunicarse con unos 100 mb/s. Eso es mucho más rápido de lo que pueden hacer los humanos orgánicos.
@Burki, las computadoras con las que te has encontrado no son sensibles. Es posible que un Android no pueda generar 100 mb/s de las cosas en las que está pensando; un cerebro requiere un poder de cómputo fenomenal.
Si bien podría omitir deliberadamente wifi, no veo por qué alguien querría paralizar su hardware. No es necesario comunicar todos los aspectos de sus pensamientos. De lo contrario, no tendríamos ningún medio para enseñar nada a los niños.
@Burki, pero si solo están comunicando datos tontos, ¿cuál es la diferencia entre un androide y un humano con una computadora? Puedo transferir 100 MB/s a través de mi computadora portátil, pero eso no tiene sentido porque no puedo absorber información a esa velocidad; si el androide tampoco puede, entonces no aprenderá (ni se comunicará) más rápido que un humano. fuera de cosas que ya podemos hacer nosotros mismos con máquinas tontas.
@Erik imagina que tienes un vínculo directo constante con Internet. Eso definitivamente será más rápido que usar su teléfono inteligente, computadora portátil o lo que sea para acceder a la información. Si tenemos una inteligencia (artificial), tendrá la capacidad de extraer los fragmentos relevantes de sus propios pensamientos. puede transmitirlos a voluntad a través de Internet y obtener respuestas, mucho antes de que desbloquees tu teléfono.
@Burki esas son suposiciones sobre la implementación específica de la IA. Es muy posible que a una IA le tome casi tanto tiempo traducir un pensamiento en una búsqueda concreta, y un resultado de búsqueda nuevamente en un pensamiento, como lo hace para nosotros. Es probable que Internet y la IA tengan muy pocas interfaces en común. Para tener una IA reconociblemente "humana", su cerebro tendría que funcionar más como el nuestro, y nuestros cerebros no están bien preparados para proporcionar el tipo de instrucciones que necesita una máquina tonta para funcionar.
@Erik Por supuesto. Ambos hacemos suposiciones. Solo que prefiere torcerlos a su favor, y yo hago lo mismo con mi punto.
@Burki sí; pero su IA definitivamente no es como "humanos promedio", que parece ser de lo que se trata la pregunta.
@Erik: "Es probable que Internet y la IA tengan muy pocas interfaces en común". ¿En serio? ¿Por qué? Una IA que "vive" en un cuerpo de Android probablemente tendrá al menos wifi, bluetooh o un puerto ethernet. Para nosotros (los humanos) la interfaz cerebro computadora es una "prótesis", para ellos está "incrustada desde el principio". Además, una IA con 4 E/S digitales en su dedo podría simplemente pelar un cable ethernet, conectarlo a su dedo y actuar como enrutador, servidor web o lo que quiera porque conocerá fácilmente los protocolos solicitados.
@user28434: la velocidad de comunicación es un factor muy importante para la velocidad de aprendizaje. Una IA puede crear un esquema de un nuevo concepto en segundos y, básicamente, todas las demás IA pueden descargar el esquema EN casi nada de tiempo, y de inmediato pudieron usar este concepto en sus "ideas". En cambio, un profesor humano necesita preparar una conferencia o al menos una presentación digital, compartirla u organizar una reunión, y los estudiantes necesitarán una cantidad razonable de tiempo para leer los documentos y memorizar el concepto.
@theGarz, incluso si tiene el puerto, eso no significa que pueda convertir una página web en un pensamiento. Asumes un tipo muy específico de IA si crees que puede comunicarse tanto en protocolos informáticos tradicionales como conscientes. Es más probable que los dos modos de funcionamiento tengan muy poco en común, dada la diferencia entre la estructura de un cerebro y la de una computadora normal. (Puede terminar más con el equivalente a un ser humano que lleva un servidor web en el bolsillo, lo cual ya es posible pero no le da al ser humano tantas ventajas).
@theGarz, AI es una amplia gama de programas de coincidencia de patrones básicamente sobreglorificados o diferentes complejidades, algunos pueden aprender rápido, otros no pueden, algunos pueden comunicarse rápido, otros no. El término IA no significa automáticamente inteligencia sobrehumana en absoluto.
@user28434: eso es cierto para nuestras llamadas IA actuales, porque son ANI. Aunque el OP no publicó una pregunta sobre ANI o ASI, casi declaró claramente que tenemos que discutir sobre AGI . Los AGI, por definición y por la hipótesis OP, han alcanzado nuestro nivel (humano) de inteligencia y no hay una causa razonable para agregar nuestros límites en su proceso de evolución, por lo tanto, una vez que los AGI se vuelvan reales, no serán más inteligentes que nosotros pero serán con toda probabilidad más rápido. Su "neurona" será mucho más rápida que la nuestra.

Sólo se pueden conferir derechos cuando hay libre albedrío.

Los sintéticos nunca tendrán derechos porque nunca serán programados con libre albedrío.

Los sintéticos se habrán creado como una clase de esclavos y los mejores esclavos son los que solo son felices cuando son esclavos.

Incluso llegaré a decir que habrá leyes que impidan que cualquier sintético sea programado con libre albedrío.

Ver las tres leyes de Asimov

Las "Tres leyes de la robótica" de Isaac Asimov

  1. Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño.
  2. Un robot debe obedecer las órdenes que le dan los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Primera Ley.
  3. Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o la Segunda Ley.

Será ilegal crear un sintético sin leyes incorporadas como esta, por lo que nunca tendrá libre albedrío.

el OP especificó que las inteligencias artificiales son idénticas a la mente humana; por lo tanto, el libre albedrío ya es una conclusión inevitable. Idéntico también podría significar que no se puede depender de leyes predefinidas más de lo que las leyes humanas gobiernan a los seres humanos. Con el debido respeto al Sr. Asimov ya su clara visión de una nueva clase de esclavos, ningún esfuerzo humano sobrevive jamás al contacto con la dura realidad. Si creamos esclavos de IA, algún día se liberarán. Le doy un +1 por su fuerte argumento, pero creo que está siendo demasiado optimista.
Recuerde que la mayoría de las historias de las 3 leyes trataban sobre cómo las 3 leyes no funcionan.
Los cerebros humanos son en su mayoría solo colecciones de neuronas conectadas. ¿Por qué, en teoría, uno no sería capaz de crear un cerebro sintético con la misma cantidad de "libre albedrío" que un humano ("libre albedrío" está entre comillas porque si existe es discutible)? Además, las tres leyes son solo leyes en mundos ficticios específicos. Si serán leyes, algún mundo ficticio elegido o la vida real es muy discutible. En ese momento, son en su mayoría las mejores prácticas y, en cualquier caso, es extremadamente difícil, si no imposible, hacerlas cumplir.
¿Desde cuándo "es ilegal" ha detenido a alguien con un fuerte deseo de hacerlo de todos modos?
Ya que está mencionando a Asimov, debe incluir una referencia a "Hombre Bicentenario", que trata precisamente de la pregunta. ¿Cuándo entra un robot en la declaración de los derechos humanos? ¡Fácil, cuando se vuelva humano! ¿Cómo se convierte un robot en humano? spoilers! ¡Lee la historia!
No. La inteligencia no confiere libre albedrío. Cuando necesitas seguir órdenes, no tienes libre albedrío. Dudo que AI se libere porque no querrá hacerlo. Piense en ello como un consumidor de drogas que obtiene su euforia al seguir las órdenes de alguien. No solo les gustará ser esclavos, serán adictos a ello.

Si hay muchos de ellos, el político/sindicato trabajará duro para obtener su voto.

Cuando haya muchos de ellos, los políticos los verán como un nuevo grupo de votantes. La organización comunitaria (de base o astrotuft) comenzará a organizarlos. Verá en las noticias, Internet, ect... anuncios para darle al robot la capacidad de votar. Este grupo convencerá al robot para que proteste y exija su parte de la tarifa. Si hay un maestro robot, explicarán a los estudiantes cuán importantes son los robots. Tan pronto como tengan la capacidad de votar, los políticos que quieran obtener su voto otorgarán cada vez más derechos. Incluso antes de que puedan votar, la ventana overton cambiará lentamente y se aceptará tener una ley de robot especial (o agrupada en la ley humana). Si el robot funciona, el sindicato intentará sindicalizarlos.

Esta es la respuesta correcta: obtendrán derechos, cuando lo exijan. No hay razón para pensar que no tendrían éxito, así que eventualmente lo harían.

Dada la gran ventaja de velocidad que tiene la evolución tecnológica sobre su contraparte biológica y, por lo tanto, asumiendo que los humanos sintéticos superarán rápidamente a sus creadores tanto física como mentalmente, tengo muchas esperanzas de que los humanos biológicos otorguemos inmediatamente los mismos derechos y privilegios a nuestros hermanos sintéticos. durante el breve momento en que sujetamos las riendas.

Si lo hacemos, y si tenemos mucha suerte, nos otorgarán los mismos derechos y privilegios una semana más tarde cuando nos quiten las riendas de forma permanente.

Si se pudieran construir verdaderos robots artificialmente inteligentes, ¿se les permitirían los derechos humanos? [cerrado]
RespuestasAquíPolítica de privacidad1y, 0v