Inquietudes éticas en la revisión de un artículo sobre drones armados autónomos

Quisiera su sugerencia sobre un asunto delicado relacionado con un artículo que estoy revisando. Evitaré dar demasiados detalles para preservar el anonimato.

En este artículo, los autores describen un algoritmo para el control (no tripulado) de un dron militar armado. El trabajo se ha realizado completamente en un simulador, pero los autores muestran imágenes claras del tipo de dron militar del mundo real que reprodujeron, diciendo explícitamente que el dron real se puede armar con diferentes tipos de bombas. El rendimiento del algoritmo se puntúa en función del número de veces que el dron simulado alcanza el objetivo de forma autónoma. Los autores nunca discuten las posibles preocupaciones éticas de esta tecnología, ni dicen explícitamente si esta tecnología se utilizará en drones reales para atacar objetivos humanos con la posible participación de civiles (por ejemplo, en la lucha contra el terrorismo).

Mi posición personal es contraria al desarrollo de armas letales autónomas. Aunque tengo varios años de experiencia en la revisión de documentos, esta es la primera vez que tengo que lidiar con un problema de este tipo y no estoy seguro de cómo moverme. Creo que este tipo de problemas éticos son comunes en los campos relacionados con la medicina, pero poco comunes en la ingeniería, y que están tomando desprevenida a nuestra comunidad.

Nótese que, desde un punto de vista formal, la situación es confusa. Si bien ha habido una petición internacional contra el desarrollo de armas autónomas, la formalización en una prohibición internacional (como la de las armas químicas ) parece lejana. Además, las pautas éticas de la revista solo se aplican al uso de animales en la investigación y a los experimentos con sujetos humanos. Esto me permite concluir que, desde un punto de vista formal, el documento es legítimo ya que no infringe ninguna regla.

He considerado escribir al editor expresando mis inquietudes o señalar estas inquietudes directamente en la reseña, para que los autores puedan dar respuesta a mis consultas. Como última solución también estoy considerando la opción de retirarme, pero preferiría entablar un diálogo con los autores y el editor ya que esto es más constructivo para todos. Sin embargo, creo que también es importante considerar la hipótesis de que mi posición ética puede sesgar mi revisión (aunque estoy tratando de ser lo más neutral posible) y esto puede ser injusto para la evaluación de la calidad técnica del método propuesto.

Mi pregunta es : ¿cómo debo proceder en el proceso de revisión? Hay algunas opciones: retirar por preocupaciones éticas, simplemente revisar el artículo, revisar y expresar mis preocupaciones éticas al editor (y tal vez a los autores).


Actualización: 5 de marzo de 2020

Gracias a todos por sus respuestas, realmente me ayudaron a entender mejor la situación. Decidí retirarme como revisor y envié una carta oficial al editor. En la carta expresé mis preocupaciones éticas sin hacer ningún comentario sobre la calidad técnica del artículo. El artículo no rompió ninguna regla formal, por lo que recomendar un rechazo oficial hubiera sido como imponer mi ética personal sobre el proceso de revisión. En la carta también he denunciado aquellas frases que enmarcaban claramente al dron como un arma letal autónoma.

El editor asistente me escribió diciendo que al editor le gustaba mi actitud académica y me quería para una segunda revisión. El equipo editorial se ha puesto en contacto con los autores, quienes dijeron que no querían crear un malentendido y que están dispuestos a modificar las expresiones. Esto parece implicar que han enviado a los autores la lista de oraciones que informé confidencialmente al editor, y que los autores quieren ajustar esas oraciones en la versión revisada.

Mi opinión personal es que simplemente reformular el documento sin cambiar la sustancia no sería suficiente. Puede sustituir "objetivo" por "objetivo" y "ataque" por "alcance", pero sigue siendo un dron armado autónomo.

Los comentarios no son para una discusión extensa; esta conversación se ha movido a chat .
¿La selección de objetivos es autónoma o solo el ataque en sí mismo después de que un operador humano selecciona el objetivo? Yo diría que el primero es peligroso, el segundo no lo es. Ha habido misiles guiados, misiles de crucero, bombas guiadas por láser/GPS, etc. durante mucho tiempo, y es mejor usarlos y no bombardear toda el área al estilo de la Segunda Guerra Mundial.
@Nyos, el periódico no discutió este detalle en particular. Se da el objetivo, pero no hay una descripción de la forma en que se ha adquirido. Sin embargo, tenga en cuenta que la distinción entre un arma autónoma letal (LAW) y una unidad de bomba guiada (GBU) no se basa en la forma en que se proporciona el objetivo, sino en el grado de autonomía del arma en sí. Los LAW tienen un mayor nivel de autonomía y la capacidad de tomar decisiones autónomas para la navegación y el ataque. El dron descrito en el documento es claramente una LEY. Te invito a que le des un vistazo a la página de Wikipedia sobre LEYES para más detalles.
@Nyos incluso eso puede verse fácilmente como éticamente problemático. Claro, un ataque de precisión con un dron que solo mata a la persona que quieres matar y tal vez algunos colaterales (objetivando humanos aquí ^^) justo al lado de esa persona (su culpa claramente ^^) tal vez mejor que bombardear todo el pueblo. Pero, de nuevo, tal vez no matar a nadie sea aún mejor. Es decir, al proporcionar tales armas de precisión, puede hacer que sea más probable que tales asesinatos sucedan. Por lo tanto, puede haber motivos de preocupación sin importar el tipo de dron/arma que se esté considerando.
@FrankHopkins, pero ¿no lo has abstraído demasiado en la otra dirección? ¿Debería uno rehusarse a revisar cualquier investigación que pudiera potencialmente usarse en cualquier tipo de arma? Por ejemplo, ¿abogaría por negarse a revisar la investigación sobre aerodinámica, porque los drones usan alas para volar?
@dwizum No encuentro ese resumen en absoluto. No se trata de martillos o alas, todavía estamos hablando de cosas que son principalmente un arma. Y encuentro esta afirmación categórica de que un tipo de arma no es problemática porque es más quirúrgica muy cuestionable y me parece muy razonable, ya sea que siga eso en todos los casos o no, que alguien considere estas armas tan o menos éticas que las armas de destrucción masiva. . Para empezar porque lo ponen muy fácil y así también quitan parte del control público automático (cuando necesitas enviar fuerzas especiales).
@dwizum Por cierto. con una visión pacifista más general, normalmente es fácil argumentar que cualquier nueva arma "mejor" puede ser poco ética, pero ese ni siquiera es mi punto. (Y no, no estoy diciendo que todos debamos mantener una postura tan pacifista, pero aun así entendería si algunas personas quisieran hacerlo y lo encontrarían no menos ético que las personas que tienen un enfoque más pragmático).
@dwizum Considere envenenar a un ex espía en un país extranjero. Con solo unas pocas garantías de personas que se acercan demasiado cuando ocurre el envenenamiento. Mucho más quirúrgico que enviar bombarderos y más conveniente que enviar un equipo de operaciones especiales. ¿Es ético el desarrollo de tal veneno? A Occidente ciertamente no le gusta. ... cuando se hace en su territorio. ^^ ¿Qué pasa si algún dictador malo tiene drones de ataque quirúrgico y puede jugar cómodamente a "asesinar a la oposición" desde su silla de juego? Como ciudadano franco, preferiría que tuviera bombas atómicas, al menos sería menos probable que las usara contra mí. ;)
¿Está su investigación indisolublemente ligada a su dominio de aplicación actual? Es decir, ¿pueden los mismos algoritmos/investigación ser igualmente útiles cuando se aplican a un caso de uso no controvertido (como lanzar granadas de extinción de incendios en puntos calientes de incendios forestales)? La investigación útil que se enmarca en un dominio de problema poco ético probablemente justifique una respuesta diferente a la investigación que no tiene un caso de uso ético.
Me pregunto si sería más útil dividir este tema en su ética personal y el documento real. ¿La revisión de un artículo debe tener en cuenta los puntos de vista personales del revisor? Si es así, ¿qué podemos esperar de las reseñas y publicaciones, etc.? Usted establece la diferencia entre el contenido y el mundo ético más amplio en el que existe, pero no estoy completamente seguro de si un artículo es "malo" si solo se enfoca en su perspectiva de ingeniería. Tal vez un segundo artículo sobre ética sería más adecuado.
@LeopoldBloom Creo que el verdadero problema es que este tipo de investigación es algo imparable. Si convence a la revista para que lo rechace, podría reescribirse como si sucediera en un mundo virtual como un videojuego que, de todos modos, simplemente lo ocultaría. Todavía terminará en manos de las personas que querrían usarlo para hacer exactamente lo que el periódico dice que debe hacer. Si actualmente estuviera situado en un mundo virtual y no se aplicara a un contexto del mundo real, ¿lo rechazaría porque podría aplicarse a un contexto del mundo real? Es muy difícil detener el 'progreso'.
@FrankHopkins podría reescribirse como si sucediera en un mundo virtual como un videojuego, lo que de todos modos lo ocultaría ligeramente. No creo que debamos pronunciar esa oración, porque ya está sucediendo. Ni siquiera tiene que salir de Stack Exchange para ver la evidencia: pase el rato en el sitio de IA por un tiempo y observe la cantidad de preguntas que básicamente son sobre cómo programar la IA de la computadora para que sea bueno tanto para elegir como para presionar. objetivos
@dwizum No creo que tu último comentario fuera para mí;)
@GenericJam No voy a detener esta instancia de A porque alguna otra instancia de A "seguramente" no será detenida (por otra persona, porque me citarán como su excusa ^^) es una excusa bastante débil para no detener la instancia de A se puede detener. Dicho esto, el hecho de que la tecnología se pueda usar de diferentes maneras es precisamente la razón por la cual la ética nunca está completamente fuera de escena. Y tampoco es blanco y negro. Si pudiera elegir inventar un virus mortal capaz de matar a la humanidad y al no hacerlo solo retrasaría su invención por 3 años, aún consideraría que es una buena decisión ética.
'los autores nunca discuten las posibles preocupaciones éticas de esta tecnología'. ¡Supongo que no habría quedado mucho espacio para el resto del artículo si lo hubieran hecho!
Sí. Reformular el documento no es suficiente. Explicar que su trabajo no es práctico porque es probable que cualquier arma controlada por su algoritmo viole el principio de proporcionalidad y, por lo tanto, las leyes de la guerra sería suficiente. Como eruditos, están obligados a señalar las limitaciones de su trabajo. No podemos esperar una prohibición de los sistemas de armas autónomos, pero podemos tener un tratado que regule su uso. Al permanecer como revisor, puede obligar a los autores a citar las leyes de la guerra y hacer una pequeña contribución a este tratado.
@Strawberry estuvo de acuerdo en que no pueden discutir el tema en su artículo y se consideraría una detracción del tema principal. Sin embargo, lo que podrían hacer fácilmente es hacer referencia a una publicación respectiva, artículos de noticias, un documento separado propio en la sección de trabajos relacionados en una sola oración o dos.

Respuestas (11)

Le sugiero que se retire y envíe una carta formal al editor expresando sus preocupaciones. Citar un universo moral más grande que el estrecho cubierto por las políticas de la revista. Sugiera que la investigación en sí no es ética y recomiende, sin una revisión detallada, que se rechace el artículo.

He estado en un caso similar pero menos tenso. Fui pastor de un papel que cruzó una frontera menos peligrosa. Tuve contacto repetido con los autores y traté, a través de varias comunicaciones, de convencerlos de que las acciones que proponían estaban equivocadas. No logré convencerlos. El papel fue rechazado. De hecho, me dieron un premio por mis esfuerzos para convencerlos, aunque fracasé.

Mi experiencia sugiere que las personas que hacen este tipo de cosas no se dejarán convencer por un diálogo de ningún tipo. Están demasiado involucrados en esto como para molestarse en escuchar.

No espere a que "los poderes fácticos" decidan que esto es inmoral y conduce a un mal final. Si las personas como los revisores en la base de la pirámide no se quejan, este tipo de investigación continuará y se implementará. Hay demasiados ejemplos históricos de esto para ignorar las consecuencias.

Los comentarios no son para una discusión extensa; esta conversación se ha movido a chat .

El OP, sin duda, es consciente de que esta es una pregunta difícil con algunas áreas grises. También puede ser difícil proporcionar una única respuesta objetiva, por lo que primero destacaré algunos cursos de acción y luego haré una sugerencia personal.

(1) Rechazar debido a que el trabajo no es ético: un revisor tiene el derecho moral de hacerlo. Por supuesto, si no hay una legislación o un precedente de respaldo, esto puede volverse bastante subjetivo, y el revisor debe estar preparado para la refutación.

(2) Rechazo por motivos académicos: el enfoque sería señalar que los autores no han hecho un trabajo riguroso ya que no se han detenido en las posibles consecuencias de dicha tecnología, y esta es una parte importante del desarrollo tecnológico.

(3) Revisar el artículo sobre méritos puramente académicos, pero en la revisión, comunicar explícitamente al editor que este trabajo puede tener consecuencias negativas no deseadas, y su revisión no las considera.

(4) Examinar la revista y ver si publica artículos que son (en opinión del revisor) problemáticos. Si es así, retírese de la revisión Y genere conciencia pública sobre esta revista a través de los medios de comunicación, las redes académicas, etc. (Escriba también al diario, ya que es una cortesía esperada.) Sin la segunda acción, la primera es estéril y casi elude la responsabilidad.

Sí, ninguna de las opciones es fácil e implican invitar a una reacción violenta o cargar con la culpa. Hay que tomar una decisión basada en la fortaleza y el apetito por la crítica. Personalmente, no puedo recomendar tomar el camino más suave, por lo que mi recomendación sería (3) o (4) dependiendo de qué tan fuerte se sienta uno sobre el problema.

EDITAR:

Siguiendo una sugerencia en los comentarios, puede valer la pena diferenciar los antecedentes de (3) y (4).

En (3), donde uno transmite sus temores a través de una comunicación privada al editor, la carga moral recae directamente sobre el editor/diario. El revisor ha cumplido un deber puramente académico y se contenta con comunicar sus aprensiones en privado. Podría haber algunas buenas razones para adoptar esta postura: confiar en el núcleo ético/moral del editor/revista, creer que esta zona gris debe tratarse dentro de los límites profesionales y no públicamente.

En (4), uno no se absuelve de ninguna responsabilidad moral y elige abordar personalmente las preocupaciones éticas. Esto significa aceptar la responsabilidad no solo por la reacción violenta, sino también por la difusión exitosa del mensaje. Es inherentemente el enfoque más difícil, pero más responsable y posiblemente satisfactorio.

Esta es una buena respuesta, pero se mejoraría explicando la diferencia entre transmitir una advertencia sobre la moralidad de la tecnología en la revisión en sí y en la correspondencia privada con el presidente.
Estoy de acuerdo con @StellaBiderman, parece una respuesta buena y equilibrada. Respecto al punto (4) no encontré ningún artículo similar publicado en la revista, por lo que descarto esta solución. De momento opté por la opción (3), escribiendo un párrafo sobre mis preocupaciones éticas y una revisión técnica detallada.
También puede simplemente recusarse del proceso de revisión por motivos éticos personales. Rechazar el artículo por motivos éticos depende de la decisión de la revista; no es correcto enviar un rechazo por ese motivo si el editor está de acuerdo con la publicación del contenido. Sin embargo, no es necesario que acepte revisarlo.
Si bien me gusta su presentación de los cursos de acción, no apruebo su recomendación. (3) no lo hará.
el revisor debe estar preparado para la refutación. Probablemente no entiendo correctamente la palabra "refutación" (no soy un hablante nativo de inglés), entonces, ¿qué significa esto exactamente? Si el revisor dice que no por ética no hay nada que lo pueda obligar a hacer la revisión. ¿Quiere decir que el editor va a tratar de explicar que todo está bien, adelante, por favor?
@WoJ en informática, es típico que los autores puedan escribir una respuesta a los revisores, presentando un contraargumento para cualquier inquietud planteada y aclarando los puntos de malentendidos. Luego, los revisores actualizan sus revisiones en función de la respuesta y se llega a una decisión final. Esta respuesta se denomina “refutación”. En inglés común, una refutación es un argumento que contrarresta el argumento de otra persona.
@StellaBiderman: gracias. Pensé que sería un mensaje del editor , ahora entiendo que es el autor quien da su respuesta (esto es, o al menos lo era cuando estaba investigando, lo mismo en física).

Si realmente te preocupa, retírate de la revisión del artículo y cuéntale al editor las preocupaciones éticas.

Si rechaza el artículo por cualquier motivo que no sea académico, está imponiendo implícitamente su ética a los autores. Las declaraciones éticas que tienen perfecto sentido para usted pueden no tenerlo en absoluto para otra persona; el mero hecho de que los autores hicieran la investigación indica que no consideran que los drones armados autónomos sean éticamente abominables. Podría afirmar que su ética es "mejor" que la de ellos, pero eso no es seguro, y una persona razonable podría tomar la posición contraria. Si no quiere tener nada que ver con el documento por razones éticas, rechace revisarlo y deje que lo revise alguien que esté menos preocupado por la ética.

Dicho esto, puede señalar el problema a la revista y asegurarse de que estén de acuerdo con la ética. Es posible que la revista esté de acuerdo contigo en que los drones armados autónomos no son éticos y rechazarán el artículo sin revisarlo. Si publican de todos modos, puede distanciarse de la revista al no revisar para ellos y/o publicar con ellos en el futuro.

el mero hecho de que los autores hicieran la investigación indica que no encuentran que los drones armados autónomos sean éticamente abominables , o silenciaron su conciencia interna en beneficio del interés del sujeto, el extracto bancario, el estatus social, la presión de grupo o una combinación de otras razones similares. . No sería la primera vez.
Cierto sobre cualquier cantidad de cosas que un número significativo de personas encuentran abominables. De comer carne de cerdo a pagar el impuesto sobre la renta.

TL, DR: Simplemente debe ignorar sus cuestionamientos morales con el fin de revisar este artículo.

Para divulgación: trabajo en un campo relacionado con la defensa.

En resumen:

  1. El cuestionamiento que puede estar proponiendo es probablemente mucho más complejo e involucra líneas más difíciles de trazar de lo que puede estar pensando.

  2. Cualquier postura política que pueda tener la revista sería muy cuestionable, y además, no depende de usted decidir sobre ellas.

  3. Está fuera del alcance tener una discusión ética sobre cada documento técnico de este tipo. Aunque los códigos de ética deben ser conocidos y respetados por todos los profesionales en todos los campos.

  4. En la medida en que existen pautas éticas establecidas sobre este tipo de publicación, ninguna se ha incumplido según la presente pregunta (como usted mismo ha señalado).

  5. Usted como persona y ser humano, tiene la opción de negarse a revisar el trabajo. Pero no espere ni intimide a otros para que hagan lo mismo.

En modo detalle/despotricar:

A pesar de que se trata de un trabajo de ingeniería, deberías pensar en el marco de la ciencia en general. "Ciencia" y "ética" son cosas diferentes, que se cruzan dentro de las "acciones". El documento no pretende matar personas con el fin de realizar pruebas, solo habla de simulaciones, por lo tanto, debido a la falta de acciones, la parte científica es distinta de la parte ética aquí, por lo que en mi libro no hay absolutamente ninguna preocupación ética. cualquier cosa que le deba importar a un revisor mientras revisa el documento (aparte de resultados simulados falsos, informes deshonestos y otras cosas aplicables incluso a las matemáticas puras).

Veo muchos desafíos técnicos en el campo de las armas/drones/coches autónomos, etc., y esos son campos en los que las personas trabajan activamente y desarrollan sus carreras, para bien y para mal.

Si está en contra del desarrollo de armas autónomas, esta es una postura política suya que (en mi humilde opinión) no debe ser respaldada por ninguna revista científica como entidad. Puede verificar si la revista que solicitó su revisión tiene alguna política relacionada, pero dudo que este sea el caso. Por lo tanto, no es parte de su tarea de revisión hacer afirmaciones políticas sobre los documentos que revisa.

¿Dónde exactamente trazas la línea? Las armas letales autónomas son para ti, pero ¿qué pasa con la IA de reconocimiento facial? También existen preocupaciones sobre el desarrollo no regulado de aplicaciones de IA, e incluso prohibiciones temporales propuestas sobre el uso de esta tecnología. ¿Espera que todas las revistas de IA dejen de publicarse hasta nuevo aviso? ¿Tal vez le gustaría que todas las publicaciones relacionadas con el rendimiento de las armas también cesaran porque las armas en general son malas? Obtengo miles de resultados al buscar "eficiencia de misiles" en Google Scholar, todos en las primeras páginas hablando de ingeniería sin discusión ética. ¿Deberían haber sido rechazados también todos esos papeles?

¿Tranquilizaría su conciencia si el "tema" del artículo estuviera un poco más disfrazado? Tal vez no tenga nada en contra de un ensayo puramente matemático sobre los métodos de Montecarlo, pero adivine qué: se remontan al proyecto de la bomba atómica. Cuando era estudiante de pregrado, trabajé en un proyecto en el que un dron simulado tomaba fotografías de un objetivo. Curiosamente, la cámara siempre se rompía después de tomar la primera foto. Me tomó unos minutos darme cuenta de que se trataba de simular una bomba. Aunque fue la única vez que vi que se trató este tema sin que nadie desprevenido se conmocionara un poco, aparentemente fue un movimiento de empatía por parte del maestro.

Sin rodeos, si mi trabajo (solo técnico/teórico) fue denegado debido a que un revisor pensó que "esta tecnología debería prohibirse", no vería esto como diferente a que él / ella diga "mi religión no está de acuerdo con lo que dices". . Lo cual sucedió en el pasado, las historias cuentan que Napoleón cuestionó una vez a Laplace por no dedicarle ninguna palabra a Dios en uno de sus tratados. Por supuesto, esto se desdibuja en los campos de las humanidades, donde el contenido de una publicación deficiente puede traducirse en cosas explícitamente prohibidas, como discursos de odio, palabras de pelea, etc. También hay un problema en las ciencias médicas y biológicas donde cualquier publicación decente necesita resultados empíricos (es decir, si bien puedo simular un ataque con un dron, no puedo simular un veneno que actúa sobre el cuerpo humano). Pero este cuestionamiento no se trata del mérito científico del artículo.

Además, no pida a los autores que incluyan una discusión ética en su artículo. Simplemente está fuera del alcance y, francamente, es un campo de la ciencia de las humanidades, no un campo de la ingeniería. Por un lado, estoy completamente equipado para escribir y leer literatura científica sobre ingeniería de armas (en los campos en los que trabajo), y tuve que tomar un curso de ética durante la escuela secundaria, soy consciente y me adhiero a los códigos. de ética aplicable a mi profesión, pero soy un completo novato en lo que respecta a las ciencias éticas/políticas y legislativas a nivel de investigación. No se me puede exigir ni se me debe exigir que revise y discuta conjuntamente la literatura más reciente sobre la ética de las armas autónomas y su funcionamiento técnico interno cada vez que escribo sobre algoritmos para armas. Solo hago esto último. Se podría dar una excepción para agregar un texto repetitivo estándar como "Descargo de responsabilidad: este documento no respalda el asesinato". Pero solo a los abogados les importa el texto repetitivo y supongo que usted no es abogado.

Mire, trabajo en un campo relacionado con la defensa y conozco personas que trabajan con algunos productos que eventualmente (deliberadamente) pueden matar personas. Realmente, la discusión ética envejece, puede pasar unos días decidiendo si está de acuerdo con eso, pero una vez que haya terminado, la discusión ha terminado, simplemente siga adelante y haga el trabajo o rechace, revise sus valores una vez que le apetezca, pero no todos los días (o en cada papel para el ejemplo actual) y no ande preguntando a sus colegas sobre esto cada vez que tenga la oportunidad. No lo estoy minimizando, las empresas que desarrollan tales productos deberían y generalmente tienen psicólogos para apoyar a las personas que pueden sentirse incómodas con esta situación. Y preguntan si el empleado potencial está de acuerdo con trabajar en este tipo de producto, porque se debe pensar en esto.

Si bien algunas personas tienen objeciones acerca de trabajar con armas (particularmente las armas disponibles para el consumidor) y "votan con los pies" al negarse a trabajar en este campo, los aspectos prácticos de la vida se imponen en la existencia de una industria de "defensa" muy próspera, armada. policías, fuerzas armadas, etc. Simplemente hay muchos más votos a favor de que las armas existan y se desarrollen que de lo contrario, les guste o no, estén de acuerdo o no. Y tanto más demanda de más producción y desarrollo de armas.

Los comentarios no son para una discusión extensa; esta conversación se ha movido a chat .
Los académicos deben centrarse en las acciones y los resultados para este tipo de cosas. Definitivamente no es algo claro
"...fue un movimiento de empatía..." Encuentro divertidos esos eufemismos apenas disimulados. Te hace preguntarte si el maestro estaba insultando la inteligencia de los estudiantes que pueden haber tenido preocupaciones éticas sobre el proyecto. Algo así como 'o eres un verdadero patriota o eres tonto'. Otra de ellas es la categoría de 'defensa' de campo, compañía, etc., lo que implica que las armas están destinadas únicamente a la defensa de la nación y, por lo tanto, éticamente aceptables, cuando en realidad es mucho más probable que se utilicen para agredir. otras naciones soberanas.
Rechacé esta respuesta porque creo que argumenta que los académicos no deberían preocuparse por la ética, una opinión con la que no estoy de acuerdo.
La ética debe ser la base de cualquier actividad humana. El pragmatismo y el "objetivismo" en la ciencia es una amenaza para la humanidad.
Encuentro controvertido que alguien que se beneficia directamente de la industria armamentista aconseje a un académico que ignore sus cuestionamientos sobre la moral y siga revisando un artículo. Tenga en cuenta que un académico no recibe compensación financiera por esta revisión, lo que al menos les da total libertad para seguir su brújula moral.
@DmitrySavostyanov: Le aconsejé que se negara a revisar el artículo, dejar de lado las cuestiones morales para el caso en que el crítico insista en revisar. También tenga en cuenta que no tiene toda la razón al decir que los académicos no son compensados ​​económicamente por las reseñas. Consulte las respuestas en esta pregunta .
@DmitrySavostyanov Otro hecho de la vida es que no siempre se puede vivir y hacer negocios/investigar completamente exento de conflictos de intereses, y aunque las consecuencias de los conflictos de intereses deben controlarse, censurar las opiniones de las partes interesadas es bastante inmoral como bien (y a menudo contraproducente).
Agradezco sus comentarios y pensamientos. Yo también he luchado con los conceptos de mi trabajo. No los superas y es posible que te desensibilices, pero ver la muerte y la destrucción visitadas no es diferente. También trazaría paralelismos con la utilización de equipos de francotiradores como objetivos. Ellos mismos eligieron cuándo y dónde. Las historias que se vuelven a contar en los libros dejaron un recuerdo: sobre un equipo que vio a un tipo almorzar y, cuando terminó, le dispararon en la cabeza. Este es un objetivo complejo y nuestra moralidad y leyes no se han puesto al día con lo que es posible.
El hecho de que le resulte difícil dibujar una línea no significa que no se pueda dibujar una línea.
@henning--reinstateMonica e incluso si no se puede trazar una línea, eso no significa que no deba actuar en un caso en el que sienta que el problema está lejos del límite potencialmente borroso. La longitud de la costa depende de la escala que uses para medirla, pero sé que es más larga que mi pie.
@llama exactamente, eso se llama falacia de pendiente resbaladiza. "Si prohibimos el asesinato, terminamos prohibiendo los autos, porque la gente muere en el tráfico".

Puede que estés pensando demasiado en esto. Un revisor no acepta ni rechaza un trabajo. Un revisor recomienda al editor que acepte o rechace un artículo.

Si cree que la revista no debería querer involucrarse en la investigación de armas, recomiende el rechazo basado en motivos morales. Si el editor cree que no se deben considerar los motivos morales, o cree que la investigación de armas es ética, puede ignorar su recomendación.

La decisión difícil aquí recae en los editores¹, no en los revisores.


¹Proponer ejemplos más extremos de investigación que no ha dañado directamente a nadie en la metodología pero que aún tiene implicaciones fuertemente poco éticas se deja como un ejercicio para el lector.

Esto daría motivos para que los revisores religiosos recomienden el rechazo de los artículos que van en contra de su teología. No creo que un revisor deba hacer una recomendación sobre otra cosa que no sea el contenido científico de un artículo.
@Persistencia Si un revisor cree que una revista no debería querer involucrarse en la investigación del aborto, entonces tiene derecho a recomendarlo. Es muy probable que los editores no estén de acuerdo y probablemente no vuelvan a pedirle a esta persona como revisor. Ningún daño hecho. Creo que "¿es esta investigación ética?" es una pregunta relevante para que la consideren los revisores, la nota al pie de mi respuesta contiene un enlace sobre en qué dirección estoy pensando cuando se lleva al extremo.
De acuerdo con Gerrit. Hay un continuo multidimensional de la moral. Este ejemplo definitivamente se encuentra en un área gris donde las personas razonables pueden estar en desacuerdo, como muestran las respuestas. Pero para un revisor individual, el blanco o el negro pueden ser opciones fáciles. Los editores son los que se enfrentan a la difícil tarea de conciliar múltiples entradas.

tl; dr: mostrar la columna vertebral y rechazar el papel.

@Applied academic presentó cuatro cursos de acción en su respuesta ; Me refiero a esos y podrías ir a leer eso primero (pero no tienes que hacerlo).

Mi recomendación es:

  • Comience con (4): compruebe si la revista es un lugar problemático. Es posible que haya cometido un error si se ha asociado con una revista que ocasionalmente legitima asesinatos y vigilancia policial letal militarizada con drones u otras actividades similares.
  • Si se trata de una revista problemática, simplemente siga adelante con (4).
  • Si la revista rara vez, o nunca, publica tal trabajo: Hacer (1). Es decir, rechazar el artículo debe ser rechazado por motivos éticos. El hecho de que existan pautas éticas y prohibiciones aceptadas significa que tiene suficiente fundamento para afirmar que dicha investigación no debe aprobarse, legitimarse y difundirse a través de la revista. Trate de presentar su argumento sobre un principio general y, si tiene información creíble sobre la investigación específica que está revisando, ejemplos de abuso de la tecnología de drones por parte de los autores, su instituto, sus patrocinadores o su gobierno. Desafortunadamente, tales ejemplos abundan en nuestro mundo de hoy.

Estoy en contra de la opción de opciones (2), porque quejarse de la falta de una "sección de ética" sugiere implícitamente que el documento en general está cerca de ser legítimo. También estoy en contra de la opción (3), porque eso significa que ha "pasado la pelota": ha hecho su parte para que se publique ese artículo y ahora espera que el editor tenga más agallas que usted. Es dudoso que lo hagan, después de ver que has estado de acuerdo.

Nota: @DanRomik enfatiza en un comentario que un revisor en realidad no rechaza ni acepta un artículo, sino que recomienda su aceptación o rechazo. Vale la pena recordarlo incluso si nosotros (y esta respuesta) usamos los términos "rechazar" o "aceptar".

Rechazar un artículo sobre la base de consideraciones éticas de este tipo no es, en sí mismo, ético.
@puppetsock: 1. ¿Según qué estándar ético? 2. Esa revista ya supuestamente aplica consideraciones éticas, según OP.
Tiene sentido aclarar que los revisores no rechazan artículos, solo recomiendan el rechazo. Y si la recomendación se basa en una razón que el editor considera irrelevante para la tarea que le pidió al revisor que realice, simplemente enviará el artículo a otro revisor. Entonces, a menos que esté sugiriendo que OP mienta y rechace el artículo basándose en motivos técnicos falsos e inventados, este rechazo simbólico de protesta no es diferente a simplemente retirarse de la revisión.
@DanRomik: 1. Punto tomado sobre quién hace la llamada final (aunque a veces es una fórmula mecánica de las llamadas de los revisores). 2. "A menos que esté sugiriendo que OP mienta" <- ¿He sugerido algo así? No; Entonces, ¿por qué hacer tal alusión? 3. Es completamente diferente. Un rechazo ético conlleva la amenaza de más acciones (públicas) si el editor no lo confirma.
@einpoklum entendido, gracias. Sí, tanto su sugerencia como la explicación me parecen razonables.
Estoy en desacuerdo con "show backbone". Esto es algo agresivo y ofensivo para decir, ya que está insinuando que si OP elige un modo de acción alternativo, entonces carecen de columna vertebral (y también cualquier otra persona que lea su respuesta que no esté de acuerdo con que esto sea lo mejor que se puede hacer). Le sugiero que también "muestre algo de columna vertebral" y edite su respuesta... ;-)
@DanRomik: La implicación está ahí para OP, pero no para otros lectores. OP ha indicado que tiene problemas éticos con el documento, pero duda en actuar al respecto. Así que sí, creo que si deja que lo que creo que él cree que son excusas le impidan actuar, estará mostrando falta de agallas. Espero que OP aprecie este tipo de postura enfática.
@DanRomik es la primera vez que escucho esa frase interpretada como "agresiva" u "ofensiva".

Tienes varias opciones viables, obviamente. Mi inclinación personal es que si elige recomendar rechazar el artículo en base a la ética de los drones armados, exprese esa opinión en la revisión y bájese del escenario, absteniéndose de revisar sobre asuntos científicos.

De esta manera, se toma nota de su objeción, no se ha convertido en parte de la mala situación ética y le da al editor la oportunidad de seguir la recomendación o buscar una revisión adicional.

El otro extremo es recomendar rechazar el artículo, no decir que es por razones éticas y buscar una justificación científica para su recomendación. Personalmente, consideraría este sabotaje científico y, por lo tanto, recomendaría no hacerlo.

El término medio es declarar su convicción, pero ofrecer una revisión científica justa. Creo que esto es difícil de hacer, y pone en duda su revisión. Me abstendría de hacer esto.

Personalmente, si tuviera esta convicción moral en particular, simplemente contactaría al editor y me negaría a revisar el artículo, explicando por qué.

Las industrias de defensa han impulsado un montón de tecnología. Hay quienes fomentan este esfuerzo. Puedo entender negarme a ser parte de esto, pero trazo mi línea personal cuando se trata de sabotear el campo con críticas falsas. Hay formas de que sus convicciones no lleguen a esto: rechace la revisión, escriba una carta al editor para su publicación, trabaje en el liderazgo de organizaciones profesionales para poner fin a la política de publicar tales cosas, recomiende a su bibliotecario que cancelar suscripciones, etc.

Resumen: las preocupaciones éticas vienen en grados.

  1. Algunos están lo suficientemente estandarizados en el mundo académico (o incluso en el público en general) en todo el mundo que violar estos estándares significa que el trabajo debe ser rechazado por motivos éticos.

  2. Otras preocupaciones éticas son más personales en el sentido de que un revisor puede considerarlas personalmente, pero no están tan ampliamente aceptadas/estandarizadas como para que los autores deban responsabilizarse ante ellas.
    OP debería tolerar en mi humilde opinión que otros puedan tener un punto de vista diferente para estas preocupaciones (2.).

    Aún así, las preocupaciones éticas personales generales (2.) a menudo incluyen preocupaciones éticas que son ampliamente aceptadas (1.) pero en un alcance más limitado. Estos nuevamente están en el tema para revisar el documento.


Sugeriría analizar un poco más los puntos (no) éticos.

Nunca he tenido que ver con la investigación de armas, pero en mi campo los experimentos con animales son relevantes, así que los usaré como un ejemplo para el cual he considerado mi ética personal, y para el cual también me he encontrado con las consideraciones éticas de otras personas. .

Aquí está mi punto de vista:

  • ¿Es el punto poco ético algo que es "universalmente" * aceptado como poco ético por la academia o incluso por el público en general? En otras palabras, ¿existe un consenso general actual que diga que no es ético, y posiblemente incluso se violan los requisitos éticos formales estandarizados? Si es así, rechace por motivos éticos.

    Los ejemplos serían el plagio, la presentación de resultados u observaciones falsificados o un diseño de estudio que las reglas en las que trabajan los comités de ética consideran poco ético (si hay una variación local relevante, juzgaría por las reglas locales donde se encuentran los autores).

    * Busco un nivel de acuerdo que sea más fuerte/más amplio que "mis amigos profesionales están de acuerdo conmigo" y también más fuerte que "mi comunidad/sociedad local" o "mi religión dice": por ejemplo, mi país tiene leyes más estrictas (que yo tomar como sustituto de los acuerdos éticos) sobre experimentos en humanos que algunos otros países. Pero estas diferencias nosignifica que otra sociedad piensa que causar daño a los humanos es éticamente correcto, las diferencias resultan de matices en dónde se traza exactamente la línea, cuánto sufrimiento se considera que causa un procedimiento en particular, cuánto sufrimiento se considera soportable y cuánto sufrimiento se considera vale la pena. Así que puede haber algunos casos en los que el juicio difiera, pero en muchos casos, el juicio ético estará de acuerdo. Y eso es lo que busco aquí: un "consenso general actual" (gracias @ObscureOwl) en todos los continentes, países, religiones...

    (No creo que se pueda afirmar que todas las personas estén de acuerdo en un punto ético dado, pero pedir un acuerdo tan absoluto no tiene sentido para el propósito práctico aquí, ya que no podría usarse para determinar si los actos de alguien no son éticos: tan pronto como como no estarían de acuerdo, no se pudo llegar al acuerdo requerido).

  • Pero puedo tener objeciones éticas que resultan de mi (OP) visión del mundo/filosofía/religión/... y donde diría que si bien está perfectamente bien objetar personalmente, pero aquí yo (OP) tengo que tolerar ese otro la gente tiene otros puntos de vista. Aquí,

    • un rechazo como el anterior no es posible. Sería abuso de poder por parte de un revisor imponer su opinión personal a los autores y, por lo tanto, poco ético.

    • Puedo decir "No estaré asociado de ninguna manera con ninguna investigación de este tipo" y negarme a ser un revisor.
      Desafortunadamente, esto no hará lo más mínimo en términos de disminuir la investigación poco ética.

    • A veces, profundizar un poco más en por qué exactamente se opone a esta investigación puede ayudar a llegar a una solución más constructiva en la que hago la revisión y de una manera justa y relevante hago oír mis preocupaciones.

    Las preocupaciones personales generales que se expresan en un nivel más detallado pueden traducirse en preocupaciones éticas universalmente acordadas (en un ámbito más limitado que la preocupación más general) o, a veces, también en puntos científicamente relevantes.


Ejemplo de investigación médica.

Una vez recibí un artículo para revisión en el que se habían usado y matado más de 100 roedores para la investigación. El documento informó la aprobación ética adecuada y el manejo adecuado (hasta ahora cumplió con los requisitos éticos universalmente acordados). Habían estudiado un montón de condiciones diferentes.
Las muchas condiciones diferentes significaron que los subgrupos en el experimento tenían solo muy pocos animales. Si bien a primera vista puede ser bueno no hacer sufrir a más animales, en realidad significaba que todo el estudio no valía nada porque no se podían sacar conclusiones confiables. Esto podría haberse sabido de antemano.

Así, tenemos

  • las preocupaciones científicas de una planificación de tamaño de muestra no adecuada, lo que lleva a
  • los resultados del estudio son demasiado inciertos para tener algún valor científico y esto también conduce a
  • la preocupación ética universalmente acordada de que se causó sufrimiento innecesario a los animales.

En otras palabras, razones válidas para recomendar rechazar el estudio.


 Aplicación al artículo en cuestión

Una diferencia obvia entre este ejemplo y los brazos automatizados es que las preocupaciones con la investigación con animales son sobre lo que ya se ha hecho, mientras que supongo que sus preocupaciones sobre los brazos automatizados son más sobre las consecuencias futuras de la vida real.

Considere como un experimento mental que es aceptable que piense en preocupaciones más especializadas, como que la tecnología propuesta representa un peligro para los civiles.

Si bien, como usted dice, la prohibición de las armas automatizadas no está (todavía) acordada universalmente, AFAIK está universalmente acordado que los civiles no deben correr un peligro innecesario o innecesariamente alto.

Partiendo de esta preocupación ética más estrecha pero universal, sospecho por su descripción que puede haber varias preocupaciones científicas y de ingeniería relacionadas con el artículo. Los cuales son serios debido a las preocupaciones éticas detrás de ellos.

El rendimiento del algoritmo se puntúa en función del número de veces que el dron simulado alcanza el objetivo de forma autónoma.

Cualquier figura de mérito como mucho puede ser parte de la verificación y validación del algoritmo.

La validación debe incluir la estimación y el informe del riesgo para los civiles: si no sabemos si el algoritmo genera un peligro innecesario para los civiles, no podemos considerar que sea adecuado para su propósito.

Personalmente, sospecho que, además, hay una compensación aquí, ya que golpear más objetivos puede muy bien tener el precio de golpear también a más civiles. Si eso es posible, una función de puntuación que no penalice golpear a civiles bien puede considerarse intrínsecamente inadecuada incluso para fines de desarrollo.

Con frecuencia encuentro procedimientos de validación defectuosos en documentos con temas mucho menos peligrosos. Si el tema no es demasiado importante, y el esfuerzo experimental para realizar una validación adecuada es desproporcionado ahora, a menudo estoy bien si las limitaciones resultantes se discuten honestamente.

El manuscrito en preguntas ni siquiera parece cumplir con este requisito mucho más débil:

Los autores nunca discuten las posibles preocupaciones éticas de esta tecnología,

(Y con un tema tan crítico, insistiría en una validación adecuada).


tampoco dicen explícitamente si esta tecnología se utilizará en drones reales

... esto puede que no lo sepan.

¿Sobre la ética universalmente acordada? ¿Hubo alguna vez tal cosa?
Creo que "universalmente acordado" es una mala elección de palabras. ¿Quizás algo así como "consenso general actual"? Pero creo que esta respuesta tiene un buen punto: algunas éticas están lo suficientemente "estandarizadas" y capturadas formalmente en una política que puede rechazar un artículo basado en ellas. En este caso, el consenso académico parece ir en la dirección de prohibir las LEYES, pero no ha sucedido (todavía).
Por lo tanto, aún puede negarse a revisar el documento por sus propios motivos éticos personales. La revista puede entonces buscar un revisor diferente si lo desea. Pero al tomar esa posición, mueve un poco la discusión ética general en la dirección de dejar de apoyar la investigación de LAW.
@Bex: agregué una aclaración de lo que quiero decir con "universal".
@ObscureOwl: gracias por la sugerencia, me gusta (aunque principalmente mantuve universal ya que es más corto). También agregué una aclaración más larga de lo que quiero decir, que creo que todavía se necesita con la corriente principal para asegurarme de que la corriente principal no sea solo la corriente principal local en el grupo de pares más cercano de OP.
Y por supuesto negarse a revisar es una opción válida. Pero como máximo le dirá al editor que hay un revisor más con preocupaciones éticas (si el formulario de rechazo presenta la posibilidad de dar una razón y eso se lee). Los autores nunca sabrán esto debido al cegamiento, y sería aún más importante que los autores conozcan las inquietudes que el editor las conozca; después de todo, son los autores quienes llevan a cabo la investigación a la que OP se opone.

En el contexto de revisar un artículo para su publicación, no es su trabajo salvar el mundo. Establecer un diálogo con los autores sería colocarse como árbitro de las acciones de un grupo de personas. El editor de la revista debería, con razón, rechazar tal plan como parte de la revisión de un artículo. Aunque es posible que un programa de este tipo sea aceptable fuera del contexto de una revisión de un artículo, la revista de ninguna manera está obligada a seguir dicho plan.

Básicamente tienes dos opciones. Puede retirarse de la revisión. O puede dar una revisión objetiva del artículo basada en el contenido y las políticas de publicación de la revista.

Si la revista en cuestión publica rutinariamente dicha información y usted no puede aceptar dichos elementos como morales o éticos, entonces debe informarles de inmediato que no debe ser considerado para revisar dichos artículos.

La cura para el habla con la que no estás de acuerdo es más habla. Si cree que el trabajo de este artículo no debería haberse hecho, entonces debe publicar su trabajo explicando por qué. Habrá salidas para sus posiciones y argumentos. Si son argumentos sólidos basados ​​en un razonamiento sólido y datos válidos, serán aceptados.

No voté negativamente tu respuesta. Sin embargo, creo que parte del razonamiento que subyace a su respuesta permanece oculto detrás del "objetivo" del mundo. Muchos estarán de acuerdo en que el artículo debe evaluarse objetivamente, pero pocos pueden estar de acuerdo en lo que eso realmente significa. Su respuesta implica que es obvio que la ética y la moralidad son consideraciones subjetivas, no científicas y sociológicas, y no deben ser parte del proceso de revisión. ¿Puede dar más detalles sobre lo que, en su opinión, son criterios puramente objetivos? ¿Son novedad, significado, claridad o amplio interés?
Hice. "... con base en el contenido y las políticas de publicación de la revista".
"La cura para el habla con la que no estás de acuerdo es más habla". ¿De verdad crees que el discurso es el problema aquí? La razón por la que podría oponerme a que alguien le enseñe a la gente cómo construir armas no tiene nada que ver con la libertad de expresión y tiene todo que ver con el hecho de que la gente puede tomar ese conocimiento y construir armas con él. Aquí la conexión es aún más directa: la investigación en cuestión muy probablemente fue financiada con la intención específica de desarrollar y desplegar dicho armamento. Además, al igual que los comentarios de AA, sus argumentos se pueden adaptar fácilmente a los que se oponen a los IRB. ¿Te opones a los IRB?
"... con base en el contenido y las políticas de publicación de la revista". Le estoy preguntando qué hace que ciertos criterios sean aceptables para considerar y otros no. No es muy satisfactorio decir que seguiremos ciegamente los criterios de la revista. Las editoriales académicas existen para difundir la investigación que los académicos consideran importante, no al revés.
@StellaBiderman "Discurso" es de lo que se trata revisar un artículo de revista.
Lea literalmente, no hay nada en esta respuesta con lo que no esté de acuerdo. Pero implícitamente, sugiere fuertemente que “una revisión objetiva del artículo basada en el contenido y las políticas de publicación de la revista” es incompatible con la idea de plantear inquietudes éticas en la revisión, lo que podría decirse que es una dicotomía falsa, ya que la mayoría campos con un impacto ético significativo consideran esa ética una parte importante de su integridad científica. Si el que responde no tenía la intención de esta implicación, sugiero que lo aclare; si lo intentaron, sugiero que lo justifiquen explícitamente.
Nunca quise "Salvar el mundo", solo quiero hacer mi parte del trabajo. Cerrar los ojos ante un problema no es la solución. El hecho de que una revista no tenga una política para este tipo de artículos no significa que los revisores no deban señalar sus propias preocupaciones. Las políticas no son inmutables, se pueden adaptar cuando surgen nuevos problemas o nuevos puntos de vista. Habiendo dicho eso, en este momento me inclino por escribir una revisión técnica imparcial del artículo, mientras presento mis preocupaciones éticas tanto al editor como a los autores.
@richard "Muchos estarán de acuerdo en que el artículo debe evaluarse objetivamente, pero pocos pueden estar de acuerdo en lo que eso realmente significa". ¿Los estándares por los cuales la revista pidió que se revisaran los artículos?
Equiparar no participar en una revisión y "cerrar los ojos" es parte del problema aquí. Nunca dije que había que ignorar la cuestión ética. De hecho, sugerí cómo abordarlo. Pero no debe hacer eso como revisor de artículos de revistas.

Para mí, la respuesta es bastante simple.

El asunto que nos ocupa no es considerado poco ético por una clara mayoría de la comunidad científica (si lo fuera, habría reglas en contra). En consecuencia, ya sea que considere que no es ético o no, es de poca relevancia, sus puntos de vista no deberían afectar la capacidad de la máquina científica para progresar.

Por lo tanto, sus opciones son retirarse y no hacer ninguna recomendación sobre lo que sucede con el documento o revisar el documento según sus méritos y dejar las discusiones sobre ética en su foro adecuado, que no es el proceso de revisión.

Gracias por tu opinión. Su suposición tiene una falacia lógica, el hecho de que no haya reglas contra una tecnología específica no implica que la mayoría de la comunidad científica la considere ética. Estoy parcialmente de acuerdo contigo con respecto a la segunda parte de la respuesta.
Para ser claros, no dije que la mayoría de la comunidad científica lo considere ético. Dije que una clara mayoría no lo considera poco ético... Hay una diferencia sutil ahí. Me imagino que la mayoría de las personas (incluido yo mismo) están actualmente indecisos sobre el tema. La comunidad ciertamente no está unida contra la investigación, ese es mi punto.
Gracias por la aclaración, sin embargo, la falacia en la suposición aún permanece incluso con la reformulación. Una posible forma de conocer la posición de la comunidad investigadora sería una encuesta a gran escala, esto no se puede inferir por el hecho de que no hay reglas contra algo. Estoy de acuerdo con usted en que las posiciones éticas no deben influir en el rechazo/aceptación de un artículo (obviamente, solo en el caso de que esas preocupaciones no formen parte de las pautas oficiales).
No, sigo en desacuerdo... El hecho de que no haya reglas en contra es evidencia en sí mismo de que no hay consenso en contra. De lo contrario, habría una moratoria.
@Persistencia No existe una regla para comenzar a cantar canciones de rap en voz alta cuando se reúnen para una noche de juegos de mesa, sin embargo, en casi todos los casos, puedo imaginar que la mayoría de los participantes no estarían particularmente bien con eso. Lo único que se puede deducir de la inexistencia de una regla es que la gente aún no ha hecho la regla. De la existencia de una regla se puede deducir que hubo suficiente apoyo para introducir la regla (eso tampoco significa necesariamente mayoría según el contexto). Pero en general, esta es una calle lógica de un solo sentido.
@Persistencia por cierto. algo puede muy bien ser poco ético cuando es apoyado por la mayoría. Los genocidios son en general poco éticos, sin embargo, la mayoría de los países en los que ocurren a menudo están a favor o son neutrales. En general, la academia es en muchos aspectos una subcultura relativamente no regulada, con relativamente pocas reglas y decisiones ad-hoc. Cuanto mayor es la confianza en la ética personal y más razones para tener claridad sobre ellas.

Revisaría el documento y señalaría que las limitaciones prácticas del trabajo no están claramente establecidas.

El objetivo final de esta investigación es claramente construir un sistema de armas autónomo que pueda funcionar en el campo de batalla. Ahora bien, toda guerra está sujeta a la ley. Esto incluye el principio de proporcionalidad. El principio de proporcionalidad admite daños colaterales y bajas civiles siempre que dichas pérdidas no sean excesivas en comparación con la ventaja militar directa resultante del ataque.

Es claro que los autores no han considerado el principio de proporcionalidad, porque su algoritmo de puntuación no considera el valor del objetivo militar y no tiene el concepto de daño colateral o la pérdida de vidas civiles. De ello se deduce que cualquier sistema de armas autónomo controlado mediante su algoritmo tendrá un alto potencial para violar las leyes de la guerra. Por lo tanto, su investigación tiene un valor práctico limitado y, como académicos, están obligados a establecer claramente dichas limitaciones.

Si se hace a un lado, no hay garantía de que se mencionen estas limitaciones tan prácticas. Más importante aún, los lectores no recordarán las leyes de la guerra.

Hay un buen resumen de los principios legales de la guerra en este artículo . El enfoque principal está en el principio de proporcionalidad.