Digamos que una empresa en mi mundo futuro tiene un algoritmo que puede evaluar y contratar candidatos para el puesto. ¿Causaría esto potencialmente problemas como prejuicios o contrataría personas de manera injusta? ¿También podría ser poco fiable?
Potencialmente sí
Ciertamente podría, dependiendo de cómo había sido programado. El código de computadora normalmente se prueba antes de su uso, especialmente si se va a usar en una aplicación importante. Sin embargo, ninguna prueba es infalible y, a menudo, los errores o fallas no se manifiestan hasta más tarde, cuando el código está en uso. Hay un viejo dicho en los círculos de programación que dice que el problema de hacer algo a prueba de tontos es que los tontos son muy ingeniosos.
También es posible que no lo fuera si se hubiera tenido suficiente cuidado en el diseño del código y se hubieran realizado suficientes pruebas. Los sistemas críticos, como los pilotos automáticos de los aviones y similares, a menudo deben someterse a pruebas particularmente duras antes de entrar en funcionamiento para evitar o minimizar los errores. Realmente depende de los problemas potenciales que puedan surgir.
En su ejemplo, una forma de probarlo sería ejecutar el algoritmo en paralelo con revisores humanos durante un tiempo y comparar los hallazgos de cada uno.
Mołot
Geo
usuario489150
AlexP
Mónica Celio
atakanyenel