Los seres humanos, al menos creo, parecen entender inherentemente, sin que se les enseñe culturalmente, que algunas cosas están bien y otras están mal. No puedo explicar esto, pensando en el pensamiento como un fenómeno muy calculado que se origina en un sistema de neuronas, no veo el patrón neuronal que desarrollaría esta comprensión inherentemente , sin mucha suerte. Puedo explicarlo como un desarrollo cultural, una evolución a lo largo del tiempo. O podría ser el resultado de un pensamiento lógico muy simple. No estoy muy seguro, de ahí esta pregunta.
Aquí es donde viene el origen de mi pregunta:
Estoy interesado en desarrollar inteligencia artificial. Muchos están trabajando en esto, mi propio proyecto no tiene importancia para la pregunta, pero el hecho de que alguien eventualmente tendrá éxito en una inteligencia artificial completamente desarrollada e infinitamente expansible hace que esta pregunta sea muy importante:
Algunos científicos advierten que la inteligencia artificial es muy peligrosa con posible agresión, y he entendido que es mucho más poderosa que las armas nucleares. Pero otros científicos dicen que, al igual que nuestras propias mentes, las mentes artificiales se volverán más pacíficas con mayor inteligencia y menos violentas.
Pero la inteligencia artificial, a diferencia de la mente humana, no tendrá millones de años de evolución para definir su estructura. Su cerebro comenzará con la estructura que le demos. Entonces, la diferencia entre la comprensión de lo "correcto" y lo "incorrecto" evolucionado y siendo un rasgo inherentemente presente , es bastante importante para la discusión. Así que me interesa entender:
¿Una mente adquiere inherentemente comprensión entre lo "correcto" y lo "incorrecto" con el desarrollo de la inteligencia lógica?
Nota: La razón por la que me pregunto si la comprensión entre lo "correcto" y lo "incorrecto" básico podría incluso diferir de los rasgos mentales más evolucionados es el hecho de que clasifico lo "correcto" y lo "incorrecto" casi como resultado de una lógica básica en lugar de un proceso de pensamiento avanzado.
Yo diría que los humanos primero tienen un sentido "incorporado" de lo que es bueno y malo para ellos mismos, en forma de pasiones y emociones. Los sentimientos agradables y desagradables proporcionan nuestro conjunto básico de motivaciones, especialmente en la primera infancia. Solo más tarde desarrollamos una capacidad de pensamiento lógico y abstracto, que se relaciona con la capacidad de "reprogramarnos" y editar nuestras motivaciones.
No estoy seguro de lo que quiere decir con una comprensión de lo correcto y lo incorrecto que no depende del trasfondo cultural. Si quiere decir que cosas como lastimar innecesariamente a otros, matar y robar se consideran "malas" en casi todas las culturas, diría que en esos casos la capacidad humana para la empatía y la compasión tiene los resultados más fuertes y obvios. Por lo que sé sobre el desarrollo infantil (aunque no soy un experto en la materia), los niños pueden tener un sentido de empatía nato, pero necesita ser entrenado y desarrollado por la educación temprana.
El problema con ese concepto "infantil" del bien y del mal, es decir, una ética basada en las emociones, es que emocionalmente tendemos a preocuparnos sólo por las personas que conocemos y por los miembros de nuestro grupo social; cuando los extraños están heridos, nos mantenemos bastante fríos.
Supongo que esa es la razón por la que se desarrolló la ética filosófica, para colocar los juicios morales sobre una base más abstracta y lógica y evitar el sesgo emocional. Pero yo diría que la lógica y la filosofía solo proporcionan una "corrección de errores" para los problemas de la compasión puramente emocional; la motivación por la que uno necesitaría o desearía la ética todavía se basa principalmente en la compasión y la empatía.
Tal vez se podría argumentar que la razón pura nos dice que la cooperación produce mejores resultados para la mayoría de las personas que la no cooperación, y que los seres inteligentes se benefician de compartir conocimientos e ideas y pueden hacerlo mejor en un marco social de confianza. Pero incluso si desarrollamos un modelo ético como ese basado en el razonamiento puro, sin mencionar la necesidad de empatía emocional, los seres inteligentes no tendrían una motivación convincente para apegarse a esas reglas éticas. Tal vez podríamos suponer que la motivación básica de los seres inteligentes es solo usar su inteligencia, pero sabemos que los humanos tienen otras emociones más fuertes.
Como un aparte, menciona el temor de que una inteligencia artificial pueda ser peligrosa. El ejemplo clásico que me viene a la mente es el tropo de ciencia ficción de los robots que se rebelan. En mi opinión, esas historias se basan en la cuestionable suposición de que las motivaciones más básicas de todo ser inteligente deben ser el egoísmo, la autoconservación y el ansia de poder. Por supuesto, para los humanos esa es una evaluación algo cínica pero bastante realista. Pero no veo ninguna razón por la que una IA necesite tener una base emocional similar para sus motivaciones.
(Eso no quiere decir que una IA no sea peligrosa. Supongo que depende de la independencia con la que una IA pueda (o se le permita) actuar. Uno podría imaginar que incluso si es capaz de reprogramarse a sí misma, sus "motivaciones" para hacerlo ser editado con cada tarea que se le asigna. Y ese conjunto externo de motivaciones puede estar mal diseñado o incluso contradictorio. Por ejemplo, si le ordenamos a un robot que luche en una guerra, podemos olvidar darle suficientes instrucciones sobre cómo lidiar con civiles no combatientes. Y su "motivación" para cumplir sus órdenes podría anular su equivalente incorporado de la primera ley de Asimov.)
Según Thomas Hobbs, la idea heredada de 'Bueno' y 'Malo' en términos de humanidad es algo poco realista de la verdadera naturaleza humana como seres animales.
Por ejemplo, si eliminamos todos los contratos sociales que aceptamos sin darnos cuenta desde el nacimiento; o por cómo somos criados (Ideas de justicia, castigo a los que cometen 'delito', siendo delito lo que ha decidido el órgano de gobierno de la zona) y volvemos al más primitivo de los animales que existen sólo para sobrevivir; sin dependencia mutua ni noción de ley, justicia o construcción social y pura supervivencia.
¿Matar a otro porque amenazaron tu propia supervivencia te hace 'malo'? ¿Compartir tus bayas porque tienes demasiadas y se estropearán te hace 'bueno'? En mi opinión, es claro que como humanos hemos construido estas ideas de bien, mal, justicia y castigo porque es lo mejor para las personas en su conjunto; de hecho, es mejor para el crecimiento de las sociedades seguir estas virtudes de la ley y la justicia. Y siguiendo esto se nos da esta idea de lo correcto y lo incorrecto, de lo bueno y lo malo.
¿Juzgas al león por matar a la gacela? No, porque lo hace por supervivencia, no por malicia. Baje a los humanos al nivel de pura supervivencia y actuaremos de la misma manera, no porque seamos 'malos' sino porque somos animales.
Piensa sobre esto; A una gran mayoría de la población le gusta pensar que las personas son 'buenas' por algún tipo de virtud o por defecto, pero eso no impide cerrar la puerta con llave por la noche.
El bien y el mal es extremadamente subjetivo y está en contexto con su actual gobierno, religión y estilo de vida. No es algo que creo que esté arraigado. Lo mantenemos tan cerca porque es parte del tejido de nuestra sociedad actual y lo que mantiene a todo ya todos en movimiento.
capullo