¿Podría la IA extremadamente avanzada experimentar amor y odio y placer y dolor?

Answer 1

Sí. Mi creencia es que los AI de alto nivel necesitarán ser muy parecidos a los humanos en muchos aspectos, a fin de comprender adecuadamente a los humanos y responder como humanos. La forma más fácil de lograr esto será diseñar las IA para que funcionen como lo hacen las personas. En realidad, esto significa desarrollar la capacidad para que la entidad tenga sus propios objetivos, unidades, necesidades y poder manejar las emociones (aunque tal vez con una capacidad aumentada, como la capacidad de mantenerse fresco en una emergencia).
El amor, el odio, el placer, el dolor son cosas diferentes con cualidades bastante diferentes, pero en general se podría hacer que una IA tenga la capacidad de experimentarlas. Tendríamos que crear un sistema que sea capaz de manejarlos desde la base, no solo aprender sobre ellos. En otras palabras, la capacidad tendría que estar integrada. Sé que esto es posible, ya que diseño sistemas con eso.

Answer 2

El amor y el odio y el placer son sentimientos complejos. Como programador, tengo que pensar más en la necesidad de tales sentimientos en una IA. Sin embargo, el dolor es necesario para la autoconservación, es decir, para proteger la IA de un peligro. Así, lo programaría en la IA.