La mayoría de nosotros en realidad no somos muy inteligentes, entonces ¿por qué las personas asumen que una IA general a nivel humano en realidad sería un ser inteligente?

Incluso los humanos de inteligencia promedio son capaces de ejecutar fácilmente algunas tareas que la supercomputadora más avanzada no puede realizar, como entregar una manicura o escribir una historia. El supuesto es que cuando una computadora podría realizar estas tareas, él podría realizarlas de manera más eficiente que el humano promedio (escribir un libro en 10 segundos, por ejemplo), y quizás, con la aplicación de suficiente poder de cálculo, quizás mejor que cualquier humano (escribe la “novela perfecta”).

Lo que mencionas es tan importante. Tenemos un prejuicio hacia la IA que comenzó con los primeros investigadores en el tema. Ya que eran inteligentes, ¿cuál es el mejor regalo que podían otorgar a su máquina? ¡Inteligencia!

Si fuéramos a presenciar la creación de una máquina de conciencia, no necesariamente querríamos hacer investigación científica. Si tuviera libre albedrío, la máquina podría querer ser un jugador profesional de bolos.

A los seres humanos les gusta pensar que son inteligentes, al menos más inteligentes que todas las demás especies conocidas. La otra parte a considerar es sin importar cuán estúpida o ignorante o parcial sea una persona, todos los seres humanos muestran algún nivel básico de conciencia, juicio, emoción y poder de discriminación; también son algo difíciles de replicar en la IA.