La idea de singularidad tecnológica y lo que significaría si la inteligencia humana ordinaria fuera mejorada o superada por la inteligencia artificial. La idea de que la historia humana se está acercando a una “singularidad” –que algún día los humanos serán superados por máquinas artificialmente inteligentes o por inteligencia biológica mejorada cognitivamente, o ambas– ha pasado del ámbito de la ciencia ficción al debate serio. Algunos teóricos predicen que si el campo de la inteligencia artificial (IA) continúa desarrollándose al ritmo vertiginoso actual, la singularidad podría surgir a mediados del presente siglo. Murray Shanahan ofrece una introducción a la idea de singularidad y considera las ramificaciones de tal evento potencialmente sísmico. El objetivo de Shanahan no es hacer predicciones, sino investigar una variedad de escenarios. Ya sea que creamos que la singularidad está cerca o lejos, probable o imposible, apocalipsis o utopía, la misma idea plantea preguntas filosóficas y pragmáticas cruciales, lo que nos obliga a pensar seriamente sobre lo que queremos como especie. Shanahan describe los avances tecnológicos en IA, tanto de inspiración biológica como de ingeniería. Una vez que se haya logrado la IA a nivel humano, teóricamente posible pero difícil de lograr, explica, la transición a la súper inteligencia artificial podría ser muy rápida. El autor considera lo que podría significar la existencia de máquinas súper inteligentes para asuntos como la personalidad, la responsabilidad, los derechos y la identidad. Algunos agentes de IA sobrehumanos podrían crearse para beneficiar a la humanidad; algunos podrían volverse pillos (¿es Siri el modelo o quizás HAL?). La singularidad presenta tanto una amenaza como una oportunidad existencial para que la humanidad trascienda a sus limitaciones. Shanahan deja en claro que debemos imaginar ambas posibilidades si queremos lograr el mejor resultado.
