máquinas ultra-inteligentes e a pergunta ética

Ray Kurzweil define singularidade como: «um período futuro durante o qual o ritmo da mudança tecnológica será tão rápido e o seu impacto tão profundo, que a vida humana será irreversivelmente transformada. Embora não seja nem utópica nem distópica, esta época transformará os conceitos nos quais nos baseamos hoje para dar sentido às nossas vidas, desde os nossos modelos de negócios ao ciclo da vida humana, incluindo a própria morte. A compreensão da singularidade alterará a nossa perspectiva sobre o significado do nosso passado e os desenvolvimentos do nosso futuro. A sua verdadeira compreensão mudará necessariamente a nossa perspectiva da vida em geral e da vida de cada um em particular». O autor afirma-se não completamente confortável com esta ideia, mas foi levado a ela pela verificação de que o ritmo de desenvolvimento tecnológico está a acelerar exponencialmente, de tal modo que não há outra perspectiva possível: a evolução tecnológica acabará por superar e substituir a evolução biológica. O desenvolvimento exponencial das capacidades dos computadores acabará por dar origem a máquinas ultra-inteligentes que ultrapassarão a inteligência humana. Perante isto, tão fascinante quanto quase assustador, teima a pergunta ética: o que será melhor para o Homem?