Nick Bostrom

Nick Bostrom, nascido em 10 de março de 1973) é um filósofo sueco conhecido por sugerir que os avanços na pesquisa de inteligência artificial podem representar um perigo supremo para a humanidade, se o problema de controle não tiver sido resolvido antes da superinteligência. Além da aquisição de AI Singleton e dos cenários deliberados de extermínio da humanidade, Bostrom adverte que, mesmo que seja dada uma tarefa inócua (como fazer um milhão de clipes de papel), uma superinteligência pode otimizar impiedosamente e destruir a humanidade como efeito colateral. Os críticos no campo de AI acreditam que praticamente não há perspectivas de tais avanços, exceto no extremo a longo prazo. Bostrom diz que a história mostra que os principais pesquisadores geralmente estão mais próximos dos avanços tecnológicos do que eles percebem e, embora existam grandes benefícios da IA, o problema do controle deve ser a prioridade absoluta.