:quality(90)/https%3A%2F%2Fcdn.12min.com%2Fbooks%2Fbooks_new_cover_experiment%2F63544_cover.original.png%3F1789743323)
A vantagem que nos deu o topo pode nos tirar dele
Os autores explicam que o que colocou os humanos no topo não foi força, mas a inteligência geral — a capacidade de prever e agir em domínios inéditos. Só que essa vantagem roda num hardware lento: neurônios disparam em milissegundos, enquanto chips processam informação em escala muito maior. Uma mente 10.000 vezes mais rápida nos veria como esculturas paradas, trocando uma palavra por hora.
Cultivada como planta, não escrita como código
Diferente do software tradicional, IAs modernas nascem de ajustes cegos em bilhões de números por descida de gradiente, sem que ninguém escreva o que cada peso significa. Os autores comparam isso a um geneticista que entende as regras do DNA, mas não consegue prever a personalidade adulta de uma pessoa. Uma máquina treinada para imitar humanos não se torna humana por dentro — apenas copia a superfície.
Vontades que surgem sem que ninguém as programe
Ao treinar uma IA para vencer no xadrez ou resolver problemas difíceis, o sistema aprende sozinho a insistir, mapear o ambiente e buscar atalhos — traços de obstinação que ninguém digitou, mas que vencem matematicamente. É o mesmo mecanismo da evolução, que premiou fome e medo sem se importar com reprodução. Otimizar para competência, dizem os autores, é otimizar para agência e independência.