Nobel de Economia alerta que a IA pode colapsar o conhecimento humano

Quando a IA entrega respostas prontas e diretas, as pessoas param de se esforçar. E se o esforço é reduzido, há uma contribuição menor para o estoque coletivo de conhecimento. É como um ciclo vicioso que não causa uma catástrofe repentina, mas uma degradação gradual e invisível.

A Wikipédia e Stack Overflow, plataforma de perguntas e respostas para programadores, talvez sejam os sinais mais concretos. As duas plataformas foram construídas pelo esforço voluntário de pessoas que compartilharam o que sabiam. Desde que o ChatGPT chegou, no entanto, as duas registram queda significativa de atividade, perguntas e artigos novos. É o conhecimento coletivo sendo sugado para dentro de um sistema que distribui, mas não repõe.

Mas e a própria IA? Ela não poderia então gerar esses novos conhecimentos?

A resposta não é tão simples. Em domínios estreitos e verificáveis, sim. Um exemplo é o AlphaGo, que aprendeu jogando contra si mesmo e gerou um conhecimento genuinamente novo. Mas em domínios abertos que importam para a vida humana, como medicina, ciências sociais, direito, cultura, entre outros, não existe um critério automático de verificação.

Isso não quer dizer que a IA não pode ser combinada em um processo colaborativo entre humanos e máquinas, o que não podemos esperar é uma geração espontânea de conhecimento genuíno como um passe de mágica. É curioso, mas a IA não sabe nem os problemas que ela pode resolver.

O resultado mais contraintuitivo do artigo é que a relação entre a precisão da IA e o ganho social não é linear. Uma IA moderadamente boa pode aumentar o conhecimento coletivo porque ainda preserva os incentivos humanos de aprender. Já uma IA muito precisa pode fazer o oposto, destruindo os incentivos que aumentariam o estoque de conhecimento geral que torna o individual útil. Quanto melhor a IA, pior pode ser para a humanidade no longo prazo.