ChatGPT puxa-saco afaga o ego, mas é terror do meio ambiente

Em novo episódio de Deu Tilt, o podcast do UOL para os humanos por trás das máquinas, o jornalista Helton Simões Gomes explicou que esse fenômeno ocorre devido ao feedback dado pelos usuários durante as interações com os bots. Cada "joinha" funciona como um reforço, que a máquina entende como orientação para continuar.

"No caso do ChatGPT, o que aconteceu com essa versão bajuladora é que o modelo aprendeu de uma forma que não necessariamente foi incluída no código, a dar mais peso a esse feedback a partir desse joinha e o modelo foi se auto reconfigurando para dar só as respostas que as pessoas querem"
- Diogo Cortiz

Essa bajulação está associada ao interesse das empresas em manter os usuários em suas plataformas. O pesquisador explica que se as pessoas passarem a não gostar dessas interações, isso pode significar perda de dinheiro para as empresas.

"No fim das contas, é uma relação comercial. Quanto mais o usuário fica ali [na plataforma] mais tokens ele gasta, mais ele tem que pagar, e isso vale dinheiro."
- Helton Simões Gomes

Contudo, essa permanência tem um custo que impacta o meio ambiente. Em uma postagem no X, o CEO da OpenAI, Sam Altman, respondeu a um usuário sobre o quanto custava a "boa educação" do ChatGPT. Dizer "obrigado" e "por favor" custa "algumas dezenas de milhares de dólares".

"Essa bajulação quando a intenção é fazer com que você converse cada vez mais com a IA, faz com que ela gaste mais energia, consuma mais recursos naturais e coloque mais pressão no meio ambiente"
- Helton Simões Gomes