9 meses atrás 144

5 polêmicas envolvendo inteligência artificial que você precisa saber

Um dos assuntos mais comentados da atualidade, a inteligência artificial (IA) já virou parte do dia a dia de milhões de pessoas ao redor do mundo. Afinal, essa tecnologia pode ajudar em várias tarefas do cotidiano, como a geração de textos, imagens, vídeos e áudios. Contudo, mesmo que tenha uma série de utilidades, a IA também pode errar e criar problemas para marcas, empresas e usuários. Na lista a seguir, o TechTudo selecionou cinco polêmicas envolvendo a tecnologia. Saiba mais sobre cada situação e veja quais foram as falhas apresentadas pelas ferramentas.

1. McDonald's encerra experimento de IA no drive-thru após falhas

Uma das principais redes de fast-food do mundo, o McDonald's já enfrentou problemas ao implementar a IA no serviço de drive-thru. Ao longo de três anos, a rede fez um teste junto com a empresa de tecnologia IBM (International Business Machines Corporation) para fazer com que a inteligência artificial recebesse os pedidos dos clientes em mais de 100 drive-thrus nos Estados Unidos.

Entretanto, o McDonald's decidiu encerrar os testes em junho de 2024. Isso porque a IA mostrou diversas falhas e dificuldades para entender os pedidos, o que gerou uma série de clientes frustrados com a interação. Inclusive, um post do TikTok viralizou ao mostrar duas pessoas tentando fazer com a que inteligência artificial parasse de adicionar mais nuggets ao pedido - que acabou com o total de 260 nuggets.

2. Grok AI acusa falsamente jogador da NBA de vandalismo

O Grok, chatbot de inteligência artificial criado pela empresa xAI, de Elon Musk, já apresentou alucinações e disseminou conteúdo falso. A ferramenta, que está integrada ao X (antigo Twitter), fez uma publicação em abril de 2024 acusando o jogador da NBA Klay Thompson de atirar tijolos em casas localizadas na cidade de Sacramento, na Califórnia.

É provável que a IA tenha alucinado ao fazer esta publicação sobre vandalismo após acessar posts com o termo “throwing bricks", que, em português, significa "jogando tijolos". Esse é um jargão comum no universo do basquete e indica que um foi arremesso perdido. Em uma final contra o Golden State Warriors, o time de Klay Thompson sofreu uma derrota que gerou publicações com o termo na internet. Esse é um caso que traz debates em torno da responsabilidade de uma IA ao fazer declarações falsas e difamatórias.

3. Amazon enfrenta críticas por viés em sistema de recrutamento

Outra grande empresa que já enfrentou problemas com IA é a Amazon. Para ajudar o setor de RH a selecionar candidatos para as vagas disponíveis, em 2014 a companhia implementou um software de recrutamento que utilizava inteligência artificial para facilitar o processo. No entanto, a empresa começou a enfrentar críticas já que o sistema de IA preferia majoritariamente candidatos do sexo masculino, o que fez a Amazon abandonar o uso da IA em 2018.

De modo geral, a inteligência artificial usada pela Amazon classificava os candidatos de 1 a 5 estrelas. Porém, o modelo foi treinando com currículos enviados à companhia durante dez anos, sendo que a maioria deles era de homens. Com isso, a IA passou a criar um viés que penalizava currículos com a palavra "feminino". Vale ressaltar que a Amazon tentou fazer ajustes para que a IA fosse mais neutra, contudo, como não poderia garantir que o sistema não aprenderia outros filtros discriminatórios para classificar candidatos, a empresa optou em encerrar o projeto.

4. DeepMind coleta dados de saúde sem consentimento

A DeepMind, empresa de inteligência artificial do Google, também já foi alvo de críticas por coletar dados de saúde sem ter o consentimento dos pacientes. O caso ficou em alta em 2016, quando a empresa foi alvo de um processo no Reino Unido por ter recebido informações sigilosas de mais de um milhão de pacientes para um projeto de desenvolvimento de um aplicativo para o hospital Royal Free, em Londres.

Na época, a empresa de IA do Google foi contratada para ajudar a desenvolver um aplicativo que usava um algoritmo para alertar os médicos sobre os primeiros sinais de lesão renal aguda. Contudo, em 2017, o órgão de proteção de dados do Reino Unido descobriu que o hospital havia violado a lei de proteção de dados por ter assinado um acordo de compartilhamento de informações sigilosas com a DeepMind.

5. Algoritmo de previsão de reincidência criminal apresenta viés racial

Por fim, outra polêmica envolvendo o uso de IA ocorreu com uma ferramenta de inteligência artificial, usada por tribunais dos Estados Unidos para avaliar a previsão de reincidência criminal. A plataforma tinha viés racial para oferecer os resultados e mostrava que pessoas negras tinham maiores chances de voltarem a cometer algum crime.

A ferramenta COMPAS (Correctional Offender Management Profiling for Alternative Sanctions ou Criação de perfis de gestão de infratores correcionais para sanções alternativas, em português), apontava erroneamente que réus negros tinham mais chances de serem julgados como pessoas com maior risco de reincidência criminal do que os réus brancos. A ferramenta de IA também apontava que os réus brancos tinham mais probabilidade de serem incorretamente considerados pessoas de baixo risco em comparação com os réus negros.

Veja também: Estagiário pergunta: você venderia sua íris?

você venderia sua íris?