Vale do Silício ignora ética para criar IA sem freios, diz ex-Microsoft

Aqui todo mundo fala sobre a IA, mas poucos discutem a parte ética, pensando onde vamos parar se não for colocado um mínimo de regulação
Gabriela de Queiroz, ex-diretora de IA da Microsoft

Gabriela de Queiroz, ex-executiva da Microsoft, uma das maiores empresas de tecnologia do mundo, vive há treze anos no Vale e conhece bem essa dinâmica.

No episódio mais recente de Deu Tilt, o podcast do UOL para os humanos por trás das máquinas, Gabriela afirma que a preocupação ética ainda tem pouca repercussão. Segundo ela, o dinheiro está, em sua maioria, do lado de quem desenvolve as ferramentas, e não de quem questiona os rumos que elas estão tomando e os danos que podem causar.

Segundo ela, o debate atual sobre as fronteiras éticas da IA é bem mais tímido do que aquele que surgiu quando outras tecnologias de impacto, como o reconhecimento facial, começaram a ganhar força. Ter uma empresa puxando essa discussão pode fazer toda a diferença, mas é difícil que elas queiram assumir esse papel.

Ninguém vai entrar nessa discussão porque é ruim para elas [as Big Techs]. Guard rails e restrições vão diminuir o avanço e a rapidez de tudo o que está acontecendo. Ninguém quer botar freios. É uma corrida
Gabriela de Queiroz

Diversidade e inclusão vira assunto proibido nas big techs, diz ex-Microsoft

Para Queiroz, a chegada de Donald Trump à presidência dos Estados Unidos representou um retrocesso no trabalho que o setor de tecnologia vinha fazendo na área de diversidade e inclusão. Um dos impactos mais visíveis foi o fechamento de organizações criadas para apoiar a entrada de grupos minorizados no setor. Sem o apoio financeiro das big techs, muitas dessas iniciativas perderam força e acabaram encerrando suas atividades.

Ela também percebeu mudanças no dia a dia das empresas: atitudes machistas, que pareciam ter ficado no passado, voltaram a aparecer com mais frequência. Enquanto a Microsoft seguiu tocando seus projetos voltados para diversidade, empresas como o Google e a Salesforce chegaram a se posicionar publicamente, sinalizando um novo rumo —menos comprometido com a inclusão.

Cenário da IA é repleto de ruídos e ondas que nem sempre são o que parecem ser

A inteligência artificial virou prioridade máxima na Microsoft —muitas vezes em detrimento de outras áreas, como a dos games. Essa queda no prestígio causou, inclusive, movimentos de demissões em massa. Para Queiroz, apesar dos investimentos pesados, o cenário ainda é cheio de ruídos e ondas que nem sempre são aquilo que parecem ser.

Um exemplo? Os agentes de IA. Eles viraram a coqueluche do momento, tanto nas big techs quanto nas startups, mas nem tudo que brilha no protótipo funciona no mundo real. No atendimento ao cliente ou em call centers, até pode fazer sentido. Fora disso, parece mais uma jogada para ganhar espaço na mídia do que uma solução consolidada. E ela faz uma distinção importante: automatização é uma coisa, agente de IA é outra. E não —por mais que tentem— nenhum deles vai substituir o bom e velho clipe do Word.

"A gente ainda vai sofrer com IA", diz ex-diretora da Microsoft sobre IA

Apesar de se considerar otimista, Gabriela de Queiroz não deixa de apontar os riscos que o avanço das novas tecnologias podem trazer para a sociedade. Repensar os rumos da corrida desenfreada pela IA passa, segundo ela, por trazer de volta profissionais que estavam presentes quando tudo começou, como linguistas, antropólogos e sociólogos.

Queiroz enxerga um movimento promissor: muita gente que está entrando agora no universo da IA, impulsionada pela democratização das ferramentas, tende a perceber a importância de formar times multidisciplinares, o que pode fazer diferença no futuro. Sua principal preocupação hoje é com o impacto das novas tecnologias sobre as gerações que estão saindo da universidade e tentando entrar no mercado de trabalho.

Big techs usam tanta IA quanto dizem? 'Não acredite', diz ex-Microsoft

Se a propaganda é de uso intensivo de inteligência artificial, a rotina diária das big techs não é bem assim.

Em entrevista a Deu Tilt, o podcast do UOL para os humanos por trás das máquinas, Gabriela de Queiroz, ex-diretora de IA da Microsoft, afirma que a disputa entre as empresas para mostrar qual delas usa mais IA está mais para uma jogada de marketing do que para algo vivido nos corredores das companhias.

Eu não via muito sendo utilizado internamente em processos burocráticos, via mais em produtos. Acho que isso é muito mais para gerar mídia para as grandes empresas, [sobre] quem está fazendo mais com IA. Não acredite muito no que está sendo falado, porque tem essa briga sobre quem está falando para estar na mídia o tempo inteiro
Gabriela de Queiroz, ex-diretora de IA da Microsoft

Ex-Microsoft revela bastidor de demissão: 'não tem como IA nos substituir'

Com a chegada da inteligência artificial generativa e toda a promessa de eficiência que a acompanha, o velho fantasma das máquinas substituindo humanos voltou a rondar muitas cabeças. Mas, segundo Gabriela de Queiroz, ex-diretora de IA da Microsoft, ela e as outras 6 mil pessoas demitidas recentemente não foram desligadas para dar lugar à inteligência artificial.

Apesar de todo mundo falar [que foi culpa da IA], não foi. Principalmente o meu cargo e vários cargos que foram atingidos eram de pessoas que estavam trabalhando na parte fundamental. Não teria como a IA ter substituído a gente. É claro que em vários lugares usamos a IA para aumentar a produtividade também, mas, na minha percepção, esse não foi o grande motivo
Gabriela de Queiroz, ex-diretora de IA da Microsoft

DEU TILT

Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no YouTube do UOL e nas plataformas de áudio. Assista ao episódio da semana completo.