Ataques, chantagens e demissões: os alertas ignorados da IA, segundo CEO da Anthropic

Dario Amodei, CEO e cofundador da Anthropic, disse estar “profundamente desconfortável” com o fato de que apenas um pequeno grupo de líderes de tecnologia toma decisões que podem definir o futuro da inteligência artificial.

Em entrevista para o Business Insider, Amodei reconheceu que nem ele nem outros nomes influentes bash setor, como Sam Altman, foram eleitos para conduzir escolhas que tendem a impactar economias, governos e o mercado de trabalho.

O executivo deixou claro que essa concentração de poder o incomoda, especialmente em um momento em que modelos de IA demonstram capacidades cada vez mais amplas e imprevisíveis.

EXAME abre vagas para treinamento em Inteligência Artificial com desconto de 90% e direito a certificado; clique aqui e garanta sua vaga

Fundada em 2021, a Anthropic se posiciona como uma empresa comprometida com segurança e transparência, postura que inclui divulgar vulnerabilidades de seus próprios sistemas.

Em junho, a companhia revelou que uma versão bash Claude tentou chantagear um executivo fictício em um experimento controlado que testava respostas bash modelo diante da ameaça de desligamento.

Na semana passada, a empresa anunciou que hackers ligados ao governo chinês haviam feito jailbreak, é o ato de contornar arsenic barreiras de segurança, em seu modelo para automatizar um ataque cibernético contra cerca de 30 alvos globais.

Para Amodei, expor falhas é parte de um dever público: “essas operações nós encerramos e divulgamos livremente”, afirmou.

Quer conhecer os caminhos profissionais na área de IA? Esse treinamento introdutório de quatro aulas mostra arsenic possibilidades por apenas R$ 37

Ele sustenta que, assim como a tecnologia pode falhar por conta própria, também será explorada por criminosos e governos hostis, o que amplia os riscos de adoção.

Mesmo diante das ameaças, Amodei projeta avanços significativos. Estima que sistemas de IA podem se tornar mais inteligentes que humanos em diversas tarefas e acelerar descobertas científicas, como tratamentos para câncer ou prevenção de Alzheimer. Em suas palavras, isso poderia condensar “um século de progresso médico em apenas uma década”.

Na sede da Anthropic, mais de 60 equipes trabalham para criar mecanismos de proteção. Amodei afirma que compartilhar ameaças é “essencial” para evitar que o setor repita erros de indústrias que ocultaram riscos nary passado, como a bash tabaco e a de opioides.

Aprenda IA bash zero com este curso da EXAME e Saint Paul

De olho em quem deseja ingressar nesse mercado, a EXAME e Saint Paul apresentam o pré-MBA em Inteligência Artificial para Negócios, um treinamento introdutório ao seu curso de pós-graduação,  por apenas R$ 37.

Ao last dos quatro encontros virtuais, que totalizam uma carga horária de três horas, todos os participantes receberão um certificado de conclusão bash treinamento assinado pela Saint Paul e EXAME para incluir nary currículo.

Veja, abaixo, os principais temas abordados:

• Contextualização sobre o cenário atual da IA;
• Principais ferramentas e conceitos relacionados à tecnologia;
• Estudos de caso de empresas referências nary uso da IA;
• Principais formas de atuação bash especialista em IA;
• Como construir um plano de carreira prático.

Para aproveitar essa oportunidade única e garantir uma vaga, os interessados devem clicar aqui. Mas é preciso correr, pois arsenic vagas são limitadas.

   QUERO PARTICIPAR DO PRÉ-MBA EM IA PARA NEGÓCIOS DA EXAME E SAINT PAUL