EUA propõem exigir relatórios para IA avançada e provedores de nuvem

Também exigiria relatórios sobre medidas de segurança cibernética, além de resultados das chamadas operações de red-teaming, como testes de recursos perigosos, incluindo a capacidade de auxiliar em ataques cibernéticos ou reduzir barreiras de entrada para que não especialistas desenvolvam armas químicas, biológicas, radiológicas ou nucleares.

O red-teaming externo tem sido usado há anos na segurança cibernética para identificar novos riscos, com o termo referindo-se às simulações da Guerra Fria dos EUA, em que o inimigo era chamado de "equipe vermelha"

A IA generativa - que pode criar textos, fotos e vídeos em resposta a comandos abertos - gerou entusiasmo e também temores de que possa tornar alguns empregos obsoletos, alterar eleições e potencialmente dominar os seres humanos e ter efeitos catastróficos.

O Departamento de Comércio disse que as informações coletadas de acordo com a proposta "serão vitais para garantir que essas tecnologias atendam a padrões rigorosos de segurança e confiabilidade, possam resistir a ataques cibernéticos e tenham risco limitado de uso indevido por adversários estrangeiros ou atores não estatais".

Em outubro de 2023, o presidente norte-americano, Joe Biden, assinou uma decreto exigindo que os desenvolvedores de sistemas de IA que representem riscos à segurança nacional, à economia, à saúde pública ou à segurança dos EUA compartilhem os resultados dos testes de segurança com o governo dos EUA antes de serem divulgados ao público.

A regra estabeleceria requisitos de relatórios para modelos avançados de IA e agrupamentos de computação.