xAI é acusada de demitir engenheiro que levantou questões de segurança sobre IA

O ​processo foi aberto pouco antes da oferta pública inicial de ações ⁠da SpaceX, a maior de todos os tempos, ​na sexta-feira. A SpaceX controla a xAI.

“O Sr. Kim reclamou repetidamente que a falha da xAI em priorizar a segurança da IA, particularmente no que ‌diz respeito ao Grok, praticamente garantia que ‌a empresa cometeria ​atos ilegais, desde fomentar a discriminação até proliferar armas de destruição em massa”, afirma o processo.

Representantes da xAI e da SpaceX não comentaram o assunto.

O Centro para a Segurança ‌da IA, organização sem fins lucrativos que se concentra nos riscos potencialmente representados pela tecnologia, anunciou na semana passada que havia nomeado Kim como seu presidente.

Elon Musk, o homem mais rico do mundo, fundou a xAI em 2023 afirmando que a empresa era uma alternativa mais segura à OpenAI, que ele ajudou a fundar há mais de uma década. No mês passado, um júri rejeitou a ação movida por Musk em que ele afirmava que a OpenAI havia se ‌desviado de sua missão original de beneficiar a humanidade.

De acordo com o processo aberto na terça-feira, Kim foi uma das primeiras contratações da xAI em 2024 ​e foi promovido a um cargo de liderança importante meses após ingressar na empresa.

Kim disse que Musk esperava que a xAI ‌implementasse testes e processos de segurança adequados. Mas o supervisor de Kim, o cofundador da xAI Jimmy Ba, desrespeitou essas diretrizes e rejeitou a insistência de Kim em ‌implementar mecanismos de segurança, alega o processo.

Kim ‌afirma que Ba o demitiu abruptamente em setembro passado, pouco antes dele fazer uma apresentação sobre segurança em IA para ⁠a liderança da empresa.

A ação acusa a xAI e a SpaceX de retaliação e demissão indevida e pede indenização por danos morais em valor não especificado.

A SpaceX e outros empreendimentos de Musk, incluindo a montadora de veículos elétricos Tesla, têm sido alvo de questões de segurança, ​desde riscos para os funcionários ​da empresa até preocupações com a tecnologia de direção autônoma.

Em 2023, a Reuters documentou pelo menos 600 acidentes de trabalho na SpaceX, incluindo membros esmagados, amputações, eletrocussões e uma morte. Alguns funcionários atribuíram os problemas a uma cultura de segurança negligente e à crença de Musk de que a SpaceX está em uma busca urgente para criar um refúgio no espaço diante de uma Terra em declínio.

A SpaceX não se pronunciou ⁠na época, mas em documentos judiciais e em outros locais a empresa defendeu seu histórico de ​segurança e afirmou que oferece treinamento extensivo em segurança.