Indústria de IA não cumpre padrões de segurança globais

Relatório Crítico sobre a Indústria de IA

Um relatório publicado nesta terça-feira (7) aponta que a indústria global de IA não atende padrões de segurança para combater ameaças "existenciais".

O Future of Life Institute avaliou 9 empresas do setor. Nenhuma companhia obteve nota máxima, e a americana Anthropic registrou a melhor classificação geral.

Foram analisados os esforços em seis categorias: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, e compartilhamento de informações. A Anthropic foi a melhor colocada na nota geral, sendo classificada como "C+".

O relatório destaca que várias empresas que antes proibiam o uso militar de sua tecnologia vêm "revertendo gradativamente o rumo", entre elas a Anthropic, criticada por manter "compromissos militares questionáveis".

O governo dos Estados Unidos utilizou a tecnologia da Anthropic em operações militares na Venezuela e no Irã durante o último ano, segundo diversos relatos da imprensa, embora a empresa tenha sido recentemente alvo de uma proibição do Pentágono por divergências sobre a segurança da IA.

Embora "existam tentativas construtivas", os esforços como um todo são "totalmente insuficientes". Outros riscos incluem o possível uso indevido de um modelo para realizar um ciberataque ou executar tarefas potencialmente prejudiciais aos seres humanos.