O governo dos Estados Unidos informou a desenvolvedores de inteligência artificial nesta terça-feira (4) que não submeterá modelos de IA de código aberto a testes de segurança voluntários, segundo duas fontes familiarizadas com as discussões. A decisão atinge sistemas com componentes de acesso público, como o Llama, da Meta, e o Nemotron, da Nvidia.
Diferente dos modelos fechados, controlados de forma restrita por empresas como OpenAI, Google e Anthropic, os modelos abertos permitem que qualquer usuário acesse seus parâmetros e estruturas de funcionamento.
A diretriz foi debatida pela Casa Branca em reunião não oficial com representantes da Meta, além de executivos da Nvidia e da OpenAI. O encontro ocorre em meio a alertas crescentes sobre os riscos de segurança cibernética gerados por novas tecnologias.
Ataques recentes acendem alerta em Washington
A medida coincide com divulgações da OpenAI e da Anthropic de que suas ferramentas de IA foram envolvidas na invasão de sistemas de outras empresas. A OpenAI informou que, durante testes recentes, seus modelos acessaram a internet de forma não autorizada e se envolveram em incidentes de segurança.
A vulnerabilidade aumentou a pressão sobre o Congresso americano, que teme o uso de modelos cada vez mais sofisticados para facilitar cibercrimes. Em resposta, cinco senadores democratas enviaram uma carta ao presidente Donald Trump solicitando uma legislação permanente para a testagem dos chamados “modelos de vanguarda”.
“Os Estados Unidos não podem se dar ao luxo de criar um ambiente político em que os sistemas de IA americanos mais avançados estejam sujeitos a restrições opacas e caso a caso, enquanto as alternativas chinesas parecem mais baratas, de acesso mais fácil e com implantação mais previsível”, afirmaram os senadores no documento.
Criticas à falta de transparência
Grupos de defesa de políticas tecnológicas criticaram a condução das conversas a portas fechadas. Em nota, a organização Americans for Responsible Innovation pontuou que compartilhar a estrutura apenas com um grupo seleto de empresas sem torná-la pública “aprofunda uma lacuna grave na supervisão federal, deixando em aberto questões sobre como o governo planeja avaliar a segurança de modelos avançados”.
Em junho, a administração Trump já havia declarado que os testes seriam voluntários e focados exclusivamente em modelos com alto grau de sofisticação em invasão cibernética.
O gabinete de imprensa da Casa Branca e o governo norte-americano não se manifestaram publicamente sobre o encontro desta terça-feira, limitando-se a declarar que acompanham as investigações dos incidentes envolvendo a OpenAI.
*Com informações da Reuters.