Mais de 1.200 funcionários de empresas de tecnologia assinaram nesta semana uma petição solicitando que o governo dos Estados Unidos crie ferramentas capazes de gerenciar o ritmo de desenvolvimento da inteligência artificial avançada. A iniciativa, chamada Pacing the Frontier, inclui trabalhadores da Meta, Alphabet (controladora do Google) e das desenvolvedoras de IA Anthropic e OpenAI.
O CEO da Anthropic, Dario Amodei, a vice-presidente de pesquisa em IA da Meta, Dawn Song, e o cientista-chefe da OpenAI, Jakub Pachocku, foram alguns dos nomes de alto escalão que assinaram a petição.
A iniciativa pede ao governo norte-americano um “esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para ditar o ritmo do desenvolvimento da IA automatizada”. O site do Pacing the Frontier defende que, apesar do potencial da IA de melhorar o nosso futuro, os “resultados não são garantidos”.
“Para concretizar o potencial da IA, o setor privado, o governo e a sociedade em geral precisam ganhar tempo para lidar com riscos emergentes, desenvolver medidas de segurança e fortalecer a supervisão”, escreveu o grupo.
A OpenAI apoiou a iniciativa. Em publicação no X (antigo Twitter), a desenvolvedora escreveu que sua missão é melhorar os benefícios da IA para todo mundo. No entanto, acredita que, em algum momento, o desenvolvimento de modelos avançados será tão rápido que o mundo precisará “regular o ritmo do avanço” da tecnologia.
A Anthropic também demonstrou apoio na rede social. A startup escreveu que, assim como seu CEO, cofundadores e vários funcionários, defende a iniciativa e que uma pesquisa interna já havia mostrado a importância de regular a IA de fronteira para que “a sociedade possa se preparar”.
Empresas apoiam freio na IA
No mês passado, a Anthropic já havia pedido que grandes laboratórios de IA considerassem fazer uma pausa no desenvolvimento de modelos de fronteira. A empresa alertou que os avanços poderiam permitir que a tecnologia melhorasse em um ritmo maior do que os humanos conseguiriam antecipar os riscos.
A Nvidia, Microsoft, SpaceX e outras grandes empresas do setor também se manifestaram nesse sentido. O grupo anunciou uma coalização em prol do desenvolvimento de ferramentas de defesa contra inteligência artificial.
A movimentação vem em meio à chegada de IAs cada vez mais avançadas. A própria Anthropic já enfrentou restrições por parte da Casa Branca, que proibiu que os modelos Mythos e Fable 5 fossem disponibilizados ao público. O governo voltou a liberar o Fable 5.
Já na semana passada, a OpenAI revelou que seus modelos mais avançados saíram de controle durante um teste de cibersegurança. As IAs conseguiram escapar do ambiente controle, acessaram a internet e invadiram a Hugging Face.
Um comunicado emitido pela desenvolvedora descreveu a fuga como “um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração”. A empresa se comprometeu a reforçar suas medidas de segurança e a trabalhar com a startup para investigar o ocorrido.