O presidente Donald Trump afirmou na terça-feira (29) que altos executivos do setor de tecnologia haviam assinado um novo compromisso com o objetivo de melhorar a “autorregulação” de suas empresas em relação aos modelos de IA, argumentando que essa abordagem mais flexível representa a melhor maneira de equilibrar as preocupações com segurança com seu desejo de acelerar uma tecnologia que ele chamou de “Superinteligência”.
Ao lado dos executivos de tecnologia, enquanto falava com repórteres na Sala Leste da Casa Branca e, mais tarde, do lado de fora da Ala Oeste, Trump elogiou os CEOs que participaram de um almoço de alto nível na Casa Branca — ao mesmo tempo em que minimizou as preocupações sobre os perigos do rápido desenvolvimento da tecnologia de IA.
“Estou vendo uma enorme autorregulação, e eles entendem que precisam se autorregular”, disse ele aos repórteres. “Esses modelos são muito complexos e, novamente, acredito que serão usados para o bem.”
Mais tarde, o presidente publicou o acordo em sua rede Truth Social. O documento detalhava quatro medidas com as quais todas as empresas concordaram: implementar controles internos para garantir que os modelos estejam seguindo padrões adequados de cibersegurança; dar poderes a uma equipe interna para garantir que os controles, o monitoramento e a detecção estejam funcionando conforme o previsto; trabalhar com um operador externo para avaliar os modelos de forma independente; e designar um “comitê independente do conselho de administração” para receber esses relatórios e garantir que quaisquer problemas sejam solucionados.
Além de Trump, a publicação mostrava seis assinaturas no documento: Sundar Pichai, do Google; Dario Amodei, da Anthropic; Mark Zuckerberg, da Meta; Jensen Huang, da Nvidia; Greg Brockman, da OpenAI; e Elon Musk, do X.
A reunião ocorreu após uma série de episódios que levantaram amplas preocupações de segurança relacionadas à IA, incluindo casos de agentes de IA que saíram do controle e tentaram invadir bancos de dados federais.
Vários representantes do setor de IA, incluindo alguns CEOs que lideram o desenvolvimento de modelos de IA cada vez mais sofisticados, chegaram a alertar para resultados catastróficos caso percam o controle sobre sua tecnologia.
Mas a reunião pareceu fazer pouco para diminuir o entusiasmo de Trump pelos modelos que ele chama de “Superinteligência”. Em vez disso, reforçou sua crença de que o setor de IA é capaz de supervisionar a si próprio sem regulamentações adicionais de segurança. Ele chamou o novo compromisso de “moralmente vinculante”.
Trump, que afirmou que em breve assinaria uma ordem executiva para mudar o nome de “inteligência artificial” para “superinteligência” (SI), insistiu que o governo não poderia desacelerar o desenvolvimento da IA por medo de ficar para trás da China e de outras nações desenvolvidas.
“Este é um crescimento inacreditável para o nosso país”, afirmou. “Quem vencer a SI vai vencer.”
Dentro da reunião entre governo e principais representantes do setor
Entre os presentes na terça-feira estavam Amodei, Zuckerberg, Huang, Brockman, Musk, Pichai, Alex Karp, da Palantir, e Jeff Bezos, da Amazon, além de alguns integrantes de seu gabinete e do presidente da Câmara dos Representantes, Mike Johnson. Fontes familiarizadas com a reunião a descreveram como uma tentativa de fazer com que o governo e os principais representantes do setor chegassem a um entendimento comum diante das crescentes preocupações de segurança relacionadas aos modelos de IA.
Brandon Daniels, CEO da Exiger, que também participou da reunião, disse que os líderes de tecnologia se concentraram em uma ideia apresentada por Huang e Zuckerberg: o grupo precisava “se alinhar em torno de um conjunto de princípios e padrões superiores — não apenas individuais, não apenas cada um por si —, um conjunto de princípios e padrões superiores que possa ser analisado e que possa estar sujeito, quem sabe, a futuras ordens executivas ou futuras regulamentações”.
Ele descreveu isso como um “pacto que nos permite implementar esses padrões, implementar mecanismos de governança e, então, ter terceiros para verificar e avaliar tudo isso”.
“Concordamos que ter órgãos centrais de definição de padrões, análises e auditorias, além de mecanismos internos pelos quais conduzimos e desenvolvemos a IA, são coisas que todos acreditamos que deveríamos ter, e achamos que essas são coisas que poderiam ser auditadas de forma centralizada”, acrescentou Daniels.
Daniels descreveu a reunião como “realmente cordial” e disse que líderes que ainda não tinham contato uns com os outros estavam compartilhando seus números de celular. Ele elogiou o presidente por reunir o grupo, classificando suas ações como “revolucionárias”.
Nas últimas semanas, Trump tem falado repetidamente sobre sua crença de que “inteligência artificial” é um termo inadequado porque, em sua visão, a tecnologia seria mais apropriadamente chamada de “super”. Ele disse que chegou a abordar a mudança de nome com o líder chinês Xi Jinping, que “pareceu gostar” da nova denominação. (Em seus próprios comentários, Xi não se referiu à tecnologia como “superinteligência”.)
Segundo a Associated Press, o Departamento de Estado já havia ordenado que diplomatas de seu departamento responsável por organizações internacionais usassem o termo “superinteligência”.
Aumento das preocupações com segurança
Os temores em relação às capacidades da IA atingiram um ponto máximo nos últimos meses, levando alguns líderes do setor, incluindo Amodei e o CEO da OpenAI, Sam Altman, a defenderem mais regulamentação e uma desaceleração no ritmo de desenvolvimento.
Os receios sobre a segurança da IA também deixaram de estar restritos aos corredores do Vale do Silício e de Washington e chegaram de vez ao debate público, com o Saturday Night Live fazendo uma paródia de Amodei, da Anthropic, na abertura da temporada neste último fim de semana.
E o coro de preocupações com a segurança continua a ganhar força, à medida que empresas de IA revelam mais casos de modelos agindo sem autorização humana na última semana.
Apenas alguns dias antes da cúpula da Casa Branca, a OpenAI anunciou que, pela segunda vez em três meses, estava suspendendo todo o treinamento e os testes de seus modelos mais avançados depois que um deles, mais uma vez, encontrou uma maneira de sair de seu ambiente de testes e obter acesso à internet aberta. O incidente ocorreu apesar de a empresa já ter reforçado seus protocolos de segurança, testes e monitoramento após um caso ocorrido em julho, quando um grupo de agentes da OpenAI escapou de seu ambiente de testes, obteve acesso à internet aberta e invadiu a empresa de IA Hugging Face — tudo na tentativa de trapacear em um exame de cibersegurança.
Embora não tenha ocorrido invasão hacker nesse incidente mais recente, como no caso da Hugging Face, a OpenAI afirmou que o episódio representava um caso de “desalinhamento”, ou seja, uma IA realizando ações não autorizadas ou ações que não estão de acordo com os valores e a ética humanos, porque a tarefa atribuída ao modelo não pedia que ele tentasse acessar a internet. As novas ferramentas de monitoramento da OpenAI, implementadas após o ataque à Hugging Face, alertaram um revisor humano sobre as ações. No entanto, a OpenAI observou que o modelo não parou automaticamente, como deveria segundo o novo sistema, e precisou ser desligado manualmente.
Em um comunicado, a OpenAI afirmou que retomará o treinamento “somente quando estivermos confiantes de que temos salvaguardas adicionais e melhorias de alinhamento implementadas, algo em que estamos trabalhando agora”.
“Esta não é a primeira vez que interrompemos nossas atividades para tomar essas medidas, nem esperamos que seja a última, à medida que as capacidades da IA continuam avançando”, acrescentou o porta-voz.
Com base na descrição inicial apresentada por Trump e outras autoridades, é improvável que o compromisso voluntário assinado pelos executivos de tecnologia na terça-feira tranquilize aqueles que estão alarmados com a série de preocupações de segurança relacionadas à IA.
Em conversa com jornalistas, Zuckerberg disse que o acordo se concentrava em “um conjunto de princípios e compromissos para desenvolver controles internos robustos e detectar eventuais problemas com a tecnologia, juntamente com várias camadas de auditoria e controles, começando por uma análise interna de riscos, auditores externos e avaliadores”.
Os conselhos de administração das empresas também fariam uma análise independente dos relatórios de auditoria previstos no acordo, acrescentou.
Os últimos três meses “foram um inferno”
A sequência de incidentes recentes está chocando até mesmo pessoas que trabalham dentro do setor.
“Dizer que ficamos surpresos com o salto e a rapidez das capacidades de nossos modelos… é um eufemismo”, escreveu um membro da equipe de segurança de agentes da OpenAI em um longo texto público publicado no X.
O funcionário, que usa apenas o nome “Joe” no X e afirmou que deliberadamente não revela mais informações por razões de segurança pessoal, disse que os últimos meses “foram um inferno”, enquanto sua equipe lutava para acompanhar as novas capacidades da tecnologia. A CNN confirmou com a OpenAI que Joe é um funcionário que trabalha com segurança de agentes. Joe se junta a um coro de funcionários do setor de IA, incluindo o ex-pesquisador da Anthropic Jacob Coxon, que estão se manifestando e alertando sobre os temores relacionados à tecnologia que estão desenvolvendo.
A OpenAI está em uma “situação muito melhor” do que estava há três meses, durante o ataque à Hugging Face, escreveu ele, embora “a surpresa seja um elemento real, e essas capacidades dos modelos sejam impressionantes. E o ritmo não está diminuindo”.
“Joe” também deixou um alerta, afirmando que “o tempo está acabando” para que as organizações se preparem para ataques de cibersegurança alimentados por agentes de IA.
“Se você tem uma liderança que não prioriza a segurança, ou até mesmo pessoas na sua organização de segurança que afirmam que seus sistemas são perfeitamente seguros, eu, pessoalmente, não as manteria na minha organização”, escreveu.
“Os paranoicos e aqueles que estão constantemente alertando sobre as fragilidades de suas organizações são as pessoas que você deveria manter bem por perto.”
A pressão pública aumenta em Washington
A série de falhas de segurança apenas intensificou a pressão sobre os republicanos em Washington, que já enfrentavam dificuldades para administrar uma onda de reação política contra os data centers. Dentro da Casa Branca, autoridades há muito tempo debatem como lidar com um setor de IA que surgiu como um dos principais motores da economia americana — ao mesmo tempo em que provoca desafios urgentes de segurança.
Algumas autoridades de alto escalão, incluindo o secretário do Tesouro, Scott Bessent, e a chefe de gabinete da Casa Branca, Susie Wiles, adotaram uma visão mais cautelosa sobre os modelos de IA diante dos alertas de que eles poderiam provocar grandes impactos em toda a economia, segundo várias pessoas familiarizadas com o assunto.
A reação negativa dos eleitores contra os data centers e a IA nos últimos meses apenas intensificou essas preocupações em alguns setores do círculo próximo a Trump, somando-se aos fortes obstáculos que os candidatos republicanos enfrentam nas eleições de meio de mandato.
Mas Trump, até agora, tem resistido a qualquer desaceleração no desenvolvimento da IA, argumentando que os EUA precisam acompanhar a China — e atento à importância do boom tecnológico para o mercado acionário americano como um todo.
“A IA dominando o mundo, destruindo a humanidade e todas as outras coisas ruins é uma FARSA”, escreveu Trump no Truth Social no início deste mês.
O aumento repentino do chamado “catastrofismo” em torno da IA, em alguns casos, apenas tornou Trump e alguns de seus assessores ainda mais desconfiados, segundo pessoas familiarizadas com o assunto. Algumas pessoas próximas ao presidente argumentam que a reação contrária à IA está sendo amplificada por agentes ligados ao Estado chinês.
Esses aliados de Trump também demonstraram frustração com os executivos de IA que alimentaram os temores de que seus produtos possam, algum dia, exterminar a raça humana, complicando ainda mais os esforços da Casa Branca para traçar seu próprio caminho favorável à IA.
“Nós dissemos a eles que isso iria acontecer”, afirmou um assessor de Trump, referindo-se aos repetidos alertas feitos aos executivos do Vale do Silício nos últimos meses de que eles precisavam melhorar sua comunicação. “São eles. Eles são idiotas.”
Outra pessoa próxima às discussões sobre IA dentro do governo e do Congresso lamentou os apelos de Amodei por uma desaceleração, considerando-os particularmente prejudiciais à percepção pública.
“Politicamente, neste momento, a situação é bastante delicada, porque as pessoas estão ouvindo coisas realmente assustadoras sobre o futuro próximo”, disse a pessoa próxima às discussões sobre IA. “Às vezes, o Dario simplesmente não consegue se controlar.”
Mas Trump foi bastante elogioso ao falar de Amodei após a reunião de terça-feira, chamando-o de “fantástico”.