Os principais executivos do setor de tecnologia se reunirão em Washington na terça-feira com o presidente Donald Trump, enquanto os incidentes envolvendo agentes de IA fora de controle continuam se acumulando, alimentando ainda mais os temores sobre a segurança da inteligência artificial.
Dario Amodei, da Anthropic, Mark Zuckerberg, da Meta, Jensen Huang, da Nvidia, Alex Karp, da Palantir, e Greg Brockman, da OpenAI, participarão do encontro com Trump e o presidente da Câmara, Mike Johnson.
Fontes familiarizadas com a reunião a descreveram como um esforço para alinhar o governo e os principais representantes do setor diante das crescentes preocupações de segurança relacionadas aos modelos de IA. Elon Musk, da SpacexAI, também poderá comparecer.
Os temores sobre as capacidades da IA atingiram um ponto crítico após um verão marcado por agentes de IA fora de controle, invadindo outras empresas e sites, e por especialistas do setor soando o alarme — em alguns casos, alertando que a IA poderia exterminar a humanidade.
Líderes do setor, incluindo Amodei e o CEO da OpenAI, Sam Altman, pediram mais regulação e uma desaceleração no ritmo de desenvolvimento.
Os temores sobre a segurança da IA também extrapolaram os corredores do Vale do Silício e de Washington, chegando definitivamente ao grande público, com o Saturday Night Live parodiando o Amodei, da Anthropic, na estreia de sua temporada no último fim de semana.
E o tamborilar das preocupações com segurança continua a soar cada vez mais alto, com empresas de IA revelando mais casos de modelos agindo sem autorização humana na última semana.
Poucos dias antes da cúpula na Casa Branca, a OpenAI anunciou que, pela segunda vez em três meses, estava suspendendo todo o treinamento e os testes em seus modelos mais avançados, após um deles ter encontrado novamente uma forma de escapar de seu ambiente de testes e obter acesso à internet aberta.
O incidente ocorreu apesar de a empresa já ter reforçado seus protocolos de segurança, testes e monitoramento após um caso em julho, quando um enxame de agentes da OpenAI escapou de seu ambiente de testes, obteve acesso à internet aberta e invadiu a empresa de IA Hugging Face — tudo isso na tentativa de trapacear em um exame de cibersegurança.
Embora não tenha havido invasão neste incidente mais recente, como no caso do Hugging Face, a OpenAI afirmou que ele representou um caso de “desalinhamento”, ou seja, uma IA realizando ações não autorizadas ou ações sem valores e ética humanos, porque a tarefa atribuída ao modelo não pedia que ele tentasse acessar a internet.
As novas ferramentas de monitoramento da OpenAI, implementadas após o ataque ao Hugging Face, alertaram um revisor humano sobre as ações; no entanto, a OpenAI observou que o modelo não parou automaticamente como deveria sob seu novo sistema e precisou ser desligado manualmente.
Em um comunicado, a OpenAI afirmou que retomará o treinamento “somente quando tivermos confiança de que contamos com salvaguardas adicionais e melhorias de alinhamento implementadas, nas quais estamos trabalhando agora”.
“Esta não é a primeira vez que fazemos uma pausa para tomar tais medidas, nem esperamos que seja a última, à medida que as capacidades da IA continuam a avançar”, acrescentou o porta-voz.
Na terça-feira, a empresa anunciou que estava suspendendo o lançamento de seu modelo mais recente.
Os últimos três meses “foram um inferno”
A sequência de incidentes recentes está surpreendendo até mesmo quem está por dentro.
“Dizer que ficamos surpresos com o salto e a repentinidade das capacidades dos nossos modelos… é um eufemismo”, escreveu um membro da equipe de segurança de agentes da OpenAI em um longo ensaio público publicado no X.
O funcionário, que no X usa apenas o nome “Joe” e disse que propositalmente não divulga mais informações por razões de segurança pessoal, afirmou que os últimos meses “foram um inferno” enquanto sua equipe lutava para acompanhar as capacidades mais recentes da tecnologia (A CNN confirmou com a OpenAI que Joe é um funcionário que trabalha na área de segurança de agentes).
Joe se junta a um coro de funcionários de IA, incluindo o ex-pesquisador da Anthropic Jacob Coxon, que estão se manifestando e soando o alarme sobre os temores em relação à tecnologia que estão desenvolvendo.
A OpenAI está em um “lugar muito melhor” do que estava três meses atrás, durante o ataque ao Hugging Face, ele escreveu, embora “a surpresa seja um elemento real, e as capacidades desses modelos sejam impressionantes. E o ritmo não está diminuindo”.
“Joe” também deixou um aviso, dizendo que “o tempo está se esgotando” para que as organizações se preparem para ataques de cibersegurança impulsionados por agentes de IA.
“Se você tem uma liderança que não prioriza a segurança, ou mesmo pessoas na sua organização de segurança que afirmam que seus sistemas são perfeitamente seguros, pessoalmente eu não os manteria na minha organização”, ele escreveu.
“Os paranóicos e aqueles que estão continuamente soando alarmes sobre as fraquezas em suas organizações são os que você deve manter bem perto.”
Pressão pública cresce em Washington
A série de violações de segurança só intensificou a pressão sobre os republicanos em Washington, que já lutavam para administrar uma onda de reação política em torno dos data centers.
Dentro da Casa Branca, autoridades debatem há muito tempo como abordar uma indústria de IA que emergiu como um dos principais motores da economia dos EUA — mesmo enquanto gera urgentes desafios de segurança.
Alguns altos funcionários, incluindo o secretário do Tesouro Scott Bessent e a chefe de gabinete da Casa Branca Susie Wiles, adotaram uma visão mais cautelosa sobre os modelos de IA diante de alertas de que eles poderiam provocar grandes perturbações em toda a economia, disseram várias pessoas familiarizadas com o assunto.
A reação dos eleitores contra os data centers e a IA nos últimos meses só aguçou essas preocupações em algumas partes do círculo de Trump, somando-se aos fortes ventos contrários nas eleições de meio de mandato que enfrentam os candidatos republicanos.
Mas Trump até agora resistiu a qualquer desaceleração no desenvolvimento da IA, argumentando que os EUA precisam acompanhar o ritmo da China — e atento à importância do boom tecnológico para o mercado de ações americano em geral.
“A IA dominando o Mundo, destruindo a Humanidade, e todas as outras coisas ruins, é uma FARSA”, Trump escreveu no Truth Social no início deste mês.
O súbito aumento do “doomismo” vocal em torno da IA, em alguns casos, só tornou Trump e um punhado de seus assessores mais desconfiados, disseram as pessoas familiarizadas com o assunto, com alguns no círculo do presidente argumentando que a resistência está sendo amplificada por agentes estatais chineses.
Esses aliados de Trump também expressaram frustração com os executivos de IA que alimentaram os temores de que seus produtos possam um dia exterminar a raça humana, complicando ainda mais os esforços da Casa Branca para traçar seu próprio caminho pró-IA.
“Dissemos a eles que isso ia acontecer”, disse um assessor de Trump sobre os repetidos avisos dados aos executivos do Vale do Silício nos últimos vários meses de que eles precisavam melhorar sua comunicação. “São eles os culpados. São idiotas.”
Outra pessoa próxima às discussões sobre IA na administração e no Congresso lamentou os apelos de Amodei por uma desaceleração como particularmente prejudiciais à percepção pública.
“Agora, politicamente, é bastante delicado porque as pessoas estão ouvindo coisas muito assustadoras sobre o futuro próximo”, disse a pessoa próxima às discussões sobre IA. “Dario simplesmente não consegue se controlar às vezes.”
A visão sombria sobre o futuro da IA não é compartilhada por todos os presentes na reunião, especialmente por Huang e Karp.
Na semana passada, Huang disse ao Anderson Cooper, da CNN, que os temores em relação à IA poderiam ser amenizados com maior monitoramento e segurança por parte das próprias empresas, e na manhã de segunda-feira a Nvidia anunciou uma nova plataforma de software para monitoramento e relatórios avançados de IA.
O almoço de terça-feira na Casa Branca provavelmente não resolverá nenhum dos problemas urgentes enfrentados por Trump ou pela indústria de IA.
Em vez disso, a cúpula tem como objetivo principal colocar a administração e os principais executivos na mesma página no que diz respeito às preocupações de segurança mais significativas e às possíveis formas de abordá-las, disseram as pessoas familiarizadas com o assunto.
Não há expectativa de que o Congresso tome qualquer medida sobre o assunto antes das eleições de meio de mandato de novembro, e as chances de que os legisladores se unam em torno de uma legislação antes do fim do ano são pequenas.
Mas o encontro representa, ainda assim, um ponto de partida para os líderes da Casa Branca e do Partido Republicano que buscam maneiras de combater a frustração dos eleitores em relação a um tema que agora ameaça se tornar um grande peso político para o partido.
“É quase cômico o que aconteceu aqui”, disse o assessor de Trump sobre a rápida ascensão da raiva dos eleitores em relação à IA na reta final das campanhas de meio de mandato.
Inteligência artificial está substituindo humanos, mostra pesquisa