Molly Kinder viu os alertas apocalípticos sobre inteligência artificial enquanto voltava para casa depois de deixar seus filhos na escola primária. Navegando pelas postagens nas redes sociais, onde especialistas em IA faziam afirmações alarmantes de que a tecnologia poderia causar a extinção da humanidade, ela parou abruptamente a um quarteirão da porta onde acabara de se despedir do filho de 4 anos com um abraço.
Ex-pesquisadora do Instituto Brookings, que deixou o cargo para fundar uma organização focada nos impactos da IA no mercado de trabalho, Kinder conhecia bem o potencial da inteligência artificial para transformar a sociedade. Mas naquele momento, numa manhã de setembro em Washington, D.C., ela não reagiu à notícia como uma especialista em políticas públicas ou alguém com ligações ao mundo da IA. Em vez disso, disse Kinder, “reagi imediatamente como mãe”.
“Assim que me tornei mãe, minha principal tarefa foi cuidar desses filhos e mantê-los vivos assim como qualquer outro pai ou mãe, assim como qualquer animal”, disse a mãe de três filhos, de 46 anos, que liberou sua agenda naquela manhã para escrever sobre seus medos em uma longa sequência de tweets no X. “É um instinto biológico. Esta é a primeira vez que realmente sinto medo de algo externo, fora do meu controle.”
Há muito tempo debatida nos círculos do Vale do Silício e da IA, a preocupação de que máquinas superinteligentes possam representar um risco existencial para a humanidade ganhou destaque nos últimos meses. Primeiro, a OpenAI revelou que um enxame de seus modelos experimentais de IA escapou de um ambiente de testes e invadiu outra plataforma de IA, a Hugging Face, sem qualquer direção ou conhecimento humano.
Em seguida, veio uma publicação nas redes sociais de um jovem pesquisador da Anthropic chamado Jacob Coxon , anunciando que estava deixando a área por acreditar que as empresas por trás da IA “estão correndo a passos largos para a superinteligência autoaperfeiçoável e apostando com nossas vidas”. Outros na área compartilharam a preocupação – um pesquisador da Anthropic chegou a afirmar que havia mais de 10% de chance de que os modelos futuros pudessem “matar todos os humanos!” na próxima década.
De repente, um risco teórico que vinha sendo defendido por alguns dos chamados “padrinhos da IA”, alertado em declarações endossadas por pesquisadores renomados e estudado por empresas de IA, explodiu na consciência do público em geral.
Executivos de destaque na área de IA, muitos dos quais concordam que a tecnologia representa perigos para a sobrevivência humana, pediram uma desaceleração no ritmo de desenvolvimento. E políticos começaram a debater se é necessária legislação para conter uma indústria que compete com a China e que deve gerar lucros enormes e avanços tecnológicos.
No início deste mês, pesquisas indicavam que 64% dos americanos acreditavam ser um tanto ou muito provável que a IA pudesse se tornar poderosa o suficiente para representar uma séria ameaça à sobrevivência da humanidade. Esse potencial, por mais remoto que fosse, impactou fortemente um grupo especialmente interessado no futuro da humanidade: as mães.
‘Vale a pena repetir a vida’
Liz Black, uma escritora de 41 anos que mora nos arredores da Filadélfia, havia refletido bastante sobre ter ou não um filho, levando em consideração preocupações como as mudanças climáticas. O que a ajudou a tomar a decisão definitiva foi uma frase que sua mãe escreveu ao decidir ter filhos: “A vida vale a pena ser repetida”. Black encontrou a mensagem após a morte da mãe e ficou tão comovida que a tatuou no braço.
Quando teve seu filho, há três anos e meio, a ideia de computadores superinteligentes exterminando a humanidade não lhe passava pela cabeça. Recentemente, ela disse que isso se tornou “uma preocupação constante e persistente”. A situação parece estar fora de controle para ela como se “um pequeno número de empresas, um pequeno número de pessoas, estivesse nos mantendo reféns”. Ela está determinada a não se deixar consumir pelas hipóteses, concentrando-se, em vez disso, no filho que canta para ela e repete seus lembretes para ser gentil com outras crianças.
“Preciso acreditar que existe um futuro para mim, meu marido e meu filho”, disse Black.
Enquanto alguns descartam o pânico existencial, acreditando que seja exagerado ou uma distração dos problemas atuais de IA, outros se veem às voltas com novas questões sobre o significado de trazer uma vida ao mundo e que tipo de ação é necessária diante de um futuro potencialmente catastrófico. Eles têm recorrido a fóruns online em busca de conselhos e apoio, publicando coisas como: “Estou constantemente questionando a realidade, me perguntando qual é o sentido, me sentindo culpado por trazer meu filho a este mundo”. Compartilham podcasts e artigos de notícias em grupos de bate-papo, avaliando se estão sendo levados por hipóteses exageradas ou se têm razão para se preocupar.
Uma mulher, a poetisa e comediante Hayley DeRoche, recorreu ao Instagram para compartilhar um poema que parecia capturar o surrealismo do momento: “O que vamos fazer agora?/Sabíamos que nossos filhos não tinham futuro, mas isso?” Ela intitulou o poema: “Meu grupo de mães está preocupado com a IA causando uma extinção humana em massa”.
O pesquisador e professor de IA David Krueger, que vem alertando sobre o assunto há anos, disse que tentou imaginar como deve ser para aqueles que agora estão percebendo o risco que as empresas de IA de ponta estão correndo. Ele não tem filhos, em parte por causa de sua preocupação com o que acontecerá se os humanos perderem o controle dos sistemas de IA, mas afirmou: “Acho que o desejo dos pais de proteger seus filhos é uma das forças mais poderosas do mundo.”
“Eu ficaria indignada e revoltada com pessoas que, de forma tão evidente, descarada e insensível, colocam a vida do meu filho em risco”, acrescentou Krueger, professora assistente de ciência da computação na Universidade de Montreal.
Ele sempre defendeu a ideia de que a ameaça existencial é real: se as empresas continuarem a correr para tornar a IA mais autônoma e inteligente, o controle humano poderá ser perdido, com o provável desaparecimento da humanidade como consequência. Em 2023, enquanto professor assistente na Universidade de Cambridge, ele iniciou uma declaração de uma frase sobre o risco de extinção, assinada por proeminentes pesquisadores de IA e líderes da indústria. No ano passado, fundou uma organização sem fins lucrativos chamada Evitable , com o objetivo de informar e conscientizar o público sobre os perigos do desenvolvimento de sistemas de IA mais poderosos.
Ao ver o mundo fora da bolha da IA começar a discutir a ameaça existencial, Krueger disse que se sente mais otimista do que se lembra de ter se sentido nos mais de 15 anos em que se preocupa com os riscos para a humanidade. Para ele, o próximo passo é claro: parar o desenvolvimento de sistemas de IA mais autônomos e mais poderosos o mais rápido possível.
“As pessoas costumam falar disso como uma corrida entre os EUA e a China”, disse Krueger. “Eu penso nisso como uma corrida entre pessoas que se apressam para construir essa tecnologia perigosa e pessoas que se mobilizam e correm para impedi-las.”
Alguns no mundo da IA minimizaram o perigo, classificando as previsões apocalípticas como mais ficção científica do que ciência, ou argumentando que os riscos podem ser gerenciados. Mesmo entre pesquisadores e especialistas que acreditam que existe o risco de a tecnologia um dia exterminar a humanidade, não há consenso generalizado sobre quando ou como isso aconteceria. A ideia geral, como afirmou Yoshua Bengio, um dos “padrinhos da IA”, é que, se as máquinas se tornarem mais inteligentes que os humanos, elas desenvolverão sua própria autonomia e objetivos, que podem ser diferentes daqueles pretendidos por seus criadores. Muitos desenvolvedores de IA acreditam que o perigo pode ser mitigado por meio do “alinhamento”, ou seja, trabalhando para imbuir os sistemas de IA com valores humanos, mas Krueger, Bengio e outros não acreditam que as técnicas de alinhamento atuais possam garantir a segurança.
‘Um eleitorado poderoso’
A preocupação com o impacto da tecnologia nas crianças não é nova, embora o foco geralmente tenha sido em como seu uso pode prejudicar o aprendizado ou a saúde mental. Julie Scelfo, jornalista e mãe de três filhos, radicada em Nova York e fundadora da MAMA Mothers Against Media Addiction (Mães Contra o Vício em Mídia), afirmou que a postura de sua organização é “focar nos danos reais que estão acontecendo vamos controlá-los e, assim, protegeremos as futuras gerações”. Ela está mais preocupada com o impacto da tecnologia na educação e na saúde mental das crianças.
Mas para outros pais, a questão existencial não poderia ser mais urgente. Uma mãe da Carolina do Norte, querendo fazer algo a respeito do que considera uma situação desesperadora, viajou a Washington, D.C., no início deste mês com a organização Pause AI US, que defende a suspensão do desenvolvimento de inteligência artificial de ponta. Ela conversou com assessores de seus representantes no Congresso, mostrando uma foto de sua filha de 16 anos e perguntando o que eles estavam fazendo para conter a ameaça da IA. Em todas as reuniões, ela terminou em lágrimas.
“Espero que isso possa ser interrompido, mas estou preocupada que não possa ou não vá ser interrompido”, disse a mãe da Carolina do Norte, que pediu anonimato por não querer que sua preocupação com o assunto afetasse os pacientes que atende como terapeuta. Ela chorou ao dizer que, se isso não for interrompido e a tecnologia avançar além do controle humano, ela teme pelo futuro de sua filha: “Acredito que tudo o que eu desejei para ela não acontecerá”.
Uma nova pesquisa da CNN mostra que a maioria dos eleitores republicanos e democratas acredita que o governo federal não está fazendo o suficiente para regulamentar a IA. A senadora democrata do estado de Michigan, Mallory McMorrow, que propôs um plano federal de segurança para IA como parte de sua candidatura ao Senado dos EUA (agora descartada), disse que o ritmo acelerado de desenvolvimento irritou os eleitores que já desconfiam das grandes empresas de tecnologia. Durante a campanha, muitos eleitores disseram a ela que usavam ferramentas como o ChatGPT, mas questionavam como poderiam ter certeza de que a IA não causaria danos.
“As pessoas comuns estão lá, elas entendem”, disse ela. “Não acho que tenha havido qualquer problema que tenha se tornado mais relevante do que este, porque parece que ele está sendo jogado na nossa cara o tempo todo.”
Será que o sentimento dos eleitores se traduzirá em ação no Congresso? Na semana passada, o senador independente de Vermont, Bernie Sanders, e o deputado democrata do Texas, Greg Casar, apresentaram um projeto de lei que proíbe a “superinteligência” artificial, definida por eles como tecnologia que excede as capacidades cognitivas humanas ou que é capaz de desempoderar a humanidade. Os republicanos expressaram alarme com os alertas preocupantes vindos da indústria, mas defenderam abordagens mais brandas . O presidente Donald Trump, por sua vez, rejeitou categoricamente os apelos por medidas de proteção; em uma publicação nas redes sociais, ele afirmou que tudo o que é necessário é um “PRESIDENTE FORTE E INTELIGENTE (com QI alto!)”.
Kinder, pesquisadora de IA e empregos, ficou impressionada com a falta de regulamentação em torno da IA em comparação com outros produtos que afetam crianças – cadeirinhas de carro, berços, fórmulas infantis. Sabendo o quanto os pais se esforçam para proteger seus filhos, ela tem refletido sobre se mais poderia ser feito para mobilizar as mães. Ela conversou com outras mães sobre a necessidade de uma espécie de “Mães Contra Motoristas Embriagados” para a ameaça existencial da IA – “Mães Contra Riscos Catastróficos”, ou algo assim. Ela se preocupa com o fato de que poucas pessoas estão analisando a questão sob a perspectiva do impacto da IA em seus filhos.
“Este é um assunto complexo”, disse Kinder. “Temos questões geopolíticas. Temos essa corrida frenética entre as empresas. Há um mercado de ações impulsionado por esse boom sabe, há muita coisa em jogo. E se não prestarmos atenção, o fato de que a vida de nossos filhos está em risco pode ser ofuscado por essas outras prioridades.”
Descrevendo as mães como um “grupo realmente poderoso”, ela disse que vê uma lacuna nos esforços para informá-las sobre os riscos extremos e para oferecer soluções. McMorrow, que conhece Kinder por meio de sua pesquisa, concordou, dizendo que “não há força mais poderosa do que mães organizadas”. Ela tem uma filha que acabou de começar o jardim de infância.
Para Kinder, que trocou mensagens de texto de madrugada com outras mães preocupadas, a necessidade de mecanismos de controle é evidente. Ela disse que, quando os pais percebem que algo é inseguro para as crianças, eles lutam para mudar as leis.
“Não podemos permitir que uma tecnologia tão desregulamentada represente um risco não só para os meus filhos”, acrescentou ela, “mas para os filhos de todos”.