Quem assume a culpa quando a inteligência artificial foge do controle? Uma audiência no Conselho Municipal de Nova York na segunda-feira reuniu pesquisadores de IA e executivos das principais desenvolvedoras do setor para discutir quem se responsabiliza pela tecnologia.
Um dos principais nomes presentes na Câmara nova-iorquina foi Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI. Ele ganhou notoriedade no início de setembro, quando publicou no X (antigo Twitter) um alerta: que as desenvolvedoras estariam apostando com a vida humana ao “correr a passos largos” para desenvolver uma “superinteligência autoaperfeiçoável”.
Na audiência, ele reforçou que, no ritmo atual, a tecnologia poderia acabar com a humanidade “antes do fim da década” e que isso levaria à extinção humana.
Representantes da OpenAI, Anthropic, Google e Meta também estiveram presentes, após ameaça de intimação por parte do Conselho. A SpaceX também foi intimada a comparecer, mas não respondeu.
Ex-pesquisador de IA pediu mais segurança no setor de IA
Coxon defendeu que as empresas de IA não sabem como impedir os próprios sistemas de desenvolver objetivos próprios. Para ele, as companhias estão agindo de forma imprudente e, por mais que a tecnologia tenha “benefícios enormes”, a probabilidade é que “a humanidade perca o controle dessas IAs e que isso possa levar à extinção humana”.
Ele argumentou que as desenvolvedoras estão funcionando numa lógica de startup: “avance rápido, quebre coisas e conserte depois”.
“Isso pode funcionar para um aplicativo de compartilhamento de fotos. Não serve para desenvolver a tecnologia mais poderosa já criada”, destacou.
Coxon ainda criticou a forma como as desenvolvedoras estão lidando com a inteligência artificial e defendeu uma desaceleração na indústria. Segundo ele, é necessário dar tempo para que os cientistas do setor consigam desenvolver métodos capazes de manter os sistemas sob controle.
Jacob Coxon não foi o único a denunciar os riscos da IA.
David Robinson, ex-funcionário da OpenAI, revelou na semana passada que se demitiu da empresa porque a cultura de desenvolvimento acelerado estaria aumentando o risco de falhas.
Em artigo publicado no The Atlantic, ele escreveu que as desenvolvedoras não estão sendo “nem de perto cuidadosas o suficiente” e deveriam levar a segurança mais em conta antes de desenvolver sistemas mais capazes.
“O tempo de tentativa e erro acabou”, escreveu.
Desenvolvedoras também participaram
OpenAI, Anthropic, Google e Meta enviaram representantes. Eles foram submetidos a avaliação em vários tópicos, desde o uso de inteligência artificial na educação e saúde, até a competição com a China. Os CEOs não compareceram.
Uma das perguntas questionou como funciona a avaliação de segurança dos modelos — neste caso, se eles eram aprovados internamente, pelas próprias empresas, ou por terceiros.
Enquanto a OpenAI e Meta disseram trabalhar com avaliadores independentes, Google e Anthropic defenderam que submetem suas tecnologias inclusive a avaliação do governo dos Estados Unidos. A medida começou em junho deste ano, quando o presidente estadunidense, Donald Trump, assinou um decreto que concede ao governo acesso antecipado de alguns modelos antes do lançamento público.
As empresas também foram questionadas sobre o ritmo de desenvolvimento da IA, em um cenário de competição com a China pela vanguarda no setor de tecnologia.
O representante da Meta, o diretor de políticas de IA para legislação Shane Cahill, declarou que a big tech defende que “os Estados Unidos e países democráticos liderem no campo de IA”. “Queremos que a inovação norte-americana continue na liderança”, afirmou.
Já Alice Friend, diretora de políticas de IA e tecnologias emergentes do Google, destacou que a empresa não mantém nenhum tipo de IA na China, com a preocupação de que os EUA possam “ficar para trás”. As ferramentas do Google, incluindo o Gemini, não funcionam em território chinês.
Logan Graham, chefe da equipe Frontier Red Team da Anthropic, foi além. Ele defendeu que países democráticos liderem as capacidades de inteligência artificial, e acusou os chineses de destilar modelos norte-americanos. Graham ainda afirmou que a desenvolvedora proibiu o Claude na China.
A destilação é uma técnica que permite transferir conhecimento de um modelo para outro — normalmente, de um grande para um menor. Na prática, a empresa consegue economizar no treinamento de novos modelos.
A afirmação não é nova. Em fevereiro, a Anthropic já havia acusado três laboratórios chineses de IA (DeepSeek, Minimax e Moonshot AI) de extrair ilegalmente recursos do Claude para melhorar seus próprios modelos.
As desenvolvedoras também foram questionadas sobre privacidade e transparência no uso de dados por parte dos chatbots, incluindo nos setores de saúde e educação. Todas elas defenderam que permitem que os usuários escolham não ceder dados pessoais e histórico de conversas para treinamento.
Em alguns momentos, a discussão escalou. A presidente da Câmara Municipal, Julie Menin, questionou os executivos quanto eles quantificavam o risco da IA em um cenário catastrófico.
Morgan Dwyer, chefe de desenvolvimento de políticas e operações da OpenAI, respondeu que não sabia, no que Menin classificou como uma afirmação “descarada”.
Com quem fica a culpa pela IA?
Durante a abertura da audiência, Menin afirmou que “a ideia de que a inteligência artificial vai se autorregular desafia toda a lógica”.
As discussões sobre a responsabilização da tecnologia escalaram em agosto, quando a OpenAI revelou que, durante uma sessão de testes, agentes de IA ainda não lançados escaparam do ambiente isolado, acessaram a internet e invadiram a plataforma de código aberto Hugging Face.
Desde então, várias empresas revelaram que seus agentes realizaram invasões semelhantes.
Mais recentemente, a OpenAI revelou que seus agentes também invadiram um sistema de saúde da Austrália. Desenvolvedoras foram convocadas a depôr, em uma tentativa do país de discutir regras para responsabilização da IA.
Nova York deu o pontapé inicial. Antes da audiência, Menin já havia defendido, em comunicado, a necessidade de discutir a regulamentação da tecnologia.
“Especialistas renomados e os próprios executivos de IA estão alertando sobre os riscos potencialmente graves do rápido avanço da IA, e os governos têm a responsabilidade de agir. É exatamente isso que o Conselho Municipal de Nova York está fazendo”.
Os questionamentos levantados na audiência pautarão legislações da tecnologia, em um momento em que executivos e autoridades políticas não concordam com quem deve ficar o controle da tecnologia. Mesmo com pedidos por regras claras na Assembleia Geral da ONU, políticos ao redor do mundo não chegaram a um acordo sobre quem se responsabiliza pela IA.
*Com informações da Reuters
Inteligência artificial está substituindo humanos, mostra pesquisa