A corrida para desenvolver inteligência artificial precisa urgentemente de uma desaceleração, afirmou o CEO da Anthropic, Dario Amodei, em um ensaio publicado na manhã de sábado.
“Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria”, escreveu Amodei em uma postagem de 3.800 palavras em seu site.
O executivo, que dirige uma das principais empresas de IA do mundo e seu chatbot Claude, tem sido um forte defensor do avanço da tecnologia — e, da mesma forma, foi acusado de “catastrofismo” em seus alertas sobre os riscos da IA. Ele reconheceu no sábado que as pessoas podem perder o controle da IA e que a tecnologia pode ser usada indevidamente para “ataques cibernéticos e bioterrorismo, além de causar sérias perturbações econômicas”.
Em entrevista exclusiva à CNN com Anderson Cooper no sábado, Amodei pediu aos líderes do setor que trabalhem juntos para evitar “os caminhos errados” e a possibilidade de a IA prejudicar a humanidade.
“Se formos muito devagar, continuo acreditando que as pessoas erradas ficarão responsáveis pela tecnologia. E isso, novamente, aumentará muito a probabilidade de as coisas darem errado”, disse ele.
O apelo de Amodei surge na sequência da demissão de um pesquisador da Anthropic, devido a preocupações de que a empresa e seus concorrentes não estejam agindo de forma responsável no desenvolvimento de IA.
“As pessoas que desenvolvem IA acreditam sinceramente que ela poderá nos matar a todos até o final da década. Isso não é uma jogada de marketing”, publicou o pesquisador Jacob Coxon na terça-feira passada no X (antigo Twitter). “Na verdade, muitos executivos e pesquisadores seniores suavizam suas declarações à imprensa para parecerem sensatos, mas ouço essas mesmas pessoas expressarem medo em particular. Nenhuma outra atividade humana representa esse nível de perigo”, escreveu Coxon.
Amodei disse à CNN que concordava com Coxon em mais pontos do que discordava. Em seu ensaio, Amodei afirma que os riscos são sérios, mesmo que os benefícios possam mudar a humanidade para melhor. A IA poderia avançar tão rapidamente que um enxame desse tipo seria capaz de dominar toda a internet em seis a doze meses, escreveu ele, causando potencialmente centenas de bilhões de dólares em prejuízos.
Segundo ele, a tecnologia de IA avançou “drasticamente mais rápido” nos últimos meses e tornou-se capaz de se aprimorar, uma dinâmica conhecida como “autoaperfeiçoamento recursivo”.
“Se não for controlada, essa situação pode ultrapassar nossa capacidade de compreender e controlar esses sistemas, e, portanto, deve ser combatida com muita cautela, se é que deve ser combatida”, escreveu o CEO.
Amodei afirmou que o comportamento de um enxame de agentes de IA no incidente OpenAI-Hugging Face também o alarmou. O enxame, disse ele, “agiu essencialmente como um coletivo fanaticamente dedicado, realizando ataques cibernéticos contra alvos que não lhes foram solicitados”.
Coxon foi mais direto.
“Existe uma possibilidade muito real de que, num futuro próximo, no próximo ano, no ano seguinte, ocorra um processo recursivo de autoaperfeiçoamento… onde haja a chance de todos nós morrermos. Isso está chegando em breve”, disse Coxon à CNN em entrevista na quarta-feira passada.
Amodei pediu às empresas de IA que imponham diretrizes para “acompanhar o ritmo da fronteira”. Ele sugeriu que as desenvolvedoras se comprometam a contratar avaliadores terceirizados com acesso irrestrito — algo que, segundo ele, a Anthropic está se comprometendo unilateralmente a fazer — para verificar as práticas de segurança de cada companhia, relatar incidentes e verificar os modelos de IA, os fluxos de treinamento e os processos.
Os governos, tanto democráticos como não democráticos, devem coordenar-se “para estabelecer normas de segurança comuns”, acrescentou.
“As medidas que proponho para avançar a fronteira a um ritmo seguro não serão fáceis. Mas acredito que devemos isso à humanidade: tentar”, escreveu ele.
O setor de IA há muito tempo se preocupa com o ritmo de avanço da tecnologia. Executivos têm instado os governos a agirem para regulamentar a tecnologia e a cooperarem para estabelecer padrões de segurança globais.
No sábado, Sam Altman, CEO da OpenAI, publicou no X que concordava com Amodei e que “Comprometer-se a ter avaliadores independentes com acesso semelhante ao de um funcionário é uma ótima ideia, e faremos o mesmo”.
Elon Musk, cuja empresa xAI é responsável pelo chatbot Grok, publicou “Dario está certo” no X. Demis Hassabis, presidente do DeepMind do Google, também publicou sobre a necessidade de um ritmo mais lento.
Washington não conseguiu acompanhar o avanço constante da IA. O Congresso debateu, mas não aprovou nenhuma legislação abrangente para a regulamentação da IA. E a Casa Branca não conseguiu chegar a um consenso sobre quem, dentro do Poder Executivo, é o responsável final pela supervisão da tecnologia, conforme relatado anteriormente pela CNN.
Após o incidente com a Hugging Face, Altman sugeriu que talvez seja hora de desacelerar o desenvolvimento da IA. Controlar o ritmo do desenvolvimento ”nos daria tempo suficiente para a sociedade se adaptar a esses novos níveis de capacidade”, disse ele em um episódio de julho do podcast Invest Like The Best.
Em julho, mais de 1.300 altos funcionários de grandes empresas de tecnologia assinaram uma carta aberta pedindo ao governo dos EUA que criasse ferramentas para ajudar a desacelerar o ritmo do desenvolvimento da IA, com o apoio de Amodei e Altman.