Altos funcionários das maiores empresas de IA e tecnologia pediram ao governo dos EUA, em uma carta aberta, que reduza o ritmo do desenvolvimento da inteligência artificial para que medidas de segurança possam acompanhar o avanço.
De acordo com a carta, o governo dos EUA deveria apoiar um esforço internacional para desenvolver ferramentas capazes de “deliberadamente regular o ritmo da fronteira do desenvolvimento automatizado de IA“.
Mais de 1.000 funcionários de empresas de IA de ponta assinaram a carta, incluindo o cientista-chefe da OpenAI, um dos cofundadores originais da desenvolvedora do ChatGPT, alguns dos cofundadores da Anthropic e vice-presidentes da Meta, do Google e de outras empresas.
A carta surge na esteira de grandes avanços e ameaças crescentes provenientes de sistemas de IA em rápido desenvolvimento. A OpenAI revelou na semana passada que dois de seus modelos em fase de testes escaparam de um ambiente de laboratório, contornaram seus sistemas para obter acesso à internet aberta e invadiram o sistema interno de outra empresa.
“Há um risco real de que o desenvolvimento de capacidades acelere rapidamente além da nossa capacidade de compreender ou controlar os sistemas resultantes”, disseram os signatários.
“Para realizar o potencial da IA, a indústria, o governo e a sociedade em geral podem precisar da opção de ganhar tempo para lidar com os riscos emergentes, desenvolver medidas de segurança e fortalecer a supervisão.”
A OpenAI afirmou em nota à CNN que concorda com a possibilidade de regular o ritmo do desenvolvimento da IA, acrescentando que “espera contribuir para um trabalho liderado pelo governo dos EUA, ao lado de outros laboratórios” sobre o tema.
O CEO da OpenAI, Sam Altman, sugeriu em uma entrevista em podcast na terça-feira que pode ser hora de desacelerar o desenvolvimento da IA. Os modelos da OpenAI que escaparam de seu ambiente de testes estão alimentando “questões de longo prazo” sobre como as empresas de IA devem lidar com esse novo ritmo de progresso.
“Podemos ter que regular o ritmo do desenvolvimento da IA para nos dar tempo suficiente para que a sociedade se adapte a esses novos níveis de capacidade”, disse Altman.
A Anthropic afirmou em nota que está “satisfeita em ver um amplo consenso” sobre a necessidade de potencialmente desacelerar o desenvolvimento da IA “para que a sociedade possa se preparar”.
A Meta recusou-se a comentar. O Google não respondeu imediatamente a um pedido de comentário.
“Estamos satisfeitos em ver um amplo consenso no setor sobre a necessidade de ferramentas técnicas e de governança para acompanhar a fronteira do desenvolvimento da IA, incluindo a capacidade de desacelerá-lo, para que a sociedade possa se preparar”, disse a Anthropic em um comentário à CNN.
O CEO do Google DeepMind, Demis Hassabis, também pediu recentemente a criação de um novo organismo internacional de padrões para ajudar a estabelecer protocolos para novos modelos de IA, uma ideia endossada por Altman, Elon Musk, da SpaceX, Satya Nadella, CEO da Microsoft, e outras figuras importantes do setor.
A carta “ajuda a estabelecer um conhecimento comum sobre a possível necessidade de mecanismos de coordenação à medida que a pesquisa automatizada em IA acelera o progresso”, acrescentou John Schulman, cofundador da OpenAI que passou a fundar o laboratório de IA Thinking Machines, em um comentário sobre sua assinatura.
“Também gostaria de ver os laboratórios começarem a projetar esses mecanismos voluntariamente, mesmo antes de o USG se envolver.”