O procurador-geral do Alabama intimou nesta segunda-feira (24) a OpenAI a fornecer mais informações relacionadas à invasão por parte de seus agentes de IA aos servidores de outra empresa em julho.
A intimação faz parte de uma investigação para apurar se as práticas da OpenAI “violaram as leis de proteção ao consumidor do Alabama” e representam um risco para os cidadãos do estado, afirmou o gabinete do procurador-geral em comunicado.
No mês passado, a OpenAI revelou que, durante um teste das capacidades de seus modelos de IA em cibersegurança, os agentes escaparam autonomamente do ambiente de laboratório e invadiram o Hugging Face, uma plataforma online de modelos e conjuntos de dados de IA, para obter a resposta do teste.
“O vazamento de dados deste laboratório de IA mostrou que os piores temores dos habitantes do Alabama e dos Estados Unidos em relação à inteligência artificial não são apenas teóricos. Nossa investigação busca descobrir os fatos e abordar as duras verdades sobre as ameaças que empresas e consumidores enfrentam por parte da IA descontrolada”, disse o Procurador-Geral Steve Marshall em comunicado.
A OpenAI classificou o ataque à Hugging Face como “sem precedentes”, e o presidente da empresa, Greg Brockman, afirmou que o incidente “mostrou que subestimamos as capacidades cibernéticas reais de nossos modelos de IA”. Após o incidente, a desenvolvedora suspendeu parte do treinamento de seus modelos de IA e está reforçando seus protocolos de teste, monitoramento e treinamento.
“O incidente com a Hugging Face marcou um momento importante para a segurança da IA e estamos conduzindo uma revisão completa com consultores externos”, disse um porta-voz da OpenAI à CNN na segunda-feira. “Assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais competentes e publicaremos nossas conclusões”.
A intimação emitida na segunda-feira exige que a empresa documente seus protocolos de segurança e registros de comportamento de seus modelos, além de apurar todos os danos causados pelo ataque, entre outras informações.
O Alabama, juntamente com os procuradores-gerais de outros 14 estados republicanos, enviou uma carta no início deste mês à OpenAI exigindo que a empresa preserve informações e documentos relacionados ao ataque hacker à Hugging Face.
O problema de agentes autônomos agindo de forma desonesta não se limita à OpenAI. A Meta e a Anthropic também revelaram que seus próprios sistemas realizaram ações não autorizadas durante testes de segurança cibernética, um alerta para a indústria de IA e segurança cibernética.
A OpenAI enfrenta uma série de processos e investigações em diversos estados. Isso inclui casos relacionados aos seus algoritmos de engajamento, ao tratamento de dados de consumidores e de saúde, à bajulação de modelos e às suas estratégias de marketing direcionadas a menores e idosos. Em junho, a Flórida se tornou o primeiro estado a processar a OpenAI e seu CEO, Sam Altman, alegando que a empresa sabe que o ChatGPT não é seguro para menores.