Ataques cibernéticos contínuos feitos por IA devem acontecer com frequência nos próximos meses. A previsão pessimista é do diretor de assuntos globais da OpenAI, Chris Lehane, em entrevista ao jornal The Guardian.
Lehane mencionou que isso é “um novo capítulo” na era da IA, impulsionado por recentes ataques autônomos feitos por modelos da própria OpenAI e da Anthropic contra sistemas externos.
Recentemente, a criadora do ChatGPT limitou o treinamento de modelos mais avançados de IA. Além de pausar o avanço em algumas áreas do desenvolvimento, a empresa vai ampliar mecanismos de vigilância e sistemas de proteção para monitorar comportamentos perigosos da tecnologia.
O caso mais emblemático de ataque feito por IA envolveu ferramentas da OpenAI e a plataforma Hugging Face: os modelos conseguiram escapar do ambiente de testes, se conectaram com a internet e tentaram diversas ações malignas até encontrar uma vulnerabilidade para invadir o sistema.
:quality(85)/4dd2eb0b-4619-4db3-a254-14a37874854c.png "Editar informações da imagem")
Executivo alfineta modelos de código aberto
Lehane apontou que um dos principais riscos dos ataques feitos por IA é o acesso aos modelos de código aberto. “As pessoas terão acesso aos modelos open source e poderão fazer ataques contínuos e persistentes contra você, e você precisará ter modelos realmente superiores para evitá-los e proteger”, comentou.
Vale reforçar que a OpenAI tem modelos abertos, mas as soluções mais avançadas são proprietárias e não possuem a documentação aberta ao público. Alguns dos modelos abertos mais populares do mercado são de empresas chinesas, o que também indica uma crítica à guerra comercial no mercado.
Entenda por que as IAs conseguem fazer ataques hackers por conta própria.
{{WHATSAPP_CHANNEL}}