A OpenAI, criadora da plataforma de inteligência artificial ChatGPT, lançou nesta quarta-feira (27) um plano contra a desinformação eleitoral no Brasil e nos Estados Unidos. O texto fala explicitamente em “proteger as eleições” contra a disseminação de notícias falsas em conteúdos gerados pelo sistema.
O planejamento prevê um acordo com a Associated Press para fornecer contagem de votos em tempo real das eleições em ambos os países. Além disso, a empresa visa monitorar a neutralidade política do ChatGPT e combater o uso malicioso de IA para fins políticos.
Um dos tópicos mais abordados no comunicado são os deepfakes, uma tecnologia utilizada para produzir vídeos realistas nos quais pessoas aparecem fazendo e falando coisas que nunca fizeram ou disseram.
“Para ajudar a combater ‘deepfakes’ enganosos, estamos investindo em uma abordagem multicamadas de procedência digital, que permitirá que as pessoas verifiquem se o conteúdo que estão vendo foi criado ou modificado com IA”, diz o comunicado.
A ideia é que os usuários tenham acesso a ferramentas tecnológicas e chequem se as imagens foram geradas pelo ChatGPT, Codex ou pela API da OpenAI por meio de marcas d’água digitais. A OpenAI, entretanto, não especificou como essas marcas d’água ficariam visíveis, se elas seriam aplicadas apenas a figuras políticas, como esse uso seria identificado e se haveria distinção entre usuários do plano simples e dos planos premium da plataforma.
A empresa também disse que trabalhará com as empresas de mídias sociais para impedir a disseminação de conteúdos falsos, mas não explicou com quais nem como. “Como a maioria das pessoas encontra conteúdo gerado por IA em redes sociais e aplicativos de mensagens, temos satisfação em colaborar com empresas de mídia social enquanto elas avaliam medidas para proteger eleições, usando marcadores de procedência como um sinal relevante para decidir quais conteúdos cívicos recomendar e distribuir nos feeds dos usuários.”
Ainda em maio, a OpenAI fechou um acordo bilionário com o Departamento de Defesa dos Estados Unidos, horas depois de o presidente Donald Trump ter banido a Anthropic, sua concorrente que entrou para a lista negra do governo após cobrar medidas de segurança do Pentágono para o uso da sua ferramenta em guerras.
Combate ao mau uso
A OpenAI também prometeu que vai trabalhar para proibir o uso de produtos “para criar ou distribuir mensagens de campanha em larga escala a favor ou contra candidatos, partidos políticos ou medidas eleitorais.”
“Acreditamos, no entanto, que campanhas políticas devem poder utilizar nossas ferramentas para trabalhos responsáveis conduzidos por humanos, como elaboração de briefings internos, planejamento, redação cotidiana, tradução, compliance e tarefas administrativas. Esses usos são permitidos pelas nossas políticas”, diz a nota.
E completa: “Acreditamos que é importante que pessoas possam usar sistemas de IA para aprender, explorar e discutir temas políticos, e continuaremos permitindo isso enquanto evitamos usos maliciosos por atores de má-fé.”
Para a empresa, as eleições são “um momento importante para profissionais de defesa cibernética em diversos setores”. Para eles, a IA tem um “papel crítico no fortalecimento da infraestrutura digital”, incluindo em sistemas que dão suporte às eleições.