Apple e Google foram obrigados a derrubar apps de “nudificação” de suas lojas. As big techs receberam notificações judiciais por parte do procurador David Chiu, de São Francisco (Califórnia), para remover 13 aplicativos de edição de imagens com IA que estavam sendo usados para despir pessoas.
De acordo com uma carta do procurador enviada às empresas na quinta-feira (16), vista pelo site WIRED, as companhias devem parar de “auxiliar e incentivar” a venda de imagens explícitas geradas por deepfakes e “romper” relações comerciais com as desenvolvedoras dos aplicativos.
O escritório de Chiu já havia tomado medidas legais contra 16 outros apps de geração de deepfakes. Ele estimou que Apple e Google provavelmente lucraram milhões de dólares em taxas com os aplicativos.
“As companhias têm responsabilidade de garantir que os aplicativos em suas plataformas não facilitem abuso sexual”, afirmou ao WIRED. As leis da Califórnia já proíbem serviços de criação de deepfakes.
Aplicativos de nudificação se popularizam com IA
Aplicativos que usam IA para editar imagens começaram a ser usados para despir usuários.
No início do ano, o Grok, chatbot de inteligência artificial da xAI, que funciona integrado ao X (antigo Twitter), foi usado para gerar imagens sexualizadas de crianças e mulheres. No Brasil, o MPF (Ministério Público Federal), a Senacon (Secretaria Nacional do Consumidor) e a ANPD (Agência Nacional de Proteção de Dados) recomendaram, em janeiro, que a rede social tomasse medidas para impedir a geração de conteúdo pornográfico.
Desde então, autoridades ao redor do mundo têm apertado o cerco contra esse tipo de serviço.
Dos 13 aplicativos citados pelo procurador de São Francisco, oito estão na App Store (da Apple) e cinco na Play Store (do Google). Um deles, que não teve seu nome revelado, acumula mais de 1 milhão de downloads e pode gerar imagens de mulheres de biquíni e em contextos sexuais.
O que dizem Apple e Google?
Ao WIRED, o porta-voz do Google, Dan Jackson, afirmou que a empresa já deletou “centenas” de aplicativos com funções de “nudificação”, incluindo os cinco apps listados pelo gabinete do procurador de São Francisco.
A Apple não respondeu.
A CNN Brasil entrou em contato com ambas as empresas para posicionamento sobre o caso e aguarda retorno.