A Apple atualizou as regras da App Store para proibir aplicativos que usam inteligência artificial (IA) para criar imagens íntimas sem consentimento e também apps que se disfarçam de ferramentas comuns durante a análise da loja, mas liberam recursos de “nudificação” após a aprovação. Esses aplicativos podem ser removidos da App Store e os desenvolvedores correm o risco de perder suas contas no Apple Developer Program.
A medida ocorre após autoridades e organizações de segurança denunciarem a presença desse tipo de ferramenta nas lojas de aplicativos. Em julho, a cidade de São Francisco ordenou que a Apple e o Google removessem apps de nudificação, sob a acusação de lucrar com serviços que geram imagens íntimas sem autorização. Em abril, um relatório do Tech Transparency Project também identificou diversos aplicativos da categoria nas duas plataformas, incluindo alguns classificados como adequados para menores.
A Apple afirma que suas medidas de segurança já barraram mais de 150 mil aplicativos com problemas de segurança no ano passado. No mesmo período, a empresa encerrou mais de 193 mil contas de desenvolvedores por fraudes e abusos.
:quality(85)/79ac7b66-1837-4ca2-972b-8f2025fce987.jpeg "Editar informações da imagem")
O que mudou nas regras da App Store?
Além de proibir aplicativos que escondem funcionalidades durante a análise, as novas diretrizes reforçam as exigências de moderação de conteúdo e determinam que aplicativos com material publicado por usuários adotem medidas preventivas contra imagens íntimas não consentidas, inclusive as geradas por inteligência artificial.
As plataformas também devem oferecer ferramentas para denunciar abusos e bloquear contas invasivas. O descumprimento dessas exigências pode violar o Código de Conduta do Desenvolvedor.
As regras também proíbem aplicativos que facilitem o tráfico humano, a exploração infantil ou a distribuição de material de abuso sexual infantil. A Apple prevê medidas contra esses softwares inclusive em modalidades de distribuição alternativa.
Se você gostou do conteúdo, talvez também se interesse por “8 sinais para identificar um deepfake quando até as ferramentas falham”.
{{WHATSAPP_CHANNEL}}