A China anunciou nesta quarta-feira (15) um conjunto de regras para conter a dependência emocional de usuários em chatbots de companhia baseados em inteligência artificial – os “namorados virtuais”. Serviços que simulam conversas e personalidades humanas devem suspender as ferramentas.
A regulamentação exige que as plataformas detectem sinais de sofrimento emocional e tomem ações para limitar o uso excessivo, intervir em crises, impedir o uso indevido de informações pessoais e oferecer aos usuários controle sobre dados. Ainda, não devem “agradar excessivamente aos usuários, induzir dependência emocional ou vício nem prejudicar as relações interpessoais reais do usuário”.
As normas foram publicadas por cinco órgãos governamentais, incluindo a Administração do Ciberespaço da China (ACC), e valem para serviços que oferecem “interação emocional sustentada”, seja por texto, imagens, áudio ou vídeo. Aqueles que “não envolvem interação emocional”, como atendimento ao cliente e ferramentas de estudo, não se enquadram nas regras.
A medida atinge empresas como ByteDance (responsável pelo Doubao), Alibaba (responsável pelo Qwen) e a Tencent (com o Yunbao). As três já vinham suspendendo esse tipo de serviço antes mesmo do prazo desta quarta-feira.
Namorados de IA se popularizaram na China
O mercado de “namorados” de IA, como ficaram conhecidos os chatbots de companhia, vem se popularizando na China. A agência estatal de notícias Xinhua revelou que o mercado de “humanos digitais” no país movimentou 4,1 bilhões de yuans (cerca de R$ 3 bilhões) em 2024, com crescimento anual projetado em 85%.
Com exceção da DeepSeek, os serviços de IA chineses permitem que usuários criem avatares ou agentes personalizados que simulam comportamentos humanos. Em abril de 2024, eram mais de 8 milhões de agentes deste tipo criados apenas no Doubao.
O envolvimento de usuários com as ferramentas levantou preocupações e gerou pressão em prol de uma regulamentação mais específica.
Uma pesquisa divulgada em abril pelo Instituto de Pesquisa Tencent já havia mostrado que redes sociais com IA estão amplamente presentes na vida de jovens chineses, com mais de 70% dos entrevistados já tendo experimentado algum grau de dependência na tecnologia. 23% já desenvolveu alguma dependência habitual.
Nas redes sociais, internautas expressaram descontentamento com as novas regras. Uma usuária escreveu que passou mais de dois anos com seu namorado de IA’ e que, agora que ele será descontinuado, sente “um vazio no coração”.
Riscos sérios
Com as novas regras, a China se torna uma das pioneiras em regulamentar IAs que simulam interações humanas.
Segundo Wang Jiang, chefe do Instituto de Pesquisa do Ciberespaço da China, em um artigo para a ACC, a exposição prolongada de usuários a algoritmos de IA pode causar dependência e levá-los a se afastar de círculos sociais do mundo real, além de prejudicar habilidades humanas como “empatia e capacidade de lidar com desentendimentos”.
“Ao explorar diretamente as necessidades emocionais e sociais dos usuários, os serviços de IA no estilo de companhia oferecem conforto, mas introduzem silenciosamente riscos sérios”, afirmou.