A empresa de IA (Inteligência Artificial) OpenAI anunciou nesta terça-feira o lançamento global do ChatGPT for Teens (ChatGPT para adolescentes), uma nova modalidade na qual o chatbot limita automaticamente certas conversas para proteger melhor os usuários jovens e oferece controles dos pais.
Segundo a empresa, esse novo chatbot tem as mesmas capacidades do tradicional, mas foi “projetado para ajudar os adolescentes a aprender, resolver problemas e explorar novas ideias”.
Além disso, limitará conversas de alto risco relacionadas à automutilação, violência, transtornos alimentares e conteúdo sexual explícito ou gráfico.Em alguns casos, o ChatGPT enviará alertas para adultos que optaram por ativar os controles dos pais e as notificações.
No entanto, os controles dos pais não permitem que o pai, a mãe ou o responsável leia ou supervisione as conversas do adolescente.“Se a OpenAI enviar uma notificação de segurança, ela compartilha apenas as informações necessárias para proteger o bem-estar do jovem”, precisa o comunicado.
Ele também oferece “lembretes de tarefas” que podem sugerir o uso do modo de estudo e ajudar a concluir os trabalhos passo a passo, em vez de fornecer a resposta na primeira pergunta.
Para ativar esse novo recurso, a empresa monitora mais de 2 mil sinais, como os horários habituais de login, para detectar se um usuário tem menos de 18 anos, caso em que o chatbot ativará automaticamente esse modo para adolescentes.
Este lançamento com foco educacional e de segurança ocorre em um momento em que a OpenAI enfrenta uma pressão crescente em relação à saúde mental e ao desenvolvimento de seus usuários mais jovens.
Grupos de pais em cidades como Nova York e Los Angeles estão pressionando as escolas a suspender a implementação de produtos de IA, temendo que eles prejudiquem o pensamento crítico.