A OpenAI anunciou, nesta terça-feira (18), uma versão do ChatGPT desenvolvida especificamente para adolescentes de 13 a 17 anos. A novidade inclui regras mais rígidas de segurança e mecanismos de supervisão para reduzir riscos durante o uso da ferramenta por menores de idade.

Batizada de “ChatGPT for Teens” (ChatGPT para adolescentes), a experiência é aplicada automaticamente quando o sistema identifica que o usuário está na faixa etária de 13 a 17 anos.

Grande parte das medidas de segurança já estava disponível para contas de menores, com restrições a conteúdos relacionados à automutilação, violência, transtornos alimentares e material sexual explícito.

Entre os novos recursos estão lembretes para que os adolescentes façam pausas durante o uso da plataforma, períodos de “horário de silêncio” e o Modo Estudo. Nesse formato, o ChatGPT utiliza perguntas e orientações para auxiliar o estudante a chegar à resposta, em vez de simplesmente entregar uma solução pronta.

A experiência também estabelece limitações sobre a forma como o chatbot interage com os adolescentes. O sistema não deve sugerir que possui sentimentos pessoais em relação ao usuário ou consciência própria. Algumas funcionalidades, como o modo de voz, também ficam indisponíveis nessa versão.

Pais poderão receber alertas

Os responsáveis poderão vincular suas contas às dos filhos adolescentes e receber notificações quando o sistema identificar determinadas situações consideradas de alto risco.

Segundo a OpenAI, esses alertas passam por análise de moderadores humanos. Para preservar a privacidade dos adolescentes, informações específicas das conversas são retiradas dos registros antes da análise.

Medidas chegam em meio a pressão sobre a OpenAI

O lançamento ocorre em um momento de aumento da pressão judicial e regulatória sobre empresas que desenvolvem sistemas de inteligência artificial.

A OpenAI enfrenta processos relacionados à segurança de menores e aos possíveis impactos das interações entre crianças, adolescentes e chatbots.

Nos Estados Unidos, a Comissão Federal de Comércio (FTC) também ampliou a atenção sobre ferramentas de inteligência artificial que funcionam como companheiros virtuais e os possíveis riscos desse tipo de interação para usuários menores de idade.

Assim como ocorre com as redes sociais, empresas de inteligência artificial estão sob pressão para adotar medidas específicas de proteção a crianças e adolescentes, enquanto autoridades discutem novas regras para o setor.

Outras companhias também foram questionadas sobre o uso de suas tecnologias por menores. A Anthropic, por exemplo, decidiu restringir o acesso aos seus modelos a usuários adultos.