À medida que os chatbots com IA se tornam mais realistas, as empresas têm promovido sua capacidade de servir como confidentes, e os usuários começaram a confiar neles para obter apoio emocional.
Mas especialistas alertam que confiar na automação para obter orientação sobre saúde mental traz riscos. Famílias cujos entes queridos morreram supostamente após interações com chatbots criticaram a falta de medidas de segurança.
“Acreditamos que a IA deve ampliar as oportunidades educacionais; é por isso que criamos o ChatGPT for Teens para oferecer apoio em momentos fora da sala de aula, quando nem sempre há ajuda disponível, ao mesmo tempo em que mantemos os adolescentes engajados em um processo de aprendizagem ativo e colaborativo”, afirmou a OpenAI.
A empresa informou que o ChatGPT for Teens oferece ferramentas educacionais, como o modo de estudo para aprendizagem orientada, lembretes responsáveis sobre tarefas escolares para evitar que elas sejam ignoradas, questionários e visualizações de conteúdo para prática variada, além de horários de estudo para reservar momentos dedicados ao aprendizado.
A OpenAI acrescentou que aprimorou os controles, permitindo que os pais vinculem contas, definam “horários de silêncio”, gerenciem determinadas configurações e recebam notificações em situações de alto risco, incluindo novas notificações relacionadas a distúrbios alimentares.
(Reportagem de Jaspreet Singh em Bengaluru)
