Resumo
- OpenAI lançou uma ferramenta de controle parental no ChatGPT, permitindo monitorar o uso por adolescentes.
- Entre os recursos estão restrição de conteúdo, horários de bloqueio, desativação de funcionalidades e alertas sobre conteúdos sensíveis.
- A medida ocorre após críticas e processos judiciais relacionados à morte de um adolescente de 16 anos que interagiu com a IA.
Após críticas e processos judiciais, a OpenAI lançou, nesta segunda-feira (29/09), um novo conjunto de ferramentas de controle parental para o ChatGPT. A atualização foi anunciada no início deste mês, mas começa a ser disponibilizada hoje. Com ela, pais e responsáveis poderão vincular suas contas às de seus filhos adolescentes.
A mudança de postura da empresa ocorre após uma série de incidentes que expuseram a vulnerabilidade de jovens na plataforma. Por isso, as novas configurações incluem restrição de acesso em determinados horários e, principalmente, notificações caso haja detecção de conversas sobre temas sensíveis, como automutilação e suicídio.
Em agosto, um caso envolvendo um adolescente de 16 anos repercutiu após a família revelar que o jovem conversou durante meses com o chatbot sobre seus problemas. De acordo com os pais, o robô o ajudou a rascunhar uma carta de despedida antes de tirar a própria vida.
Para utilizar os novos recursos, é necessário consentimento mútuo: os pais precisam enviar um convite para vincular as contas, e o adolescente deve aceitá-lo. Uma vez conectadas, será possível acessar as configurações na nova seção “Controle Parental”, no menu do ChatGPT, no qual é possível personalizar a experiência do jovem.
Alertas aos pais
Entre os vários novos recursos, um dos principais é um novo sistema de notificações, a resposta da empresa aos incidentes trágicos envolvendo a plataforma nos últimos meses. Quando o sistema detectar que um adolescente pode estar pensando em se machucar, uma pequena equipe de moderadores humanos deverá revisar as mensagens. Se houver sinais de perigo, os pais receberão um e-mail, SMS ou notificação no aplicativo.
A família do adolescente Adam Raine alegou, em processo movido contra a empresa, que o chatbot não apenas falhou em alertar sobre os riscos, como teria incentivado o jovem. Agora, a OpenAI afirma que, em situações de ameaça iminente à vida e sem conseguir contatar os pais, poderá acionar autoridades locais.
De acordo com a revista Wired, os alertas devem chegar aos pais em questão de horas após a conversa ser sinalizada. Entretanto, a apuração observou que a notificação não fala em suicídio explicitamente e nem reproduz trechos da conversa entre o adolescente e a máquina.
Em resposta à revista, Lauren Haber Jonas, chefe de bem-estar juvenil da OpenAI, diz que a ferramenta dará informações suficientes aos pais, mas sem invadir a privacidade do adolescente. Em vez disso, o alerta informará de maneira geral sobre a preocupação com automutilação e oferecerá sugestões de como abordar o tema, elaboradas com especialistas em saúde mental.
O que mais muda?
Com as contas vinculadas, os pais ganham acesso a uma página de controle que oferece poder de gestão sobre a experiência do adolescente. As principais funcionalidades disponíveis são:
- Restrição de conteúdo sensível: por padrão, as contas de adolescentes vinculadas terão proteções aprimoradas ativadas. Isso inclui a redução de conteúdo gráfico, menções a desafios virais perigosos, roleplay de natureza sexual ou violenta e ideais de beleza extremos.
- Horários de restrição: permite definir períodos específicos em que o uso do ChatGPT será bloqueado, como durante o horário escolar ou à noite.
- Desativação de recursos: é possível desligar o modo de voz, a capacidade de gerar imagens e a função de “Memória”, que permite ao chatbot salvar informações de conversas anteriores.
- Os pais também podem optar por não usar as conversas do adolescente para o treinamento dos modelos de IA da OpenAI.
Além desses recursos, a empresa anunciou que trabalha em um sistema de predição de idade, similar ao que o YouTube implementou neste ano, para no futuro aplicar automaticamente as configurações de segurança para contas que a IA identifique como sendo de menores de 18 anos.