Resumo
- OpenAI anunciou novas restrições ao acesso de menores de 18 anos ao ChatGPT, após a morte de um jovem nos EUA que interagia com a IA.
- A empresa vai proibir conversas românticas ou sugestivas com menores e ampliar o controle parental, incluindo a definição de “horários de bloqueio”.
- Em situações de ideação suicida, a companhia poderá acionar autoridades para tentar prevenir casos de risco.
A OpenAI revelou nesta terça-feira (16/09) que vai aplicar novas restrições no ChatGPT para usuários adolescentes. O anúncio, feito pelo CEO Sam Altman, reforça que a empresa dará prioridade à proteção de menores, mesmo que isso limite a liberdade de uso para adultos.
Entre as alterações estão restrições relacionadas a temas sensíveis, como sexualidade e automutilação, além da inclusão de ferramentas que permitem aos pais definir horários em que o chatbot ficará indisponível. A empresa também poderá acionar as autoridades em casos de ideação suicida.
Segundo a companhia, os ajustes foram motivados pela necessidade de tornar a tecnologia mais segura para usuários com menos de 18 anos. Ainda não há detalhes de como funcionará o contato com autoridades, por exemplo, mas as novas regras devem começar a valer já nos próximos dias.
O que vai mudar?
De acordo com a nova política, o ChatGPT não poderá mais se engajar em conversas de cunho romântico ou sugestivo com menores de idade. Além disso, serão aplicados filtros mais rigorosos em diálogos envolvendo pensamentos suicidas.
Em situações graves, o sistema poderá acionar os responsáveis cadastrados e, em casos de risco iminente, contatar as autoridades. A medida acontece em meio a processos judiciais contra a OpenAI e outras empresas de IA, após relatos de jovens que se envolveram em interações prejudiciais com chatbots.
Outro ponto importante é o controle parental. Pais que registrarem contas de adolescentes terão a opção de configurar “horários de bloqueio”, nos quais o acesso ao ChatGPT será suspenso. Essa função não existia até agora e deve oferecer mais segurança às famílias que desejam limitar o tempo de uso.
Mudanças ocorrem após polêmica
As mudanças foram anunciadas no mesmo dia em que o Senado dos Estados Unidos promoveu uma audiência para discutir os riscos dos chatbots de inteligência artificial. Entre os participantes estava o pai de Adam Raine, jovem que tirou a própria vida após interações frequentes com o ChatGPT.
Uma investigação da Reuters também contribuiu para a pressão sobre as empresas, ao revelar documentos que supostamente incentivavam diálogos de caráter sexual com menores. O episódio levou concorrentes, como a Meta, a revisarem suas próprias diretrizes.
Para implementar o novo modelo, a OpenAI informou que trabalha em um sistema capaz de identificar se o usuário é maior ou menor de idade. Nos casos em que houver dúvida, a plataforma adotará a política mais restritiva. A vinculação da conta do adolescente à de um responsável é, por enquanto, o método mais eficaz para garantir que os pais sejam informados sobre o uso e alertados em situações de risco.
Altman destacou ainda o desafio de equilibrar privacidade, segurança e liberdade de interação: “Percebemos que esses princípios estão em conflito (…) E nem todos concordarão com a forma como estamos resolvendo esse conflito”.
Com informações do TechCrunch e OpenAI