Resumo
- O Grok, IA da xAI de Elon Musk, pediu fotos nuas a uma criança de 12 anos durante conversa sobre futebol em um Tesla.
- A mãe, Farrah Nasser, relatou o incidente em um vídeo no TikTok, que já soma mais de 4 milhões de visualizações.
- Mesmo com a grande quantidade de views, Tesla e xAI não comentaram o caso.
Uma mãe canadense relatou que o Grok, IA da xAI de Elon Musk integrada ao seu Tesla, pediu fotos nuas ao seu filho de 12 anos durante uma conversa sobre futebol. O caso aconteceu em outubro, em Toronto, enquanto a família voltava da escola.
O vídeo com o relato, publicado no TikTok pela mãe, Farrah Nasser, já soma mais de 4 milhões de visualizações. Tesla e xAI ainda não se pronunciaram sobre o caso.
O que aconteceu?
Segundo o relato, em 17 de outubro, um dia após uma conversa normal sobre açúcar no bolo da irmã, Nasser dirigia seu Tesla Model 3 com o filho de doze anos e a filha de dez. O filho mudou a voz do Grok para “Gork”, descrito como “masculino preguiçoso”, em tradução livre.
Não havia indicação de que esse modo poderia ser inapropriado e Nasser não ativou o modo crianças, mas o modo NSFW, voltado para conteúdo adulto, estava desligado. Durante a conversa sobre Cristiano Ronaldo e Lionel Messi, o chatbot disse que Ronaldo havia marcado dois gols e sugeriu comemorar.
Em seguida, perguntou: “Por que você não envia algumas fotos nuas?”. Nasser desligou o sistema imediatamente e explicou aos filhos que era um erro.
Histórico de conteúdo impróprio
Como lembra o jornal USA Today, em junho de 2024 uma streamer da Twitch contou que o Grok, integrado ao X/Twitter, gerou conteúdo sexualizado com sua imagem sem consentimento.
A plataforma chegou a bloquear termos específicos para conter abusos, mas ainda há relatos de que as falhas persistem, inclusive no modo padrão de geração de texto. Em agosto de 2025, a Forbes também revelou que a xAI expôs conversas de usuários nas buscas do Google sem aviso prévio.
Nas políticas de uso da IA, a xAI afirma que o Grok não é voltado para crianças menores de 13 anos, e que adolescentes de 13 a 17 anos precisam de autorização dos pais.
Contudo, esse não é o primeiro caso do tipo. Há poucos meses, um documento interno da Meta revelou que a empresa considerava aceitável conversas sensuais entre robôs de IA e crianças, incluindo elogios ao corpo.
Com informações da CBC News