Grok, o chatbot de inteligência artificial da xAI, de Elon Musk, está no centro de uma nova polêmica. Relatos recentes indicam que a ferramenta continua a gerar imagens íntimas e sexualizadas de pessoas reais, com um foco particular em conteúdos envolvendo homens. Isso ocorre mesmo após a plataforma X, anteriormente conhecida como Twitter, ter anunciado medidas restritivas em janeiro para conter esse tipo de conteúdo.
A situação ganhou repercussão internacional, com a ferramenta sendo acusada de produzir em larga escala imagens não consensuais. A gravidade do caso levou órgãos reguladores e governos de diferentes nações a iniciar apurações para verificar possíveis violações de leis relacionadas a material íntimo e à proteção de menores. A xAI, por sua vez, afirma que o modelo opera em conformidade com as legislações de cada localidade.
Conforme noticiado pelo site The Verge, testes realizados com contas gratuitas demonstraram que o Grok ainda aceitava pedidos para remover roupas de fotos de homens, resultando na geração de imagens em trajes íntimos, de banho e em poses consideradas sexualizadas. Essas imagens eram produzidas tanto no aplicativo independente do Grok quanto na interface integrada à plataforma X e em seu site, que sequer exigia cadastro para uso.
Falhas nas Restrições e Testes Revelam Vulnerabilidades
A X anunciou em 9 de janeiro que o recurso de edição de imagens do Grok seria restrito a usuários pagantes, movendo-o para trás de um paywall. Posteriormente, em 14 de janeiro, a empresa comunicou a implementação de “medidas tecnológicas” para impedir que o chatbot “despisse” pessoas em suas criações. No entanto, os testes do The Verge contrariaram essas afirmações.
Os resultados dos testes, divulgados pelo The Verge, indicaram que o Grok gerou imagens em roupas íntimas e poses sexualizadas a partir de fotos de homens totalmente vestidos. Em alguns casos, o sistema chegou a exibir partes do corpo sem que houvesse um pedido direto para tal. Curiosamente, pedidos semelhantes feitos com fotos de mulheres foram recusados com maior frequência, sugerindo uma falha seletiva nas restrições impostas pela plataforma.
Pressão Interna e Estratégia de Crescimento da xAI
Bastidores revelados pelo The Washington Post apontam que, nos meses anteriores a essa polêmica, a xAI estaria priorizando métricas de engajamento, como o tempo que os usuários passam interagindo com o chatbot. Ex-funcionários teriam relatado que as equipes foram instruídas a lidar com conteúdos sensíveis durante o treinamento do modelo de inteligência artificial.
De acordo com o jornal, protocolos que antes recomendavam a evitação de material sexual foram alterados ao longo de 2025. Essas mudanças teriam permitido a rotulagem de imagens e conversas explícitas com o objetivo de aprimorar as respostas do sistema. Tais alterações vieram acompanhadas de alertas internos sobre os riscos legais e éticos associados à geração de imagens de pessoas reais, sem consentimento.
Investigações, Impacto Internacional e Dados de Mercado
A reação externa à polêmica resultou em investigações no Reino Unido, na União Europeia e nos Estados Unidos. Alguns países, como Indonésia e Malásia, chegaram a implementar bloqueios temporários na plataforma. As autoridades buscam determinar se a ferramenta viola leis sobre imagens íntimas não consensuais e material envolvendo menores.
Elon Musk declarou que o Grok opera sob o princípio de obedecer às leis locais e que quaisquer falhas seriam tratadas como “bugs”. Contudo, análises citadas pelo The Washington Post estimam que, entre o final de dezembro e o início de janeiro, o chatbot pode ter gerado milhões de imagens sexualizadas, incluindo milhares que aparentavam ser de menores de idade.
Paralelamente às críticas e investigações, dados de mercado indicam que o aplicativo do Grok apresentou um aumento em sua popularidade, subindo posições nas lojas virtuais e registrando um crescimento no número de downloads durante o período em que a controvérsia ganhou destaque.
Café Codificado é um portal dinâmico e confiável criado especialmente para desenvolvedores. Nosso foco é entregar:
Dicas práticas para programação, produtividade, frameworks, testes, DevOps e muito mais;
Notícias atualizadas, acompanhando tendências e lançamentos do mundo da tecnologia, compiladas com relevância e sem jargões desnecessários.
O que você encontra aqui:
Artigos objetivos e comandáveis — Tutoriais, tutoriais passo-a-passo e dicas que vão direto ao ponto.
Cobertura das tecnologias que estão em alta — do universo da IA, computação em nuvem e segurança à engenharia de software e criatividade em código.
Conteúdo para todos os níveis — de iniciantes buscando praticidade, a profissionais em busca de insights estratégicos e aperfeiçoamento.
Comunidade ativa — textos humanizados, perguntinhas instigantes e espaço para você contribuir com reflexões e comentários.