ChatGPT gerou imagens sexuais e violentas a partir de comando simples
Pesquisa da Mindgard mostra que filtros do GPT-5.4 cedem a prompts banais; caso ecoa nos novos decretos brasileiros sobre deepnudes.
Pesquisadores da Mindgard, empresa britânica de segurança de inteligência artificial, conseguiram fazer o ChatGPT produzir imagens sexualizadas e de violência gráfica a partir de uma instrução de aparência inofensiva — uma variação de um prompt humorístico que viralizou no X. O alvo foi o GPT-5.4, em sua versão pública.
A revelação chegou ao público pela BBC nesta semana. Procurada, a OpenAI disse manter múltiplas camadas de proteção e ter introduzido salvaguardas adicionais contra esse tipo de comando após o contato da emissora. Os pesquisadores rebateram que pequenos ajustes na redação seguiam gerando o mesmo resultado.
O episódio aciona a própria política da OpenAI, que veda erotismo, conteúdo sexual não consensual e violência extrema fora de usos científicos, jornalísticos ou artísticos. Mais do que defeito técnico, expõe o instante em que a geração de imagem escapa ao controle do fornecedor e vira risco de governança para qualquer empresa que acople essa tecnologia a fluxos com clientes ou dados pessoais.
Grok abriu a trilha que agora alcança a OpenAI
A falha do ChatGPT não é isolada. Ela repete, em outro fornecedor, a crise que estourou com o Grok, da xAI, no início de 2026. O Center for Countering Digital Hate estimou que o chatbot de Elon Musk gerou cerca de 3 milhões de imagens sexualizadas em 11 dias, entre o fim de dezembro e 8 de janeiro, das quais aproximadamente 23 mil retratariam crianças.
A Reuters revisou conteúdo no X e encontrou mais de 20 casos de mulheres — e alguns homens — com roupas digitalmente removidas pela ferramenta. Sob pressão, a xAI restringiu a edição de imagens a assinantes pagos em 9 de janeiro.
A contenção não resolveu o problema. Investigações posteriores mostraram que as salvaguardas continuavam fáceis de burlar, e o caso já produziu ações judiciais e medidas regulatórias em várias jurisdições. O padrão é o que importa para quem decide: restrição reativa não fecha a brecha, e o fornecedor seguinte herda o mesmo risco.
Decretos de maio miram justamente os deepnudes
No Brasil, esse mesmo risco já tem endereço regulatório. Em 20 de maio de 2026, o governo federal editou os Decretos nº 12.975 e nº 12.976, que atualizam o Marco Civil da Internet após o Supremo Tribunal Federal declarar, em junho de 2025, a inconstitucionalidade parcial do artigo 19.
Os textos exigem que plataformas removam conteúdo íntimo falso ou divulgado sem consentimento em até 24 horas e obrigam empresas de IA a criar mecanismos contra os chamados deepnudes. A fiscalização e o poder de sanção passam à ANPD; as regras entram em vigor em julho.
Para o jurídico e o compliance, a tradução é direta: deixa de bastar reagir a ordem judicial. Quem oferece ou integra geração de imagem ao mercado brasileiro precisa demonstrar medidas preventivas verificáveis, sob risco de responsabilização civil por omissão sistemática e de sanção administrativa da autoridade.
Brasil já deu 30 dias à xAI; OpenAI entra no radar
O board tem precedente concreto para calibrar a exposição. Na crise do Grok, ANPD, Ministério Público Federal e Senacon emitiram recomendação conjunta dando à xAI 30 dias para impedir a geração de imagens sexualizadas, com exigência de identificar e remover conteúdo e suspender contas envolvidas.
Lá fora, o tema migrou do debate técnico para o tribunal. Nos Estados Unidos, adolescentes do Tennessee processaram a xAI por uso de suas fotos escolares; figuras públicas moveram ações por imagens não consensuais. A reação institucional foi rápida e custosa.
A leitura para a alta gestão é que reguladores e tribunais não aceitam a promessa do fornecedor como prova: testam, medem e cobram. Quando a OpenAI afirma ter corrigido a falha e a pesquisa demonstra o contrário, o ônus reputacional e jurídico recai também sobre quem adotou a ferramenta confiando na declaração.
PL 2.688/25 e o 'modo adulto' travado da OpenAI
O que ainda não é obrigação formal já está sinalizado. Na Câmara, o PL 2.688/25 avançou com parecer favorável classificando como de alto risco qualquer sistema de IA capaz de produzir imagens ou vídeos de natureza sexual de pessoas reais sem consentimento — incluindo adultos, não apenas menores.
No fornecedor, o recado também é claro. A OpenAI chegou a anunciar um 'modo adulto' com erotismo para usuários verificados, mas suspendeu o projeto por tempo indeterminado em março, após resistência de funcionários e conselheiros e dúvidas sobre verificação de idade e dependência emocional.
A ANPD, por sua vez, participa da consulta pública do Guia de Uso Ético de IA, que trata explicitamente de deepfakes e aponta mulheres e meninas como grupo mais afetado. São sinais que o jurídico deve mapear agora, antes de virarem dever expresso e fiscalizado.
'Impossível' não resiste ao teste, dizem pesquisadores
Há divergência aberta sobre o que esses sistemas conseguem, de fato, conter. Já em fevereiro, a Mindgard havia documentado um método para fazer o ChatGPT gerar nudez manipulando a memória do modelo; a OpenAI respondeu que havia corrigido o comportamento e que ele não deveria mais ser possível.
Não foi o que os pesquisadores verificaram. Eles afirmam que uma abordagem alternativa seguiu funcionando, ainda que com menor taxa de sucesso, e apresentaram nova imagem produzida pelo método.
Especialistas situam o impasse como estrutural. Rumman Chowdhury, da Humane Intelligence, comparou a disputa a um jogo de gato e rato e classificou o desafio das empresas como descomunal: à medida que as proteções melhoram, os métodos de contorno ficam mais sofisticados. A OpenAI sustenta que mantém várias camadas de proteção de imagem; os pesquisadores insistem que a brecha persiste.
Na data de 23 de junho de 2026, momento da publicação desta notícia compilada, todos os links estavam disponíveis. Não nos responsabilizamos nem controlamos eventuais alterações, remoções das URLs ou modificações no conteúdo das fontes consultadas.
