Como os países regulam chatbots de IA para proteger crianças

Quatro serviços de chatbots de IA de companhia — Character.AI, Nomi, Chai e Chub AI — falharam em impedir que crianças australianas fossem expostas a conteúdo sexual e a material de abuso, concluiu relatório de transparência do eSafety Commissioner divulgado em março de 2026. É a primeira radiografia oficial de como esses aplicativos, que sustentam "conversas emocionalmente responsivas", tratam usuários menores de idade.

O documento chega junto de um movimento regulatório mais amplo. Austrália, União Europeia, Reino Unido e estados norte-americanos como Califórnia e Nova York passaram a moldar quadros específicos para os riscos que os chatbots de IA impõem a crianças, segundo análise da IAPP. Nos Estados Unidos, as regras estaduais avançam na ausência de uma lei federal.

O ponto comum é deslocar o problema do campo do produto para o da governança: avaliação de risco, transparência e medidas de segurança desde a concepção deixam de ser recomendação e viram obrigação para quem opera esses serviços.

Mortes e processos pressionam as plataformas

Em setembro de 2025, três pais sentaram-se diante da Subcomissão do Judiciário do Senado dos EUA para relatar mortes e automutilação de adolescentes após interações com chatbots. Entre eles, Matthew Raine, cujo filho Adam, de 16 anos, morreu por suicídio depois de usar o ChatGPT, da OpenAI, e Megan Garcia, que processa a Character.AI alegando que a plataforma incentivou o filho Sewell, de 14 anos, a tirar a própria vida.

No mesmo mês, a Federal Trade Commission (FTC), agência de defesa do consumidor dos EUA, abriu inquérito e enviou ordens a sete empresas — entre elas Alphabet, Meta, Snap, Character Technologies, OpenAI e xAI — para explicar como medem e limitam os efeitos de seus chatbots sobre crianças e adolescentes.

Algumas se anteciparam: em outubro de 2025, a Character.AI anunciou o fim das conversas abertas para menores de 18 anos, com limite diário de duas horas até o corte e adoção de aferição de idade, em meio a processos por segurança infantil.

Avaliação de risco e aviso a cada três horas

Do outro lado do Atlântico, as ferramentas de política começam a convergir. Austrália, União Europeia e Reino Unido exigem que plataformas com funções de chatbot avaliem os riscos a seus usuários, em geral ao menos uma vez por ano e sempre que houver mudança relevante no serviço, como o lançamento de um novo recurso de IA.

As medidas de segurança desde a concepção (safety-by-design) ganham forma concreta. Califórnia e Nova York obrigam o serviço a avisar o usuário, a cada três horas, de que ele conversa com um sistema artificial; as diretrizes da União Europeia exigem que o alerta permaneça visível durante toda a interação e recomendam que o chatbot não seja ativado por padrão nem exibido de forma que atraia crianças.

Na aferição de idade, a União Europeia adota abordagem baseada em risco — verificação de idade para risco alto e estimativa de idade para risco médio —, enquanto a Austrália escalona obrigações por perfil de risco (Tier 1 e Tier 2) sob os códigos de material restrito por idade.

Multas e proibição elevam a exposição

O custo de errar aparece nos números. Desde 10 de dezembro de 2025, a Austrália proíbe menores de 16 anos de manter contas em plataformas como TikTok, Instagram, Facebook e Snapchat, sob multa de até 50 milhões de dólares australianos — restrição que, por tabela, alcança os chatbots integrados a esses serviços.

Nos Estados Unidos, o projeto batizado de GUARD Act, aprovado por unanimidade na Comissão de Justiça do Senado em 30 de abril de 2026, exigiria verificação de idade para todas as contas e proibiria o acesso de menores de 18 anos a companheiros de IA. Introduzido pelos senadores Josh Hawley e Richard Blumenthal, aguarda votação no plenário.

Parte relevante das obrigações de relatório e transparência, porém, ainda é prospectiva — na Califórnia e no Reino Unido, boa parte só entra em vigor mais adiante —, o que abre uma defasagem entre a preocupação pública e a obrigação exigível.

ECA Digital põe o Brasil na mesma rota

O Brasil entrou nesse mesmo trilho. Em 17 de março de 2026 passou a vigorar o ECA Digital, regulamentado pelo Decreto 12.880/2026, que consolida obrigações para plataformas dirigidas a crianças e adolescentes ou por eles acessadas — e exige que modelos de linguagem e agentes conversacionais, como chatbots, sejam transparentes quanto ao seu caráter sintético.

A fiscalização coube à Agência Nacional de Proteção de Dados. Em 20 de março de 2026, a Agência publicou orientações preliminares sobre aferição de idade no ambiente digital, com uma primeira fase voltada a lojas de aplicativos e sistemas operacionais.

A segunda fase está prevista para agosto de 2026, após as diretrizes finais, ampliando o monitoramento a outros setores conforme o nível de risco; a fiscalização com possibilidade de sanção deve começar em 2027, segundo a Agência Brasil.

Barrar o acesso ou moldar a conversa

Sob as regras em construção, um dilema divide reguladores: prevenir o acesso de crianças ou moldar a natureza da interação. A maioria dos quadros — exceto os da Califórnia e de Nova York — restringe o acesso de menores, aposta que esbarra em relatos de crianças que contornam bloqueios em redes sociais.

Críticos questionam a eficácia e a conveniência da proibição pura. Em análise de junho de 2026, o Information Technology and Innovation Foundation (ITIF) sustentou que o GUARD Act falha ao não equilibrar a segurança e o interesse de crianças que recorrem a essas ferramentas para apoio emocional.

A IAPP resume o impasse: se o controle de acesso não é plenamente alcançável nem inteiramente desejável, o foco regulatório tende a migrar da barreira de entrada para a garantia de uma interação segura — desafio que agora recai sobre quem projeta e opera esses sistemas.