Previsão de crime por IA: a lição de governança do caso britânico para o Brasil
Modelos que pontuavam risco de crianças foram desligados sem registro em Bristol; o caso testa governança de IA à luz da LGPD e da ANPD.
A polícia e a prefeitura de Bristol, no Reino Unido, desligaram modelos de inteligência artificial que pontuavam o risco de crianças serem exploradas — e o fizeram sem registrar por quê. Os sistemas usavam marcadores de pobreza como sinal de risco e erravam para mais e para menos. Para quem opera no setor público brasileiro ou vende tecnologia a ele, o caso é um espelho: pontuar pessoas por perfil é decisão automatizada sob a LGPD, e a ANPD acabou de colocar IA e poder público entre suas prioridades de fiscalização.
01 O fato e por que importa
A polícia de Avon and Somerset e o conselho municipal de Bristol, no Reino Unido, desativaram em 2023 pelo menos dois modelos de aprendizado de máquina que pontuavam o risco de exploração sexual e criminal de crianças, depois que servidores concluíram não poder mais confiar nos resultados. Os modelos integravam a Think Family Database, base criada em 2016 que reúne registros de cerca de 475 mil moradores atuais e antigos da cidade, incluindo dados sensíveis de saúde mental, gravidez na adolescência, moradia e uso de merenda escolar gratuita. Polícia e conselho desligaram os sistemas sem registrar o motivo da decisão.
Um sistema que atribui a cada pessoa um escore de risco é, no vocabulário da LGPD, uma decisão apoiada em perfil. O art. 20 assegura ao titular o direito de pedir revisão de decisões tomadas unicamente por tratamento automatizado que afetem seus interesses, inclusive as que definem seu perfil pessoal. O art. 37 obriga controlador e operador a manter registro das operações de tratamento, e o art. 38 permite à Agência Nacional de Proteção de Dados determinar a elaboração de Relatório de Impacto à Proteção de Dados Pessoais quando o tratamento oferece risco elevado. Um modelo desligado sem registro do porquê fere o dever de prestação de contas do art. 6º, X.
O que interessa a quem responde por governança não é o erro técnico isolado, mas a ausência de trilha. Sem documentação de como o modelo foi construído, com que variáveis, como foi usado e por que foi encerrado, a organização perde a capacidade de demonstrar que não houve dano a quem foi pontuado — e transfere para si o ônus de provar a própria diligência quando a autoridade ou o Judiciário perguntarem.
02 O que considerar a partir daqui
- Decisão automatizada. Há inventário dos sistemas que pontuam, classificam ou priorizam pessoas, com direito a revisão humana efetivamente garantido (art. 20 da LGPD)?
- Rastreabilidade. Código-fonte, versões do modelo, variáveis e critérios estão documentados a ponto de sustentar uma auditoria independente meses depois?
- Proxies de vulnerabilidade. O modelo usa marcadores socioeconômicos — moradia, atraso de aluguel, benefício social — que funcionam como proxy de pobreza e deslocam o alvo do risco real?
- Teste de viés. Existe avaliação de desempenho por subgrupo, com métricas de falso positivo e falso negativo acompanhadas ao longo do tempo?
- Impacto documentado. Tratamento de risco elevado conta com Relatório de Impacto, base legal clara e revisão periódica antes de afetar pessoas?
Vale lembrar que a análise pode variar conforme o caso concreto, permitindo a consideração de outros pontos pertinentes.
03 O que já está acontecendo no Brasil
A Agência Nacional de Proteção de Dados aprovou, em dezembro de 2025, pela Resolução CD/ANPD nº 30/2025, um mapa de temas prioritários que concentra ao menos 75 ações de fiscalização para o biênio 2026-2027 em quatro eixos, entre eles inteligência artificial e tratamento de dados pelo poder público. O recado é direto para quem opera modelos que pontuam pessoas: transparência algorítmica, mitigação de viés e controles de risco deixam de ser recomendação e viram objeto de fiscalização.
A LGPD alcança o setor público de forma direta, sem necessidade de norma nova. O art. 20 garante a revisão de decisões automatizadas que afetem o titular; os arts. 23 e 37 impõem transparência e registro das operações quando órgãos públicos tratam dados. A Agência já sancionou entes públicos por falhas de base legal e de segurança, o que mostra que a fiscalização sobre a administração não é hipótese teórica. Sobre policiamento preditivo ou pontuação individual de risco, a Agência ainda não editou norma específica — mas ter colocado IA e poder público entre os eixos prioritários por si só sinaliza a direção.
O vetor legislativo mais próximo é o PL 2338/2023, aprovado no Senado em dezembro de 2024 e em tramitação na Câmara, que adota classificação por nível de risco e trata reconhecimento facial em segurança pública como risco excessivo — categoria de uso vedado. Para fornecedores de tecnologia ao setor público, governança de IA e adequação à LGPD passam de requisito formal a critério de contratação e de sobrevivência do contrato.
04 O que está acontecendo em outros países
A União Europeia já fechou a porta para exatamente esse uso. O art. 5(1)(d) do EU AI Act proíbe sistemas de inteligência artificial que avaliem ou prevejam o risco de uma pessoa cometer crime baseados unicamente em perfilamento ou em traços de personalidade; a vedação vale desde 2 de fevereiro de 2025. Ferramentas que apenas apoiam um humano com base em fatos objetivos e verificáveis escapam da proibição, mas a pontuação automática por perfil — como a de Bristol — cai dentro dela.
No plano da proteção de dados, o art. 22 do Regulamento Geral de Proteção de Dados (GDPR) dá ao titular o direito de não se sujeitar a decisão baseada unicamente em tratamento automatizado que produza efeitos jurídicos ou o afete de modo relevante — o mesmo núcleo do art. 20 da LGPD, com contorno mais restritivo.
| Tema | Brasil (LGPD / PL 2338) | União Europeia (AI Act / GDPR) |
|---|---|---|
| Revisão de decisão automatizada | Direito à revisão (art. 20 da LGPD) | Direito de não se sujeitar (art. 22 do GDPR) |
| Predição individual de crime por perfil | Sem vedação específica em vigor; PL 2338 em tramitação | Proibida (art. 5(1)(d) do AI Act) |
| Avaliação de impacto | RIPD a critério da ANPD (art. 38 da LGPD) | DPIA/avaliação de impacto obrigatória em alto risco |
05 Riscos envolvidos
Os riscos do caso se ancoram em três fatos concretos: pontuação de pessoas por perfil, uso de marcadores de pobreza como variável e ausência de registro do ciclo de vida dos modelos.
- Discriminação algorítmica por viés de treinamento e por proxies socioeconômicos, ferindo a igualdade e a vedação a discriminação (art. 5º, caput e XLI, da CRFB/88; art. 6º, IX, da LGPD).
- Consequências negativas de decisão unicamente automatizada, sem revisão humana nem explicabilidade, contra o devido processo e a proteção de dados (art. 5º, LIV e LXXIX, da CRFB/88; art. 20 da LGPD).
- Tratamento desigual no acesso a políticas públicas e serviços em razão do perfilamento (art. 5º, caput, da CRFB/88; art. 6º, IX, da LGPD).
- Descumprimento do dever de prestação de contas por falta de registro das operações e de Relatório de Impacto (arts. 6º, X, 37 e 38 da LGPD).
- Violação do dever de revisão de decisão automatizada e de transparência (arts. 20 e 23 da LGPD).
- Exposição direta ao eixo de fiscalização de IA e setor público da Agência Nacional de Proteção de Dados (Resolução CD/ANPD nº 30/2025).
- Litígio individual movido por pessoa pontuada pelo sistema.
- Dano reputacional pela combinação de baixa acurácia, opacidade e alvo em crianças.
- Exposição a sanções pecuniárias e a medidas administrativas da autoridade.
Vale notar que estes riscos são exemplificativos; a análise do caso concreto pode revelar vulnerabilidades adicionais.
Alto risco
- Critério geral. Tratamento em larga escala — cerca de 475 mil titulares, por anos, com dados sensíveis — combinado à possibilidade de afetar significativamente direitos fundamentais, pela discriminação e pela restrição de acesso a serviços.
- Critério específico. Presença simultânea de dados pessoais sensíveis e de dados de crianças e adolescentes, de decisões unicamente automatizadas com perfil e de tecnologia inovadora de aprendizado de máquina.
06 Guardrails de proteção
- Supervisão humana significativa. Manter um humano capaz de entender, questionar e reverter cada pontuação que afete pessoas, contra o risco de decisão automatizada sem revisão — funções Govern e Manage do NIST AI RMF 1.0 e controle A.5.2 da ISO/IEC 42001.
- Avaliação de impacto e teste de viés. Rodar avaliação de impacto algorítmico e medir desempenho por subgrupo antes e durante o uso, contra a discriminação por proxies — ISO/IEC 42005 e ISO/IEC TR 24027.
- Rastreabilidade e trilha de auditoria. Versionar modelo, datasets, critérios, decisões e desligamento, com logs preservados, contra a falha de prestação de contas — NIST CSF 2.0 e ISO/IEC 42001.
- Minimização e base legal. Documentar base legal, afastar marcadores socioeconômicos como variável e revisar retenção, contra o excesso de coleta — NIST Privacy Framework e ISO/IEC 27701.
O rol de salvaguardas técnicas e administrativas sugeridas é exemplificativo, permitindo a aplicação de outras medidas de mitigação conforme a análise do caso concreto.
Mesmo com a implementação de salvaguardas técnicas e administrativas, permanecem riscos residuais inerentes, os quais podem ser intensificados por alterações nas operações. O perigo mais significativo, todavia, é a falta de iniciativa.
Na data de publicação deste comentário, todos os links estavam disponíveis. Não nos responsabilizamos, nem controlamos a alteração e/ou retirada das URLs nem do conteúdo das fontes consultadas.