Auditar uma inteligência artificial é auditar o poder? Nova resenha da RRDDIS provoca o debate
Nova resenha da RRDDIS questiona os limites da auditoria algorítmica e mostra por que tornar a IA transparente não basta sem mecanismos efetivos de responsabilização
À medida que sistemas de inteligência artificial passam a interferir em contratações, concessão de crédito, segurança pública, reconhecimento facial, acesso a serviços e inúmeras outras decisões capazes de afetar direitos, uma pergunta se torna inevitável: quem audita os algoritmos que estão julgando, selecionando, classificando e influenciando pessoas?
E uma segunda pergunta talvez seja ainda mais importante: o que acontece depois que uma auditoria descobre que um sistema está errado, enviesado ou discriminatório?
É nesse ponto de tensão entre tecnologia, Direito e poder que se encontra a provocativa resenha crítica “Auditar a Inteligência Artificial é Auditar o Poder? Uma leitura crítica de Auditing AI”, de Thiago Perez Bernardes de Moraes, publicada no volume 6, número 11, da Revista Rede de Direito Digital, Intelectual & Sociedade – RRDDIS. (DOI)
O artigo examina a obra Auditing AI, lançada em 2026 pela The MIT Press e escrita pelo The Marquand House Collective, grupo interdisciplinar que reúne especialistas provenientes de áreas como computação, Direito, políticas públicas, ciências sociais e jornalismo. O livro propõe colocar a auditoria de sistemas de inteligência artificial no centro da discussão sobre os riscos decorrentes da crescente automatização das decisões. (MIT Press)
Mas a leitura realizada por Moraes vai além da simples apresentação da obra.
Quando o algoritmo deixa de ser apenas uma questão técnica
Um dos aspectos mais relevantes destacados pela resenha está justamente na mudança de perspectiva proposta por Auditing AI.
Auditar inteligência artificial não significa apenas verificar códigos, bases de dados, taxas de erro ou desempenho estatístico. Significa investigar arquiteturas decisórias que podem distribuir oportunidades, impor riscos, reproduzir desigualdades e afetar direitos.
É precisamente por isso que a auditoria algorítmica interessa ao Direito Digital.
Quando uma ferramenta automatizada rejeita determinadas candidaturas a empregos, um sistema de reconhecimento facial identifica equivocadamente uma pessoa ou um mecanismo de decisão apresenta padrões discriminatórios, a discussão deixa imediatamente o campo restrito da engenharia.
Surge uma questão jurídica fundamental: como produzir evidências sobre decisões tomadas por sistemas cuja lógica de funcionamento frequentemente permanece inacessível às próprias pessoas atingidas?
Auditing AI trabalha com exemplos concretos envolvendo reconhecimento facial, sistemas automatizados de contratação e outras aplicações nas quais decisões algorítmicas produziram consequências relevantes. A proposta é demonstrar como auditorias podem revelar problemas ocultos e contribuir para mudanças nas práticas empresariais e nas políticas públicas. (PenguinRandomhouse.com)
É justamente aqui que a resenha de Moraes identifica uma das maiores contribuições da obra: retirar a auditoria da IA do confinamento técnico para colocá-la no campo da evidência pública, da responsabilidade institucional e do controle de estruturas de poder. (DOI)
Descobrir o problema não significa resolvê-lo
A análise, contudo, não se limita a celebrar o potencial das auditorias.
É neste ponto que surge a dimensão mais crítica — e talvez mais instigante — da resenha publicada pela RRDDIS.
Uma auditoria pode descobrir que determinado algoritmo apresenta resultados discriminatórios. Pode demonstrar inconsistências. Pode documentar impactos. Pode produzir provas capazes de contestar aquilo que empresas ou instituições afirmavam sobre seus próprios sistemas.
Mas quem determina as consequências dessa descoberta?
A auditoria, isoladamente, não aplica multas. Não indeniza pessoas prejudicadas. Não suspende automaticamente um sistema. Não altera modelos de negócio. Não corrige relações estruturais de poder.
Como destaca a própria resenha, a auditoria pode “detectar padrões, organizar controvérsias e constranger narrativas corporativas”, mas não produz, por si mesma, sanção, reparação ou correção estrutural. (DOI)
Essa observação modifica profundamente a discussão.
O problema deixa de ser apenas “podemos auditar a inteligência artificial?” e passa a ser:
Quem possui poder para transformar os resultados de uma auditoria em responsabilidade jurídica efetiva?
Auditoria, accountability e Direito Digital
Essa reflexão torna a resenha particularmente atual diante da expansão dos modelos regulatórios baseados em risco, transparência, documentação, avaliação de impacto e governança da inteligência artificial.
O estudo dialoga com temas centrais do Direito Digital contemporâneo: accountability, assimetria informacional, prova da discriminação automatizada, transparência e governança tecnológica. A bibliografia mobilizada também aproxima a discussão de instrumentos como o AI Risk Management Framework do NIST, o Regulamento Europeu de Inteligência Artificial e o debate legislativo brasileiro sobre IA. (DOI)
Nesse contexto, uma auditoria verdadeiramente relevante não deveria terminar com a elaboração de um relatório.
Ela deveria estar inserida em uma arquitetura institucional capaz de produzir consequências.
Isso significa conectar auditoria, evidência, deveres jurídicos, fiscalização, responsabilização e reparação.
Sem essa conexão, existe o risco de que a própria auditoria seja incorporada àquilo que pretende controlar: um procedimento formal de conformidade que produz documentos, indicadores e declarações de transparência, mas deixa intocadas as estruturas decisórias responsáveis pelos problemas identificados.
Afinal, auditar IA é auditar poder?
A força da resenha de Thiago Perez Bernardes de Moraes está justamente em mostrar que essa pergunta não pode ser respondida apenas pela tecnologia.
Algoritmos não existem no vazio. São projetados, financiados, treinados, implementados e utilizados por organizações. Incorporam escolhas sobre dados, objetivos, métricas e riscos. E seus efeitos recaem sobre indivíduos e grupos que frequentemente não participaram dessas escolhas.
Por isso, auditar um sistema de inteligência artificial também significa investigar as relações de poder existentes ao redor dele.
Mais importante ainda: significa perguntar quem pode exigir explicações, quem consegue produzir provas, quem determina quando um risco é aceitável e quem responde quando decisões automatizadas produzem danos.
A conclusão proposta pela resenha merece atenção justamente porque impede uma visão excessivamente otimista da governança tecnológica: a auditoria só alcança sua verdadeira importância quando a evidência produzida é capaz de modificar incentivos, poderes e deveres. (DOI)
Para pesquisadores, juristas, reguladores, profissionais de tecnologia e todos aqueles interessados na governança da inteligência artificial, trata-se de uma leitura que desloca o debate da pergunta “como auditar algoritmos?” para uma questão muito mais incômoda:
o que estamos dispostos a fazer quando uma auditoria demonstra que o algoritmo está errado?
A resenha “Auditar a Inteligência Artificial é Auditar o Poder? Uma leitura crítica de Auditing AI”, de Thiago Perez Bernardes de Moraes, está disponível na RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, v. 6, n. 11, 2026, pp. 415–424.
DOI: 10.5380/rrddis.v6i11.104477
Leia a resenha completa e conheça a nova edição da RRDDIS.
O estudo discute auditoria algorítmica, accountability, discriminação automatizada, transparência e governança tecnológica, destacando uma questão decisiva para o Direito Digital: identificar problemas em sistemas de IA não basta se as evidências produzidas não forem capazes de gerar responsabilização, reparação e mudanças efetivas.
