\u00c0 medida que sistemas de intelig\u00eancia artificial passam a interferir em contrata\u00e7\u00f5es, concess\u00e3o de cr\u00e9dito, seguran\u00e7a p\u00fablica, reconhecimento facial, acesso a servi\u00e7os e in\u00fameras outras decis\u00f5es capazes de afetar direitos, uma pergunta se torna inevit\u00e1vel: quem audita os algoritmos que est\u00e3o julgando, selecionando, classificando e influenciando pessoas?<\/strong><\/p>\n E uma segunda pergunta talvez seja ainda mais importante: o que acontece depois que uma auditoria descobre que um sistema est\u00e1 errado, enviesado ou discriminat\u00f3rio?<\/strong><\/p>\n \u00c9 nesse ponto de tens\u00e3o entre tecnologia, Direito e poder que se encontra a provocativa resenha cr\u00edtica \u201cAuditar a Intelig\u00eancia Artificial \u00e9 Auditar o Poder? Uma leitura cr\u00edtica de Auditing AI\u201d<\/strong>, de Thiago Perez Bernardes de Moraes<\/strong>, publicada no volume 6, n\u00famero 11, da Revista Rede de Direito Digital, Intelectual & Sociedade \u2013 RRDDIS<\/em>. (DOI<\/a>)<\/p>\n O artigo examina a obra Auditing AI<\/em>, lan\u00e7ada em 2026 pela The MIT Press<\/strong> e escrita pelo The Marquand House Collective<\/strong>, grupo interdisciplinar que re\u00fane especialistas provenientes de \u00e1reas como computa\u00e7\u00e3o, Direito, pol\u00edticas p\u00fablicas, ci\u00eancias sociais e jornalismo. O livro prop\u00f5e colocar a auditoria de sistemas de intelig\u00eancia artificial no centro da discuss\u00e3o sobre os riscos decorrentes da crescente automatiza\u00e7\u00e3o das decis\u00f5es. (MIT Press<\/a>)<\/p>\n Mas a leitura realizada por Moraes vai al\u00e9m da simples apresenta\u00e7\u00e3o da obra.<\/p>\n Um dos aspectos mais relevantes destacados pela resenha est\u00e1 justamente na mudan\u00e7a de perspectiva proposta por Auditing AI<\/em>.<\/p>\n Auditar intelig\u00eancia artificial n\u00e3o significa apenas verificar c\u00f3digos, bases de dados, taxas de erro ou desempenho estat\u00edstico. Significa investigar arquiteturas decis\u00f3rias que podem distribuir oportunidades, impor riscos, reproduzir desigualdades e afetar direitos<\/strong>.<\/p>\n \u00c9 precisamente por isso que a auditoria algor\u00edtmica interessa ao Direito Digital.<\/p>\n Quando uma ferramenta automatizada rejeita determinadas candidaturas a empregos, um sistema de reconhecimento facial identifica equivocadamente uma pessoa ou um mecanismo de decis\u00e3o apresenta padr\u00f5es discriminat\u00f3rios, a discuss\u00e3o deixa imediatamente o campo restrito da engenharia.<\/p><\/blockquote>\n Surge uma quest\u00e3o jur\u00eddica fundamental: como produzir evid\u00eancias sobre decis\u00f5es tomadas por sistemas cuja l\u00f3gica de funcionamento frequentemente permanece inacess\u00edvel \u00e0s pr\u00f3prias pessoas atingidas?<\/strong><\/p>\n Auditing AI<\/em> trabalha com exemplos concretos envolvendo reconhecimento facial, sistemas automatizados de contrata\u00e7\u00e3o e outras aplica\u00e7\u00f5es nas quais decis\u00f5es algor\u00edtmicas produziram consequ\u00eancias relevantes. A proposta \u00e9 demonstrar como auditorias podem revelar problemas ocultos e contribuir para mudan\u00e7as nas pr\u00e1ticas empresariais e nas pol\u00edticas p\u00fablicas. (PenguinRandomhouse.com<\/a>)<\/p>\n \u00c9 justamente aqui que a resenha de Moraes identifica uma das maiores contribui\u00e7\u00f5es da obra: retirar a auditoria da IA do confinamento t\u00e9cnico para coloc\u00e1-la no campo da evid\u00eancia p\u00fablica, da responsabilidade institucional e do controle de estruturas de poder<\/strong>. (DOI<\/a>)<\/p>\n A an\u00e1lise, contudo, n\u00e3o se limita a celebrar o potencial das auditorias.<\/p>\n \u00c9 neste ponto que surge a dimens\u00e3o mais cr\u00edtica \u2014 e talvez mais instigante \u2014 da resenha publicada pela RRDDIS.<\/p>\n Uma auditoria pode descobrir que determinado algoritmo apresenta resultados discriminat\u00f3rios. Pode demonstrar inconsist\u00eancias. Pode documentar impactos. Pode produzir provas capazes de contestar aquilo que empresas ou institui\u00e7\u00f5es afirmavam sobre seus pr\u00f3prios sistemas.<\/p>\n Mas quem determina as consequ\u00eancias dessa descoberta?<\/strong><\/p>\n A auditoria, isoladamente, n\u00e3o aplica multas. N\u00e3o indeniza pessoas prejudicadas. N\u00e3o suspende automaticamente um sistema. N\u00e3o altera modelos de neg\u00f3cio. N\u00e3o corrige rela\u00e7\u00f5es estruturais de poder.<\/p>\n Como destaca a pr\u00f3pria resenha, a auditoria pode \u201cdetectar padr\u00f5es, organizar controv\u00e9rsias e constranger narrativas corporativas\u201d<\/strong>, mas n\u00e3o produz, por si mesma, san\u00e7\u00e3o, repara\u00e7\u00e3o ou corre\u00e7\u00e3o estrutural. (DOI<\/a>)<\/p>\n Essa observa\u00e7\u00e3o modifica profundamente a discuss\u00e3o.<\/p>\n O problema deixa de ser apenas \u201cpodemos auditar a intelig\u00eancia artificial?\u201d<\/strong> e passa a ser:<\/p>\n Quem possui poder para transformar os resultados de uma auditoria em responsabilidade jur\u00eddica efetiva?<\/strong><\/p>\n Essa reflex\u00e3o torna a resenha particularmente atual diante da expans\u00e3o dos modelos regulat\u00f3rios baseados em risco, transpar\u00eancia, documenta\u00e7\u00e3o, avalia\u00e7\u00e3o de impacto e governan\u00e7a da intelig\u00eancia artificial.<\/p>\n O estudo dialoga com temas centrais do Direito Digital contempor\u00e2neo: accountability, assimetria informacional, prova da discrimina\u00e7\u00e3o automatizada, transpar\u00eancia e governan\u00e7a tecnol\u00f3gica<\/strong>. A bibliografia mobilizada tamb\u00e9m aproxima a discuss\u00e3o de instrumentos como o AI Risk Management Framework do NIST<\/strong>, o Regulamento Europeu de Intelig\u00eancia Artificial<\/strong> e o debate legislativo brasileiro sobre IA. (DOI<\/a>)<\/p>\n Nesse contexto, uma auditoria verdadeiramente relevante n\u00e3o deveria terminar com a elabora\u00e7\u00e3o de um relat\u00f3rio.<\/p>\n Ela deveria estar inserida em uma arquitetura institucional capaz de produzir consequ\u00eancias.<\/p>\n Isso significa conectar auditoria, evid\u00eancia, deveres jur\u00eddicos, fiscaliza\u00e7\u00e3o, responsabiliza\u00e7\u00e3o e repara\u00e7\u00e3o<\/strong>.<\/p>\n Sem essa conex\u00e3o, existe o risco de que a pr\u00f3pria auditoria seja incorporada \u00e0quilo que pretende controlar: um procedimento formal de conformidade que produz documentos, indicadores e declara\u00e7\u00f5es de transpar\u00eancia, mas deixa intocadas as estruturas decis\u00f3rias respons\u00e1veis pelos problemas identificados.<\/p>\n A for\u00e7a da resenha de Thiago Perez Bernardes de Moraes est\u00e1 justamente em mostrar que essa pergunta n\u00e3o pode ser respondida apenas pela tecnologia.<\/p>\n Algoritmos n\u00e3o existem no vazio. S\u00e3o projetados, financiados, treinados, implementados e utilizados por organiza\u00e7\u00f5es. Incorporam escolhas sobre dados, objetivos, m\u00e9tricas e riscos. E seus efeitos recaem sobre indiv\u00edduos e grupos que frequentemente n\u00e3o participaram dessas escolhas.<\/p>\n Por isso, auditar um sistema de intelig\u00eancia artificial tamb\u00e9m significa investigar as rela\u00e7\u00f5es de poder existentes ao redor dele<\/strong>.<\/p>\n Mais importante ainda: significa perguntar quem pode exigir explica\u00e7\u00f5es, quem consegue produzir provas, quem determina quando um risco \u00e9 aceit\u00e1vel e quem responde quando decis\u00f5es automatizadas produzem danos.<\/p>\n A conclus\u00e3o proposta pela resenha merece aten\u00e7\u00e3o justamente porque impede uma vis\u00e3o excessivamente otimista da governan\u00e7a tecnol\u00f3gica: a auditoria s\u00f3 alcan\u00e7a sua verdadeira import\u00e2ncia quando a evid\u00eancia produzida \u00e9 capaz de modificar incentivos, poderes e deveres<\/strong>. (DOI<\/a>)<\/p>\n Para pesquisadores, juristas, reguladores, profissionais de tecnologia e todos aqueles interessados na governan\u00e7a da intelig\u00eancia artificial, trata-se de uma leitura que desloca o debate da pergunta \u201ccomo auditar algoritmos?\u201d<\/strong> para uma quest\u00e3o muito mais inc\u00f4moda:<\/p>\n o que estamos dispostos a fazer quando uma auditoria demonstra que o algoritmo est\u00e1 errado?<\/strong><\/p><\/blockquote>\n A resenha \u201cAuditar a Intelig\u00eancia Artificial \u00e9 Auditar o Poder? Uma leitura cr\u00edtica de Auditing AI\u201d<\/strong>, de Thiago Perez Bernardes de Moraes<\/strong>, est\u00e1 dispon\u00edvel na RRDDIS \u2013 Revista Rede de Direito Digital, Intelectual & Sociedade<\/strong>, v. 6, n. 11, 2026, pp. 415\u2013424.<\/p>\nQuando o algoritmo deixa de ser apenas uma quest\u00e3o t\u00e9cnica<\/h2>\n
Descobrir o problema n\u00e3o significa resolv\u00ea-lo<\/h2>\n
Auditoria, accountability e Direito Digital<\/h2>\n
Afinal, auditar IA \u00e9 auditar poder?<\/h2>\n