{"id":9438,"date":"2026-07-12T12:50:23","date_gmt":"2026-07-12T15:50:23","guid":{"rendered":"https:\/\/ioda.org.br\/?p=9438"},"modified":"2026-07-12T12:55:44","modified_gmt":"2026-07-12T15:55:44","slug":"christian-sandvig","status":"publish","type":"post","link":"https:\/\/ioda.org.br\/publicacoes\/resenhas\/christian-sandvig\/","title":{"rendered":"Livro coordenado por Christian Sandvig sobre auditoria de IA"},"content":{"rendered":"

Auditar a Intelig\u00eancia Artificial \u00e9 auditar o poder?<\/span><\/h2>\n

Resenha cr\u00edtica analisa a auditoria algor\u00edtmica como instrumento de prova, controle e responsabiliza\u00e7\u00e3o<\/span><\/h3>\n

A obra <\/span>\u201cAuditing AI<\/a>\u201d<\/span><\/strong> , publicada pela The MIT Press em 2026 e assinada pelo The Marquand House Collective, t<\/span>endo como coordenador Christian Sandvig \u00a0<\/strong><\/a>e coautores Marc Aidinoff , Alondra Nelson , Kristen Vaccaro , Karrie Karahalios , Esha Bhandari , Ellery Roberts Biddle , Lena Armstrong , J. Nathan Matias , Motahhare Eslami , Dana\u00e9 Metaxa<\/strong>.\u00a0 A obra coletiva examina os audit\u00f3rios de sistemas de Intelig\u00eancia Artificial para al\u00e9m de uma perspectiva exclusivamente t\u00e9cnica. O livro \u00e9 objeto de revis\u00e3o cr\u00edtica elaborada por <\/span>Thiago Perez Bernardes de Moraes<\/span><\/strong> , publicada na <\/span>Revista Rede de Direito Digital, Intelectual & Sociedade \u2013 RRDDIS<\/span><\/em> .<\/span><\/p>\n

A principal contribui\u00e7\u00e3o da obra \u00e9 demonstrar que auditar sistemas de IA significa produzir evid\u00eancias sobre tecnologias que classificam pessoas, distribuem oportunidades, influenciam decis\u00f5es e operam, muitas vezes, de forma opaca.<\/span><\/p>\n

Da efici\u00eancia t\u00e9cnica \u00e0 responsabilidade institucional<\/span><\/h2>\n

Sistemas algor\u00edtmicos j\u00e1 participam de decis\u00f5es relacionadas a cr\u00e9dito, publicidade, recrutamento, policiamento, sa\u00fade, servi\u00e7os p\u00fablicos e ambientes judiciais. O problema jur\u00eddico n\u00e3o \u00e9 apenas na possibilidade de erro, mas na dificuldade de demonstrar como ele ocorreu e quem deve responder por seus efeitos.<\/span><\/p>\n

As decis\u00f5es automatizadas s\u00e3o produzidas por cadeias complexas, envolvendo bases de dados, modelos, fornecedores, contratantes, interfaces e operadores. Nesse cen\u00e1rio, os auditorias podem ajudar a transformar suspeitas de discrimina\u00e7\u00e3o, envio ou tratamento desigual em evid\u00eancias pass\u00edveis de an\u00e1lise jur\u00eddica.<\/span><\/p>\n

A obra desloca, assim, o debate da confian\u00e7a abstrata na tecnologia para a verifica\u00e7\u00e3o de suas promessas e de seus efeitos concretos.<\/span><\/p>\n

Opacidade convertida em problema p\u00fablico<\/span><\/h2>\n

A revis\u00e3o destaca como m\u00e9ritos da obra sua capacidade de transformar a opacidade algor\u00edtmica em objeto de debate p\u00fablico.<\/span><\/p>\n

O livro apresenta casos relacionados a reconhecimento facial, recrutamento automatizado, publicidade direcionada, reservas a\u00e9reas, aloca\u00e7\u00e3o de \u00f3rg\u00e3os, mecanismos de busca e sistemas de avalia\u00e7\u00e3o de risco. Em todos eles, a tecnologia interfere em quest\u00f5es como acesso, concorr\u00eancia, mercado, ra\u00e7a, corpo e oportunidades.<\/span><\/p>\n

Essa abordagem demonstra que os audit\u00f3rios n\u00e3o podem ser tratados como procedimento neutro. A escolha das m\u00e9tricas, dos dados, da amostra, do padr\u00e3o de avalia\u00e7\u00e3o e do pr\u00f3prio auditor interfere diretamente nos resultados.<\/span><\/p>\n

A pergunta relevante, portanto, n\u00e3o \u00e9 apenas uma determinada tecnologia foi auditada, mas quem financiou o procedimento, quem definiu seu escopo, quais dados foram disponibilizados, quais resultados foram divulgados e quais consequ\u00eancias decorreram do relat\u00f3rio.<\/span><\/p>\n

Relev\u00e2ncia para o Direito Digital<\/span><\/h2>\n

A obra possui especial import\u00e2ncia diante do avan\u00e7o de modelos regulat\u00f3rios baseados em avalia\u00e7\u00e3o de risco, transpar\u00eancia, documenta\u00e7\u00e3o e presta\u00e7\u00e3o de contas.<\/span><\/p>\n

Nesse contexto, os auditores podem verificar se as informa\u00e7\u00f5es apresentadas pelos fornecedores s\u00e3o suficientes, coerentes e compat\u00edveis com os efeitos reais dos sistemas. Sem esse controle, a transpar\u00eancia pode ser limitada ao fornecimento de documentos incompreens\u00edveis ou incapazes de revelar danos.<\/span><\/p>\n

No Brasil, o debate tamb\u00e9m envolve soberania informacional, contrata\u00e7\u00e3o p\u00fablica, depend\u00eancia tecnol\u00f3gica e capacidade institucional para exigir acesso a dados e impor consequ\u00eancias jur\u00eddicas.<\/span><\/p>\n

As auditorias ainda podem exercer papel relevante em a\u00e7\u00f5es coletivas, prote\u00e7\u00e3o de consumidores, defesa de direitos fundamentais, tutela de dados pessoais e combate \u00e0 discrimina\u00e7\u00e3o indireta.<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Auditar a Intelig\u00eancia Artificial \u00e9 auditar o poder? Resenha cr\u00edtica analisa a auditoria algor\u00edtmica como instrumento de prova, controle e responsabiliza\u00e7\u00e3o A obra \u201cAuditing AI\u201d , publicada pela The MIT Press em 2026 e assinada pelo The Marquand House Collective, tendo como coordenador Christian Sandvig \u00a0e coautores Marc Aidinoff , Alondra Nelson , Kristen Vaccaro […]<\/p>\n","protected":false},"author":37,"featured_media":9439,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[55],"class_list":["post-9438","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-resenhas"],"acf":[],"_links":{"self":[{"href":"https:\/\/ioda.org.br\/json\/wp\/v2\/posts\/9438","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ioda.org.br\/json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ioda.org.br\/json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ioda.org.br\/json\/wp\/v2\/users\/37"}],"replies":[{"embeddable":true,"href":"https:\/\/ioda.org.br\/json\/wp\/v2\/comments?post=9438"}],"version-history":[{"count":0,"href":"https:\/\/ioda.org.br\/json\/wp\/v2\/posts\/9438\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ioda.org.br\/json\/wp\/v2\/media\/9439"}],"wp:attachment":[{"href":"https:\/\/ioda.org.br\/json\/wp\/v2\/media?parent=9438"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ioda.org.br\/json\/wp\/v2\/categories?post=9438"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}