{"id":53,"date":"2021-04-28T11:30:37","date_gmt":"2021-04-28T14:30:37","guid":{"rendered":"https:\/\/data.ioda.org.br\/?p=53"},"modified":"2024-12-06T14:25:24","modified_gmt":"2024-12-06T17:25:24","slug":"comissao-europeia-publica-sua-proposta-de-regulacao-para-a-inteligencia-artificial-na-europa","status":"publish","type":"post","link":"https:\/\/data.ioda.org.br\/publicacoes\/noticias\/comissao-europeia-publica-sua-proposta-de-regulacao-para-a-inteligencia-artificial-na-europa\/","title":{"rendered":"Comiss\u00e3o Europeia publica sua Proposta de Regula\u00e7\u00e3o para a Intelig\u00eancia Artificial na Europa"},"content":{"rendered":"\r\n
A Comiss\u00e3o Europeia prop\u00f4s ao Parlamento Europeu uma regul\u00e7\u00e3o sobre o desenvolvimento e utiliza\u00e7\u00e3o de Intelig\u00eancia Artificial no bloco econ\u00f4mico.\u00a0<\/p>\r\n\r\n\r\n\r\n\r\n\r\n
Considerando que os mesmos elementos e t\u00e9cnicas que proporcionam os benef\u00edcios socioecon\u00f4micos poss\u00edveis a partir da Intelig\u00eancia Artificial (IA) tamb\u00e9m podem apresentar grandes riscos para indiv\u00edduos e para a sociedade, a Comiss\u00e3o Europeia desenvolveu uma legisla\u00e7\u00e3o com o objetivo de proporcionar um framework de equil\u00edbrio entre os riscos e benef\u00edcios da tecnologia.<\/p>\r\n
O objetivo central da regula\u00e7\u00e3o \u00e9 criar equil\u00edbrio entre as possibilidades positivas e negativas da IA, gerando um ambiente de desenvolvimento tecnol\u00f3gico baseado na confian\u00e7a na tecnologia, confian\u00e7a essa que s\u00f3 \u00e9 poss\u00edvel a partir da cria\u00e7\u00e3o de limites e diretrizes para seu desenvolvimento e aplica\u00e7\u00e3o.<\/p>\r\n
A Regula\u00e7\u00e3o se aplica a todas as empresas que venham a oferecer seus sistemas de IA para entidades dentro da Uni\u00e3o Europeia ou que afetem cidad\u00e3os europeus.\u00a0<\/p>\r\n\r\n\r\n\r\n
Os objetivos espec\u00edficos deste framework regulat\u00f3rio s\u00e3o:<\/p>\r\n\r\n\r\n\r\n
Segundo o Artigo 1 da regula\u00e7\u00e3o, o objetivo da legisla\u00e7\u00e3o \u00e9 de providenciar:<\/p>\r\n\r\n\r\n\r\n
A regula\u00e7\u00e3o traz uma grande gama de defini\u00e7\u00f5es, solidificando conceitos para 44 temas. Dentre esses temas, define um sistema de intelig\u00eancia artificial como:<\/p>\r\n\r\n\r\n\r\n
\u201cSoftware desenvolvido com uma ou mais t\u00e9cnicas e abordagens listadas no Anexo I do documento e que pode, para um dado grupo de objetivos definidos por humanos, gerar outputs como conte\u00fado, predi\u00e7\u00f5es, recomenda\u00e7\u00f5es ou decis\u00f5es influenciando os ambientes com os quais interage\u201d<\/em><\/p>\r\n\r\n\r\n\r\n As t\u00e9cnicas e abordagens listadas no Anexo I s\u00e3o:<\/p>\r\n\r\n\r\n\r\n Outras defini\u00e7\u00f5es interessantes trazidas pelo Artigo 3 da regula\u00e7\u00e3o:<\/p>\r\n\r\n\r\n\r\n \u201cDados Biom\u00e9tricos: Dados pessoais resultantes de processamentos t\u00e9cnicos espec\u00edficos em rela\u00e7\u00e3o \u00e0s caracter\u00edsticas f\u00edsicas, fisiol\u00f3gicas ou comportamentais de uma pessoa natural que permitem ou confirmam a identifica\u00e7\u00e3o \u00fanica destas pessoas naturais, tais quais imagens faciais ou dados dactilosc\u00f3picos.”<\/em><\/p>\r\n\r\n\r\n\r\n \u201cSistema de identifica\u00e7\u00e3o biom\u00e9trica remota: Sistema de IA com o objetivo de identificar pessoas naturais \u00e0 dist\u00e2ncia por meio da compara\u00e7\u00e3o dos dados biom\u00e9tricos da pessoa com os dados biom\u00e9tricos presentes em uma base de dados de refer\u00eancia, e sem o conhecimento pr\u00e9vio do usu\u00e1rio do sistema de IA sobre se a pessoa estar\u00e1 na base de dados e pode ser identificada\u201d<\/em><\/p>\r\n\r\n\r\n\r\n O T\u00edtulo II da Regula\u00e7\u00e3o apresenta as 4 utiliza\u00e7\u00f5es de Intelig\u00eancia Artificial que devem ser proibidas caso o texto seja aprovado.\u00a0<\/p>\r\n\r\n\r\n\r\n A primeira das utiliza\u00e7\u00f5es proibidas \u00e9 a implementa\u00e7\u00e3o de IA para influenciar ou distorcer o comportamento de uma dada pessoa de modo a fazer mal f\u00edsico ou psicol\u00f3gico a ela por meio de t\u00e9cnicas subliminares de manipula\u00e7\u00e3o.\u00a0<\/p>\r\n\r\n\r\n\r\n A segunda proibi\u00e7\u00e3o, similar \u00e0 primeira, consiste em vedar a venda ou utiliza\u00e7\u00e3o de sistemas de IA que se aproveitem de vulnerabilidades de grupos espec\u00edficos com base, por exemplo, em sua idade, defici\u00eancia f\u00edsica ou mental, com o fim de modificar o comportamento de uma ou mais pessoas pertencentes a estes grupos de modo a fazer mal f\u00edsico ou psicol\u00f3gico a elas por meio de t\u00e9cnicas subliminares de manipula\u00e7\u00e3o.<\/p>\r\n\r\n\r\n\r\n Em terceiro lugar, a Regula\u00e7\u00e3o pro\u00edbe a utiliza\u00e7\u00e3o de sistemas de IA por autoridades p\u00fablicas com o fim de avaliar pessoas naturais para classificar sua confiabilidade com base em seu comportamento social ou caracter\u00edsticas pessoais conhecidas ou presumidas, proibindo na pr\u00e1tica a utiliza\u00e7\u00e3o de sistemas de classifica\u00e7\u00e3o social (social scoring<\/em>) que possam gerar tratamento desfavor\u00e1vel aos indiv\u00edduos com base em dados que n\u00e3o tenham rela\u00e7\u00e3o direta com o contexto do tratamento ou que o tratamento desfavor\u00e1vel seja desproporcional ao comportamento social indicado.\u00a0<\/p>\r\n\r\n\r\n\r\n Por fim, a quarta utiliza\u00e7\u00e3o proibida segundo a proposta de Regula\u00e7\u00e3o da Comiss\u00e3o Europeia \u00e9 a aplica\u00e7\u00e3o de Sistemas de Identifica\u00e7\u00e3o Biom\u00e9trica Remota em espa\u00e7os p\u00fablicos para fins de seguran\u00e7a p\u00fablica. A Regula\u00e7\u00e3o cria ent\u00e3o tr\u00eas exce\u00e7\u00f5es que justificam a utiliza\u00e7\u00e3o destes sistemas:<\/p>\r\n\r\n\r\n\r\n Como \u00e9 sabido, sistemas de reconhecimento facial trabalham por meio do reconhecimento err\u00e1tico de todos os rostos presentes em seu campo de vis\u00e3o, n\u00e3o sendo poss\u00edvel limitar este reconhecimento somente ao reconhecimento de suspeitos procurados ou de crian\u00e7as desaparecidas. Para encontrar estes suspeitos ou crian\u00e7as, o sistema deve necessariamente escanear e comparar com suas bases de dados todos os rostos a que tiver acesso, gerando os mesmos riscos de falsos positivos e de submiss\u00e3o da popula\u00e7\u00e3o \u00e0 vigil\u00e2ncia intrusiva que motivariam a proibi\u00e7\u00e3o desta utiliza\u00e7\u00e3o j\u00e1 de cara.\u00a0<\/p>\r\n\r\n\r\n\r\n Na pr\u00e1tica, esta proibi\u00e7\u00e3o pode servir para diminuir a implementa\u00e7\u00e3o das tecnologias de identifica\u00e7\u00e3o biom\u00e9trica remota para fins de seguran\u00e7a p\u00fablica no sentido de que, n\u00e3o havendo um suspeito espec\u00edfico sendo procurado, os sistemas n\u00e3o podem ser utilizados. Por\u00e9m, considerando a vasta lista de situa\u00e7\u00f5es em que um suspeito pode ser investigado conforme o mandado de deten\u00e7\u00e3o europeu, \u00e9 poss\u00edvel imaginar que a todo momento e em praticamente todas as localidades existir\u00e3o sistemas efetuando o reconhecimento em pessoas inocentes, expondo estas aos riscos inerentes \u00e0 essas tecnologias.<\/p>\r\n\r\n\r\n\r\n O ponto 3 do Artigo 5 da Regula\u00e7\u00e3o previne que a utiliza\u00e7\u00e3o de sistemas de identifica\u00e7\u00e3o biom\u00e9trica remota para identificar suspeitos com mandados de deten\u00e7\u00e3o abertos deve ser feita somente com a autoriza\u00e7\u00e3o das autoridades judiciais, devendo haver evid\u00eancias objetivas ou claras indica\u00e7\u00f5es de que a utiliza\u00e7\u00e3o da tecnologia \u00e9 necess\u00e1ria e proporcional na busca do suspeito em quest\u00e3o, n\u00e3o devendo ser permitidas buscas gen\u00e9ricas. A defini\u00e7\u00e3o espec\u00edfica dos requisitos para autoriza\u00e7\u00e3o deve ser feita a n\u00edvel nacional por cada estado-membro da Uni\u00e3o Europeia.\u00a0<\/p>\r\n\r\n\r\n\r\n Uma nova defini\u00e7\u00e3o criada pela Regula\u00e7\u00e3o \u00e9 a classifica\u00e7\u00e3o de sistemas de IA em alto, m\u00e9dio e baixo risco. O Anexo III da Regula\u00e7\u00e3o traz uma lista extensa de \u00e1reas e modelos de sistema de IA que s\u00e3o considerados de alto risco, como os que consistem de:<\/p>\r\n\r\n\r\n\r\n Dentre as exig\u00eancias apresentadas para estes sistemas de alto risco, podemos ressaltar a cria\u00e7\u00e3o de sistemas de gest\u00e3o de risco <\/strong>(artigo 9), a implementa\u00e7\u00e3o de boas pr\u00e1ticas de governan\u00e7a de dados <\/strong>(artigos 10-12) desenvolvimento pautado pela transpar\u00eancia<\/strong> e pelo acesso \u00e0 informa\u00e7\u00e3o <\/strong>(artigo 13), desenvolvimento que permita o acompanhamento e supervis\u00e3o humana <\/strong>(artigo 14) e um enfoque em ciberseguran\u00e7a<\/strong> e precis\u00e3o <\/strong>dos sistemas (artigo 15).\u00a0<\/p>\r\n\r\n\r\n\r\n Al\u00e9m disso, todos os sistemas de alto risco devem ser submetidos a um registro governamental, podendo ser implementadas futuramente medidas de an\u00e1lise destes sistemas tanto ex-ante (an\u00e1lise do que o sistema se prop\u00f5e a fazer) quanto ex-post (an\u00e1lise do conhecimento e informa\u00e7\u00f5es coletados em retrospecto acerca da performance do sistema). Este registro ser\u00e1 denominado \u201cEU Database for Stand-Alone High-Risk AI Systems\u201d (Artigo 51, em conjunto com o T\u00edtulo VII).<\/p>\r\n\r\n\r\n\r\n Outra exig\u00eancia proposta para estes sistemas de alto risco \u00e9 a obrigatoriedade de implementa\u00e7\u00e3o de monitoramento de performance e dos resultados do sistema ap\u00f3s sua apresenta\u00e7\u00e3o e disponibiliza\u00e7\u00e3o no mercado (Artigos 9(2)(c), 12(3) e 17(1)(h), em conjunto com o T\u00edtulo VIII).\u00a0<\/p>\r\n\r\n\r\n\r\n Os outros cap\u00edtulos do T\u00edtulo III da Proposta de Regula\u00e7\u00e3o tratam sobre as rela\u00e7\u00f5es entre os usu\u00e1rios e operadores dos sistemas (Cap\u00edtulo 3), empresas e desenvolvedores com os \u00f3rg\u00e3os governamentais e autoridades competentes (Cap\u00edtulo 4), bem como apresentam o quadro de standards, certificados e testes de conformidade que se aplicam aos sistemas de Intelig\u00eancia Artificial (Cap\u00edtulo 5).<\/p>\r\n\r\n\r\n\r\n O T\u00edtulo IV da Proposta de Regula\u00e7\u00e3o apresenta algumas obriga\u00e7\u00f5es dos usu\u00e1rios de sistemas de IA em rela\u00e7\u00e3o \u00e0 transpar\u00eancia, com o objetivo central de que as pessoas naturais que est\u00e3o em contato com os sistemas de Intelig\u00eancia Artificial sejam sempre devidamente informadas sobre o fato de estarem lidando com uma IA. Neste sentido, o Artigo 52 prev\u00ea que todos os sistemas de IA que tem como objetivo a intera\u00e7\u00e3o com pessoas naturais sejam desenvolvidos de modo a informar que estas est\u00e3o interagindo com uma IA. Do mesmo modo, usu\u00e1rios que implementam sistemas de reconhecimento de emo\u00e7\u00f5es ou categoriza\u00e7\u00e3o biom\u00e9trica devem sempre informar os cidad\u00e3os expostos \u00e0 IA acerca destes sistemas. Por fim, previne que os chamados \u201cdeep fakes<\/em>\u201d devem sempre informar o fato de terem sido criados ou manipulados por Intelig\u00eancia Artificial.\u00a0<\/p>\r\n\r\n\r\n\r\n No T\u00edtulo 5 da proposta, a Comiss\u00e3o Europeia apresenta uma s\u00e9rie de medidas a serem implementadas com o objetivo de apoiar e acelerar a inova\u00e7\u00e3o. Algumas das mais importantes s\u00e3o:<\/p>\r\n\r\n\r\n\r\n A Comiss\u00e3o Europeia prop\u00f5e, no T\u00edtulo VI da Regula\u00e7\u00e3o, um modelo de governan\u00e7a, supervis\u00e3o e aplica\u00e7\u00e3o da Regula\u00e7\u00e3o formado por:<\/p>\r\n\r\n\r\n\r\n Considerando a import\u00e2ncia do desenvolvimento e da aplica\u00e7\u00e3o de diretrizes \u00e9ticas para reger o desenvolvimento da IA, a Comiss\u00e3o Europeia encoraja o desenvolvimento e a publica\u00e7\u00e3o de C\u00f3digos de Conduta (Artigo 69) que incluam nas diretrizes do desenvolvimento e da aplica\u00e7\u00e3o de sistemas de IA boas pr\u00e1ticas referentes, por exemplo, a sustentabilidade ambiental, acessibilidade para pessoas com defici\u00eancias, etc.\u00a0<\/p>\r\n\r\n\r\n\r\n Por fim, no T\u00edtulo X, o Artigo 71 da Regula\u00e7\u00e3o prop\u00f5e penalidades para os agentes que n\u00e3o atuarem de acordo com suas disposi\u00e7\u00f5es, incluindo multas administrativas.<\/p>\r\n\r\n\r\n\r\n A utiliza\u00e7\u00e3o de sistemas proibidos pelo Artigo 5 da Regula\u00e7\u00e3o, bem como a falta de adequa\u00e7\u00e3o \u00e0s exig\u00eancias de governan\u00e7a de dados previstas no Artigo 10 podem gerar multas de at\u00e9 30 milh\u00f5es de euros ou, no caso de empresas, de at\u00e9 6% do faturamento global da empresa. Outras infra\u00e7\u00f5es \u00e0 Regula\u00e7\u00e3o que n\u00e3o sejam referentes aos Artigos 5 e 10 podem causar multas de at\u00e9 20 milh\u00f5es de euros ou de 4% do faturamento global das empresas, e a apresenta\u00e7\u00e3o de documenta\u00e7\u00e3o falsa ou incompleta sobre os sistemas de IA pode gerar multas de at\u00e9 10 milh\u00f5es de euros ou 2% do faturamento global das empresas. A Regula\u00e7\u00e3o tem tamb\u00e9m disposi\u00e7\u00f5es espec\u00edficas acerca das multas e penalidades que s\u00e3o impostas \u00e0s institui\u00e7\u00f5es e ag\u00eancias de pa\u00edses membros da Uni\u00e3o Europeia.\u00a0<\/p>\r\n\r\n\r\n\r\n Caso aprovada, a Regula\u00e7\u00e3o entra em vigor 20 dias ap\u00f3s sua publica\u00e7\u00e3o no Jornal Oficial da Uni\u00e3o Europeia. Ap\u00f3s sua entrada em vigor, os estados-membros da Uni\u00e3o Europeia t\u00eam at\u00e9 24 meses para se adaptar e adaptar suas leis e estruturas internas de acordo com a Regula\u00e7\u00e3o. As penalidades previstas pelo Artigo 71, por\u00e9m, j\u00e1 ser\u00e3o aplic\u00e1veis 12 meses ap\u00f3s a entrada em vigor do texto, um ano antes do prazo final para adequa\u00e7\u00e3o dos estados-membros. A obrigatoriedade de notifica\u00e7\u00e3o das autoridades prevista pelo Cap\u00edtulo 4 do T\u00edtulo III da Regula\u00e7\u00e3o come\u00e7a a valer a partir de 3 meses ap\u00f3s a entrada em vigor da Regula\u00e7\u00e3o, assim como as regras de Governan\u00e7a previstas no T\u00edtulo VI.\u00a0<\/p>\r\n","protected":false},"excerpt":{"rendered":" Comiss\u00e3o Europeia prop\u00f4s ao Parlamento Europeu uma regul\u00e7\u00e3o sobre o desenvolvimento e utiliza\u00e7\u00e3o de Intelig\u00eancia Artificial no bloco econ\u00f4mico. <\/p>\n","protected":false},"author":43,"featured_media":634,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[45],"tags":[24,22,23,25],"class_list":["post-53","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-bloco-economico","tag-inteligencia-artificial","tag-parlamento-europeu","tag-tecnologia"],"acf":[],"_links":{"self":[{"href":"https:\/\/data.ioda.org.br\/json\/wp\/v2\/posts\/53","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/data.ioda.org.br\/json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/data.ioda.org.br\/json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/data.ioda.org.br\/json\/wp\/v2\/users\/43"}],"replies":[{"embeddable":true,"href":"https:\/\/data.ioda.org.br\/json\/wp\/v2\/comments?post=53"}],"version-history":[{"count":0,"href":"https:\/\/data.ioda.org.br\/json\/wp\/v2\/posts\/53\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/data.ioda.org.br\/json\/wp\/v2\/media\/634"}],"wp:attachment":[{"href":"https:\/\/data.ioda.org.br\/json\/wp\/v2\/media?parent=53"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/data.ioda.org.br\/json\/wp\/v2\/categories?post=53"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/data.ioda.org.br\/json\/wp\/v2\/tags?post=53"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\r\n
Utiliza\u00e7\u00f5es de IA proibidas:<\/h3>\r\n\r\n\r\n\r\n
\r\n
Regulamenta\u00e7\u00e3o do uso de Sistemas de Identifica\u00e7\u00e3o Biom\u00e9trica Remota:<\/h3>\r\n\r\n\r\n\r\n
Sistemas de IA de alto risco:<\/h3>\r\n\r\n\r\n\r\n
\r\n
Obriga\u00e7\u00f5es dos usu\u00e1rios e operadores dos sistemas de IA:<\/h3>\r\n\r\n\r\n\r\n
Medidas de incentivo \u00e0 inova\u00e7\u00e3o:<\/h3>\r\n\r\n\r\n\r\n
\r\n
Governan\u00e7a, supervis\u00e3o e aplica\u00e7\u00e3o da Regula\u00e7\u00e3o:<\/h3>\r\n\r\n\r\n\r\n
\r\n
Penalidades:<\/h3>\r\n\r\n\r\n\r\n
Entrada em vigor:<\/h3>\r\n\r\n\r\n\r\n