Observatory on European Studies - A regulação da inteligência artificial na União Europeia

2023-12-11

Nuno Cunha Rodrigues*

No passado dia 8 de dezembro de 2023, a União Europeia (UE) alcançou um acordo entre os co-legisladores envolvidos – Conselho da União Europeia e Parlamento Europeu - sobre a proposta de regulação da inteligência artificial (IA), vulgarmente conhecida por AI Act.

A proposta visa (i) garantir que os sistemas de IA são seguros e respeitam os direitos fundamentais previstos na UE; (ii) garantir a segurança jurídica; (iii) reforçar a governação e a aplicação efetiva da legislação existente; e (iv) facilitar o desenvolvimento de um mercado único para aplicações de IA seguras. 

Todas as soluções incluídas na proposta fundam-se na categorização designada por risk based approach, entretanto modificada na sequência de alterações à proposta apresentadas em junho de 2023.[1]

A proposta de Regulamento de IA categoriza os sistemas de inteligência artificial em quatro níveis de risco e atribui a cada nível um enquadramento legal específico, com limitações e obrigações próprias.

Desta forma a mais recente proposta estabelece uma lista de práticas de IA proibidas baseada no risco e diferencia entre as utilizações de IA que criam: i) um risco inaceitável - por violar os valores da União, por exemplo, como os direitos fundamentais; ii) um risco elevado; iii) um risco limitado e iii) um risco baixo ou mínimo.[2]

Neste contexto prevê-se um conjunto de obrigações específicas que os fornecedores de modelos-base devem passar a cumprir, consoante o nível de risco determinado, que incluem, por exemplo, o dever de:

(i) tratar e incorporar apenas dados sujeitos a medidas adequadas de governação de dados;

(ii) assegurar níveis adequados de desempenho; 

(iii) elaborar documentação técnica e instruções de utilização, a fim de permitir que os fornecedores a jusante cumpram as suas obrigações previstas na proposta de Regulamento; 

(iv) estabelecer um sistema de gestão de qualidade; e 

(v) registar o modelo-base numa base de dados da UE (cf. n.º 2 do art.º 28-B da proposta de alteração).

Caso a proposta venha a ser aprovada, o Regulamento será aplicável na UE independentemente do local onde o fornecedor ou o utilizador de sistemas de IA esteja localizado ou baseado – ainda que num país terceiro - desde que sejam colocados no mercado ou em serviço sistemas de IA no território da UE ou se o resultado produzido pelo sistema for utilizado na UE (cfr. artigo 2.º, n.º 1, da proposta). 

Podem vir a ser aplicadas coimas às empresas que não cumpram o Regulamento, podendo o valor ir até 35 milhões de euros ou 7% do volume de negócios anual global (o que for maior) por violação de obrigações de IA proibidas; 15 milhões de euros ou 3% por violação de outras obrigações e 7,5 milhões de euros ou 1,5% por fornecimento de informações incorretas. Estão igualmente previstos limites mais proporcionais para coimas aplicáveis a PME’s ou a empresas em fase de arranque.

Prevê-se ainda que o Regulamento venha a ser complementado, a nível mundial, pelos princípios orientadores e pelo código de conduta voluntário do G7 para os prestadores de sistemas de IA.[3]

A proposta terá ainda de ser aprovada, formalmente, pelo Conselho da UE e pelo Parlamento Europeu, prevendo-se que possa entrar em vigor em 2025.

Com a recente aprovação da proposta de Regulamento, a União Europeia procura colocar-se na vanguarda da legislação sobre IA a nível global, sem prejuízo de se saber que diversas jurisdições noutras partes do mundo têm procurado dar respostas jurídicas, que implicam a definição de elementos de conexão aptos a trazer para a órbita dos respetivos ordenamentos jurídicos a regulamentação desta nova tecnologia, como sucede nos EUA.[4]



[1] Em 14.06.2023, o Parlamento Europeu aprovou alterações sobre a proposta de regulamento (Regulamento Inteligência Artificial) que altera determinados atos legislativos da união (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)). 

[2]  A este propósito v. a informação disponibilizada pela Comissão Europeia disponível em https://digital-strategy.ec.europa.eu/pt/policies/regulatory-framework-ai

[3]  Cfr. Hiroshima Process International Code of Conduct for Organizations Developing Advanced AI Systems

[4]  De acordo com dados disponibilizados pelo Governo Federal dos EUA, em 2023 foram apresentados projetos de lei sobre inteligência artificial em 25 Estados federados e 15 adotaram resoluções ou promulgaram legislação sobre IA. 



* Nuno Cunha Rodrigues

Professor Associado da Faculdade de Direito da Universidade de Lisboa

Cátedra Jean Monnet