Nuno Cunha Rodrigues*
No passado dia 8 de dezembro de 2023, a União Europeia (UE) alcançou um acordo entre os co-legisladores envolvidos – Conselho da União Europeia e Parlamento Europeu – sobre a proposta de regulação da inteligência artificial (IA), vulgarmente conhecida por AI Act.
A proposta visa (i) garantir que os sistemas de IA são seguros e respeitam os direitos fundamentais previstos na UE; (ii) garantir a segurança jurídica; (iii) reforçar a governação e a aplicação efetiva da legislação existente; e (iv) facilitar o desenvolvimento de um mercado único para aplicações de IA seguras.
Todas as soluções incluídas na proposta fundam-se na categorização designada por risk based approach, entretanto modificada na sequência de alterações à proposta apresentadas em junho de 2023.[1]
A proposta de Regulamento de IA categoriza os sistemas de inteligência artificial em quatro níveis de risco e atribui a cada nível um enquadramento legal específico, com limitações e obrigações próprias.
Desta forma a mais recente proposta estabelece uma lista de práticas de IA proibidas baseada no risco e diferencia entre as utilizações de IA que criam: i) um risco inaceitável – por violar os valores da União, por exemplo, como os direitos fundamentais; ii) um risco elevado; iii) um risco limitado e iii) um risco baixo ou mínimo.[2]
Neste contexto prevê-se um conjunto de obrigações específicas que os fornecedores de modelos-base devem passar a cumprir, consoante o nível de risco determinado, que incluem, por exemplo, o dever de:
(i) tratar e incorporar apenas dados sujeitos a medidas adequadas de governação de dados;
(ii) assegurar níveis adequados de desempenho;
(iii) elaborar documentação técnica e instruções de utilização, a fim de permitir que os fornecedores a jusante cumpram as suas obrigações previstas na proposta de Regulamento;
(iv) estabelecer um sistema de gestão de qualidade; e
(v) registar o modelo-base numa base de dados da UE (cf. n.º 2 do art.º 28-B da proposta de alteração).
Caso a proposta venha a ser aprovada, o Regulamento será aplicável na UE independentemente do local onde o fornecedor ou o utilizador de sistemas de IA esteja localizado ou baseado – ainda que num país terceiro – desde que sejam colocados no mercado ou em serviço sistemas de IA no território da UE ou se o resultado produzido pelo sistema for utilizado na UE (cfr. artigo 2.º, n.º 1, da proposta).
Podem vir a ser aplicadas coimas às empresas que não cumpram o Regulamento, podendo o valor ir até 35 milhões de euros ou 7% do volume de negócios anual global (o que for maior) por violação de obrigações de IA proibidas; 15 milhões de euros ou 3% por violação de outras obrigações e 7,5 milhões de euros ou 1,5% por fornecimento de informações incorretas. Estão igualmente previstos limites mais proporcionais para coimas aplicáveis a PME’s ou a empresas em fase de arranque.
Prevê-se ainda que o Regulamento venha a ser complementado, a nível mundial, pelos princípios orientadores e pelo código de conduta voluntário do G7 para os prestadores de sistemas de IA.[3]
A proposta terá ainda de ser aprovada, formalmente, pelo Conselho da UE e pelo Parlamento Europeu, prevendo-se que possa entrar em vigor em 2025.
Com a recente aprovação da proposta de Regulamento, a União Europeia procura colocar-se na vanguarda da legislação sobre IA a nível global, sem prejuízo de se saber que diversas jurisdições noutras partes do mundo têm procurado dar respostas jurídicas, que implicam a definição de elementos de conexão aptos a trazer para a órbita dos respetivos ordenamentos jurídicos a regulamentação desta nova tecnologia, como sucede nos EUA.[4]
[1] Em 14.06.2023, o Parlamento Europeu aprovou alterações sobre a proposta de regulamento (Regulamento Inteligência Artificial) que altera determinados atos legislativos da união (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)).
[2] A este propósito v. a informação disponibilizada pela Comissão Europeia disponível em https://digital-strategy.ec.europa.eu/pt/policies/regulatory-framework-ai
[3] Cfr. Hiroshima Process International Code of Conduct for Organizations Developing Advanced AI Systems
[4] De acordo com dados disponibilizados pelo Governo Federal dos EUA, em 2023 foram apresentados projetos de lei sobre inteligência artificial em 25 Estados federados e 15 adotaram resoluções ou promulgaram legislação sobre IA.
* Nuno Cunha Rodrigues
Professor Associado da Faculdade de Direito da Universidade de Lisboa
Cátedra Jean Monnet
*Image designed by claudeai.wiki (https://claudeai.wiki/)
