Inscreva-se no grupo de análise e inteligência no Telegram ▶️ https://t.me/areamilitar
Os deputados do Parlamento Europeu envolvidos na lei da IA discutirão o aspecto da governação da legislação à luz das recentes discussões sobre os modelos de IA mais poderosos na terça-feira (21 de Novembro).
A Lei da IA é uma lei histórica que regula a inteligência artificial com base na sua capacidade de causar riscos, atualmente na última fase do processo legislativo, onde o Parlamento e o Conselho da UE, os colegisladores, chegam a acordo sobre as disposições finais e a Comissão atua como o ‘corretor honesto’ entre os dois.
A Comissão elaborou o texto de compromisso partilhado com os co-relatores do Parlamento Europeu no domingo, incluindo o estabelecimento de uma nova proposta sobre a regulamentação de modelos de IA de uso geral, relatado pela Euractiv na segunda-feira. O texto inclui algumas sugestões dos principais eurodeputados.
Tal como observado pelos co-relatores numa nota à margem do texto, desapareceu um artigo crucial numa iteração anterior do texto que permitia à Comissão Europeia tomar medidas em caso de infracções generalizadas.
Escritório de IA
De acordo com o novo texto, o Gabinete supervisiona a aplicação dos modelos de IA de uso geral (GPAI), enquanto os países da UE devem facilitar as suas tarefas.
Em particular, o Gabinete de IA deve monitorizar e solicitar quaisquer informações relevantes para a aplicação das disposições da Lei de IA aos fornecedores de modelos GPAI, incluindo a sua adesão aos códigos de prática aprovados.
Os operadores económicos a jusante que construíram um sistema baseado num modelo GPAI têm o direito de apresentar uma reclamação fundamentada por alegadas infrações à Lei da IA.
Além disso, o Gabinete de IA está habilitado, após consulta ao Conselho, a realizar avaliações ex post dos modelos GPAI para avaliar a sua conformidade com o regulamento de IA quando as informações recolhidas são inconclusivas ou para investigar riscos sistémicos a nível da UE.
O Gabinete poderá nomear peritos independentes do painel científico para avaliarem em seu nome. Nestes casos, o Instituto poderá solicitar o acesso aos modelos através de uma interface de programação de aplicações (API) ou de outros meios técnicos.
Para os principais legisladores, o pedido de acesso deve ser precedido de um diálogo estruturado entre o Gabinete de IA e o fornecedor do modelo.
Além disso, o Gabinete de IA pode solicitar aos fornecedores de modelos GPAI que tomem medidas adequadas para cumprir as suas obrigações ou para implementar medidas de mitigação sempre que existam preocupações fundamentadas de risco sistémico a nível da UE, incluindo restringir a sua disponibilidade ou retirá-lo do mercado.
Se, durante um diálogo estruturado, o fornecedor do modelo GPAI oferecer compromissos para implementar medidas de mitigação relevantes, o Gabinete de IA poderá tornar esses compromissos obrigatórios e abster-se de qualquer ação adicional.
É mencionado um regime de sanções para violações da Lei da IA e falta de cooperação com o Gabinete de IA, mas sem qualquer referência à percentagem máxima do volume de negócios global da empresa. As modalidades de adoção das multas serão definidas em legislação derivada.
Os correlatores pretendem também que o Gabinete de IA preste apoio de coordenação às investigações conjuntas.
Conselho Europeu de Inteligência Artificial
Para o compromisso, o Conselho será composto por um representante por país da UE, nomeado por três anos, renovável uma vez. Os principais eurodeputados pretendem que a Autoridade Europeia para a Proteção de Dados, a Agência dos Direitos Fundamentais e a Agência de Cibersegurança da UE, ENISA, participem como observadores.
O Comité deve adotar as suas regras internas por maioria de dois terços e ter dois subgrupos permanentes com autoridades de fiscalização do mercado e autoridades notificadoras, respetivamente. O AI Office fornecerá o secretariado do Conselho.
Seguindo o exemplo do Comité Europeu para a Proteção de Dados, o Conselho da IA teria a tarefa de garantir a aplicação consistente do conjunto de regras da IA em todo o bloco, ao mesmo tempo que aconselhava sobre legislação secundária, códigos de conduta e normas técnicas.
Os correlatores sugerem que as tarefas do Gabinete sejam reforçadas, ajudando as autoridades nacionais a criar ambientes de testagem regulamentares e a organizar consultas periódicas com o fórum consultivo.
Painel científico
A criação de um painel científico de peritos independentes também foi incluída no texto. A Comissão deve nomear os peritos com base nos seus conhecimentos especializados, na independência das empresas de IA e na precisão do seu trabalho.
Para os co-relatores, a composição do conselho deve garantir a representação geográfica e de género.
O painel assessora o AI Office sobre modelos de General Purpose AI (GPAI), em particular, contribuindo para o desenvolvimento de metodologias de avaliação das capacidades dos modelos e aconselhando na classificação de modelos com riscos sistémicos.
Além disso, os peritos do painel devem alertar o Gabinete de IA quando considerarem que um modelo GPAI apresenta um risco concreto a nível da UE ou cumpre os requisitos para o classificar como um modelo com riscos sistémicos.
Os principais eurodeputados sugerem também que os peritos científicos aconselhem sobre os parâmetros de referência relevantes para os modelos GPAI e a distinção entre o modelo GPAI e as categorias de sistema.
No que diz respeito à autoridade nacional, os peritos apoiariam o seu trabalho e as investigações transfronteiriças mediante pedido. O gabinete de IA teria de gerir potenciais conflitos de interesses para os membros do painel.
Fórum consultivo
O texto da Comissão retoma a ideia do Parlamento Europeu de criar um fórum consultivo para as partes interessadas, como representantes da indústria, PME, empresas em fase de arranque, sociedade civil e mundo académico, para fornecer conhecimentos técnicos ao Conselho e ao Gabinete de IA.
[Edited by Alice Taylor]
