Inscreva-se no grupo de análise e inteligência no Telegram ▶️ https://t.me/areamilitar
Os legisladores da UE que lideram a lei da IA divulgaram um possível compromisso sobre as disposições relacionadas com a aplicação da lei, uma das áreas mais sensíveis do processo.
A Lei da IA é uma proposta legislativa para regulamentar a Inteligência Artificial com base no seu potencial para prejudicar as pessoas e os seus direitos fundamentais. O projeto de lei está atualmente a ser negociado entre o Parlamento da UE, o Conselho e a Comissão nos chamados trílogos.
Na terça-feira (21 de novembro), os eurodeputados envolvidos no processo legislativo reúnem-se para discutir as três partes principais do dossiê que ainda estão em aberto: obrigações para a IA de uso geral, governação e aplicação da lei.
Antes da reunião, os co-relatores do Parlamento Europeu, Dragoș Tudorache e Brando Benifei, distribuíram um texto de compromisso, visto pela Euractiv, sobre o delicado capítulo da aplicação da lei.
Os países da UE têm pressionado para dar mais espaço de manobra às suas forças policiais, enquanto a maioria dos eurodeputados se opôs a isso em nome da protecção dos direitos fundamentais.
Isenção de segurança nacional
A França tem pressionado por uma ampla isenção de segurança nacional no Conselho da UE. De acordo com a proposta dos co-relatores, existe unanimidade entre os grupos políticos a favor de uma formulação mais restritiva.
“O presente regulamento não se aplica aos sistemas de IA desenvolvidos ou utilizados exclusivamente para fins militares. O presente regulamento não prejudica as competências dos Estados-membros no que diz respeito às suas atividades militares, de defesa ou de segurança nacional”, lê-se no texto.
Identificação Biométrica Remota
Tal como Euractiv relatou anteriormente, o Parlamento Europeu parece disponível para abandonar a sua proibição da utilização de sistemas de identificação biométrica remota (RBI) em espaços acessíveis ao público em favor de excepções restritas de aplicação da lei.
No seu texto, os principais eurodeputados cancelaram a referência ao “tempo real”, o que significa que as exceções também se aplicariam à utilização ex post. As exceções incluem a busca direcionada de vítimas específicas de uma lista pré-determinada de crimes graves e a localização de um suspeito desses crimes.
O uso deve “ser implantado apenas para confirmar a identidade do indivíduo especificamente visado, não deve incluir correspondência automatizada de imagens de vídeo em tempo real ou ex-post com bancos de dados existentes”, diz o texto.
Além disso, o pedido deve limitar-se ao estritamente necessário em termos temporais, geográficos e pessoais e sujeito a autorização judicial prévia. Os legisladores afastaram a possibilidade de a autorização vir de uma autoridade administrativa.
Os correlatores eliminaram a exceção que teria permitido às autoridades responsáveis pela aplicação da lei que ainda não concluíram uma avaliação de impacto nos direitos fundamentais continuarem a utilizar os sistemas RBI em situações de emergência justificadas.
Os países da UE devem aprovar legislação nacional que regule a utilização do RBI em espaços públicos e informar a Comissão no prazo de 30 dias após a adoção. Uma autoridade supervisora teria que ser notificada de cada uso da tecnologia.
As autoridades de supervisão deverão fornecer à Comissão relatórios anuais. Por sua vez, o executivo da UE publicará relatórios anuais com dados agregados e exercerá “supervisão e controlo sistémico” sobre a utilização do RBI.
Proibições adicionais
Em troca da suspensão da proibição dos sistemas RBI, os eurodeputados deverão obter a extensão da lista de aplicações de IA proibidas.
O Parlamento da UE está a pressionar pela proibição de sistemas de categorização biométrica que inferem informações sensíveis das pessoas, como a orientação política. O gabinete de Brando Benifei propôs um novo texto destinado a manter a proibição e ao mesmo tempo excluir os serviços comerciais.
O policiamento preditivo ainda é uma discussão aberta, uma vez que uma iteração anterior do texto manteve-o como um caso de utilização de alto risco. Segundo a nota, a maioria dos grupos políticos rejeitou esse compromisso e insistiu no mandato do Parlamento Europeu para proibir esta aplicação.
No que diz respeito ao reconhecimento de emoções, o Conselho mostrou-se até agora aberto para aceitar uma proibição nas áreas do local de trabalho e da educação. Ainda assim, os principais eurodeputados insistem em incluir a aplicação da lei e a migração em troca de flexibilidade noutras partes do processo.
Casos de uso de alto risco
A Lei da IA inclui uma lista de casos de utilização considerados de risco significativo para causar danos à segurança e aos direitos fundamentais das pessoas. Os correlatores sugerem alargar a categoria de RBI para abranger todas as utilizações não abrangidas pela proibição, incluindo espaços acessíveis a privados.
Da mesma forma, os dois legisladores pretendem que todas as aplicações de categorização biométrica e tecnologias de reconhecimento de emoções não abrangidas pelas proibições sejam consideradas de alto risco.
Os eurodeputados concordam em incluir polígrafos alimentados por IA e ferramentas semelhantes na lista de alto risco, em vez de os proibir, mas apenas se utilizados diretamente pelas forças policiais e de acordo com a legislação nacional e da UE.
Os usos de sistemas de IA para aplicação da lei e migração, como análise de crimes, detecção profunda de falsificações, verificação de documentos de viagem e previsões de tendências de migração foram removidos. Qualquer utilização da IA para controlo de fronteiras seria considerada de alto risco, exceto para a verificação de documentos de viagem.
Isenções de aplicação da lei
Os governos europeus têm pedido uma exclusão da aplicação da lei dos princípios dos quatro olhos, o que exige que uma decisão baseada num sistema de alto risco seja verificada por pelo menos duas pessoas. Neste ponto, os co-relatores estão a reagir contra a maioria dos grupos políticos.
Da mesma forma, a maioria dos legisladores opõe-se à isenção das autoridades responsáveis pela aplicação da lei da obrigação de registar o seu sistema de IA de alto risco na base de dados da UE. Um possível compromisso poderia ser registá-los numa secção não pública da base de dados, mas alguns eurodeputados insistem em ter pelo menos alguma informação disponível publicamente.
A derrogação para a colocação em serviço de um sistema de IA que não tenha sido submetido à avaliação de conformidade poderá ser aceite em troca de concessões noutros locais, com a ressalva de que a autorização deve ser solicitada no prazo de 48 horas.
[Edited by Nathalie Weatherald]
