A nova lei europeia sobre IA limitaria o uso da biometria na segurança

A indústria da segurança electrónica aguarda o avanço no Parlamento Europeu de um processo legislativo que imporia restrições à utilização de tecnologias como o reconhecimento facial e a Inteligência Artificial nos países europeus.

Especificamente, o novo regulamento procura limitar certas aplicações da Inteligência Artificial, como os sistemas de categorização biométrica baseados em algumas características sensíveis das pessoas e a captura de imagens faciais da Internet ou gravações de câmaras de vigilância para criar bases de dados de reconhecimento facial.

Regula também o reconhecimento das emoções das pessoas no local de trabalho e nas escolas, os sistemas de pontuação dos cidadãos, o policiamento preditivo (quando se baseia apenas no perfil de uma pessoa ou na avaliação das suas características) e a IA que condiciona o comportamento humano ou certas características vulneráveis ​​das pessoas .

Isenções
A utilização de sistemas de identificação biométrica pelas autoridades responsáveis ​​pela aplicação da lei é limitada a priori, exceto em situações específicas. Os sistemas de identificação biométrica “em tempo real” só podem ser utilizados se forem cumpridas salvaguardas rigorosas; por exemplo, se a sua utilização estiver limitada a um período e local determinados e houver autorização judicial ou administrativa.

Estas exceções incluem a busca direcionada de uma pessoa desaparecida ou a prevenção de um ataque terrorista. No entanto, o Parlamento Europeu deixou claro que o recurso a estes sistemas a posteriori é considerado uma utilização de alto risco que requer autorização judicial, uma vez que está associada a uma infração penal.

Obrigações
Estão também previstas obrigações para sistemas de IA com utilizações consideradas pela nova Lei como de alto risco. O Parlamento observou que isto inclui determinadas utilizações relacionadas com infraestruturas críticas, educação e formação profissional, emprego, serviços públicos e privados essenciais (por exemplo, saúde, bancos), determinados sistemas de aplicação da lei, migração e gestão aduaneira, justiça e processos democráticos.

Estes sistemas devem avaliar e mitigar riscos, manter registos de utilização, ser transparentes e precisos e ter supervisão humana. Os cidadãos têm o direito de apresentar queixas sobre os sistemas de IA e de receber explicações sobre decisões baseadas neles que afetem os seus direitos.

Requisitos
Em conformidade com a nova Lei da Inteligência Artificial, os sistemas de IA de uso geral e os modelos em que se baseiam devem cumprir determinados requisitos de transparência, respeitar a legislação de direitos de autor da UE e publicar resumos detalhados do conteúdo utilizado para treinar os seus modelos.

Modelos mais poderosos que possam representar riscos sistémicos terão de cumprir requisitos adicionais, tais como avaliação de modelos, análise e mitigação de riscos sistémicos e comunicação de incidentes. Além disso, imagens artificiais ou manipuladas, conteúdo de áudio ou vídeo denominados “deep-fakes” devem ser claramente rotulados como tal.

Inovação
No regulamento, o Parlamento Europeu levanta a necessidade de disponibilizar às PME e às start-ups espaços de testes e testes em condições reais para que possam desenvolver e treinar IA inovadora antes de esta ser comercializada.

Reações

A este respeito, o co-relator da Comissão do Mercado Interno, Brando Benifei, (S&D, Itália) afirmou: “Finalmente temos a primeira lei vinculativa do mundo sobre Inteligência Artificial, para reduzir riscos, criar oportunidades, combater a discriminação e trazer transparência “Graças ao Parlamento, as práticas inaceitáveis ​​de IA serão proibidas na Europa e os direitos dos trabalhadores e dos cidadãos serão protegidos. O novo Gabinete de IA ajudará as empresas a cumprir as regras antes de estas entrarem em vigor.”

Por sua vez, o co-relator da comissão das Liberdades Civis, Dragos Tudorache, (Renew, Roménia) acrescentou: “A IA irá levar-nos a repensar o contrato social no coração das nossas democracias, os nossos modelos educativos, os mercados de trabalho e a forma como conduzir a guerra. A Lei da IA ​​é um ponto de partida para um novo modelo de governança construído em torno da tecnologia.”

Antecedentes
As novas regras foram acordadas com os Estados-Membros em dezembro de 2023 e esta semana foram apoiadas pelo Parlamento Europeu com 523 votos a favor, 46 contra e 49 abstenções.

Segundo a agência, o objetivo desta iniciativa “é proteger os direitos fundamentais, a democracia, o Estado de direito e a sustentabilidade ambiental face à IA de alto risco, ao mesmo tempo que impulsiona a inovação e estabelece a Europa como líder da indústria”.

Próximos passos
A Lei da Inteligência Artificial ainda está sujeita a uma verificação jurídico-linguística final. Prevê-se que seja definitivamente adotado (através do chamado procedimento de retificação) antes do final da atual legislatura. A lei também deve ser formalmente adotada pelo Conselho.

Uma vez que isso ocorra, a Lei entrará em vigor 20 dias após a sua publicação no Diário Oficial e será plenamente aplicável vinte e quatro meses após a sua entrada em vigor, com exceção de: proibições de práticas (a aplicar seis meses após a data de entrada em vigor); códigos de prática (nove meses depois); regras sobre IA de uso geral, incluindo governança (12 meses depois), e obrigações para sistemas de alto risco 36 meses depois).

João Marcelo de Assis Peres

joao.marcelo@guiadocftv.com.br

GuiadoCFTV

Avalie esta notícia, mande seus comentários e sugestões. Encontrou alguma informação incorreta ou algum erro no texto?

Importante: ‘Todos os Conteúdos divulgados decorrem de informações provenientes das fontes aqui indicadas, jamais caberá ao Guia do CFTV qualquer responsabilidade pelo seu conteúdo, veracidade e exatidão. Tudo que é divulgado é de exclusiva responsabilidade do autor e ou fonte redatora.’

Quer enviar suas notícias? Envie um e-mail para noticias@guiadocftv.com.br