Lei da UE para regular IAs e reconhecimento facial possui falhas

Outro dia, outra proposta de regulação apresentada na União Europeia, desta vez mirando em inteligência artificial, reconhecimento facial, redes neurais e sistemas especialistas como um todo.

• Papa Francisco: "IA e robôs devem sempre servir à humanidade"
• Por que reconhecimento facial de emoções não é uma boa ideia

Basicamente, o projeto de lei restringe fortemente o uso comercial das tecnologias (especialmente por companhias de fora do bloco), restringindo sua aplicação à polícia e órgãos governamentais, o que rendeu acusações de vigilantismo estatal por grupos de defesa da privacidade individual.

O projeto (cuidado, PDF) apresentado ao parlamento europeu e endossado pela Comissão Europeia, e defendido pela comissária Margrethe Vestager, que acumula o cargo de vice-presidente da divisão relativa a tudo relacionado a TI e telecomunicações, define normas e usos para IA e reconhecimento facial focando-se principalmente em pontos-chave da sociedade, especialmente segurança pública, como na identificação de criminosos e busca por pessoas desaparecidas.

O documento, de mais de 130 páginas, define limitações para o uso de reconhecimento facial em locais públicos apenas para situações essenciais, e que não podem infringir a privacidade individual dos cidadãos europeus. Por exemplo, aplicações comerciais aplicadas para ingresso em universidades, concessão de empréstimos e etc, deverão ser limitadas ou mesmo banidas.

Ao mesmo tempo, o rastreamento de suspeitos em tempo real para fins de policiamento deverá ser "proibido a princípio", sendo autorizado previamente por um juiz ou por uma autoridade federal; neste caso, forças de segurança pública deverão se limitar ao uso de material pré-gravado na maioria dos casos.

A regulação proposta pela Comissão Europeia tem alvos bem definidos, que são empresas externas, especialmente as 4 maiores companhias de tecnologia dos Estados Unidos, grupo formado por Apple, Google, Microsoft e Facebook, que são desafetos declarados da comissária Vestager, principalmente o Google. Por outro lado, as limitações comerciais poderiam afetar de igual maneira as companhias locais.

Segundo Benjamin Mueller, analista do Center for Data Innovation, um grupo de pesquisa do qual as empresas acima citadas participam, o projeto de lei poderia "acabar com o mercado de IA na Europa antes mesmo que ele aprenda a andar". De fato, analistas acreditam que o movimento fortaleceria iniciativas tanto nos Estados Unidos quanto na China, em detrimento de inovações europeias.

No entanto, dado o foco que a regulação propõe do uso de IAs e reconhecimento facial apenas em situações "centradas em humanos", focada em segurança e uso por setores específicos da sociedade, é mais provável que a Comissão Europeia não veja o uso comercial da tecnologia como uma opção.

O que nos traz ao outro lado da discussão, o uso endossado de IAs e reconhecimento facial por governos e forças policiais, indo de encontro aos esforços de ONGs e instituições em defesa da privacidade do indivíduo. O documento apresentado pela Comissão Europeia limita a proibição do uso de tais recursos em apenas 4 casos, que são bastante vagos e que a princípio, visariam influenciar comportamentos:

1. Sistemas que usam técnicas de mensagens subliminares;
2. Sistemas que usam vulnerabilidades de certos grupos de indivíduos (idade, limitações físicas e/ou mentais, e etc);
3. Sistemas usados por órgãos públicos que buscam avaliar e classificar cidadãos de acordo com seu comportamento ou atividades, de modo a criar um sistema de ranking, como o usado nos sistemas de crédito social, de modo a favorecer ou prejudicar indivíduos ou grupos;
4. Sistemas que usam rastreamento em tempo real de suspeitos, que seriam autorizados apenas sob autorização prévia judicial ou de um órgão governamental.

As brechas deixadas para viabilizar o uso de ambas tecnologias em aplicações governamentais e de segurança foram duramente criticadas, principalmente por permitir sua aplicação no policiamento de forma similar ao que acontece nos EUA, fornecido pela companhia Clearview AI, que inclusive foi implementado de forma arbitrária por departamentos, sem maiores regulações, e cuja coleta é feita sem autorização dos cidadãos.

Segundo o projeto, companhias que infrinjam a lei, se aprovada da maneira que foi apresentada até o momento, deverão ser multadas em até 6% do faturamento global anual, limitado a € 30 milhões (R$ 198,6 milhões, segundo cotação de 22/04/2021).

No geral, a proposta apresentada pela Comissão Europeia possui uma série de loops que poderiam voltar o uso de IAs e reconhecimento facial para reforçar sistemas de vigilância, ao mesmo tempo que frearia o desenvolvimento de sistemas comerciais que poderiam prover benefícios à sociedade, segundo os críticos. Em todo caso, o projeto de lei pode e deverá ser severamente alterado até ser submetido à avaliação do parlamento.

Fonte: Comissão Europeia, The Next Web, Ars Technica