Clearview e o determinismo tecnológico
Como uma observação publicada no início dos anos 1970, retrata com precisão nosso presente e futuro
“A sociedade ocidental aceitou como inquestionável o imperativo tecnológico, que é deveras arbitrário em seu mais primitivo tabu: não apenas o dever de promover a intenção e criar constantemente novidades, mas também o igual dever de render-se à estas novidades de forma incondicional, só porque elas são ofertadas, sem respeitos às suas consequências humanas.”
A observação de Lewis Mumford, escritor, sociólogo e filósofo da tecnologia, entre outros, ganhou o nome de Determinismo Tecnológico, e pode ser resumida a uma simples frase: “se uma tecnologia existe, ela será utilizada”.
Não, não vou sair da seara da cibersegurança e privacidade, para escrever sobre filosofia. Não considero ter estofo para tanto, mas sim sobre para onde caminha a pouca privacidade que ainda acreditamos deter.
Em meados janeiro de 2020, ganhou notoriedade a existência da Clearview AI, uma startup com 12 ano de idade (!), que já recebeu US$40 milhões em aporte, está sediada em Nova Iorque e passou os últimos tempos varrendo a internet – especialmente redes sociais como Facebook, Instagram e Twitter – em busca de todas fotos, e todas as informações e metainformações que vem nelas.
Sob este contexto, as “informações” e aquilo que as fotos trazem de maneira explícita, são coisas como nome ou apelido utilizado pelo dono da conta, o texto que acompanha a foto, nomes ou apelidos daqueles que comentam e seus avatares. Além disso, a própria foto traz diversas metainformações, que são dados embutidos no arquivo da imagem. Com isso, é possível saber não apenas quando a foto foi tirada como também, em tempos de smartphones, onde a foto foi tirada.
Até aí, tudo bem. Este tipo de coleta de dados, conhecido como “scrapping de internet”, é algo normal e vários cursos de programação ensinam logo nas suas primeiras semanas. O que diferencia a Clearview AI do resto são dois fatos: a capacidade de fazer isso em escala industrial e a capacidade de cruzar dados e extrapolar conclusões.
O que um estudante foi capaz de fazer
Cinco anos atrás, um graduando do MIT utilizando dados pseudoanonimizados – cada cartão ganhou um código, mas não revelava nome nem número – de cartões de crédito e das transações feitas por 1,1 milhões de clientes em 10 mil estabelecimentos comerciais ao longo de um período de três meses, foi capaz de criar um modelo de análise que conseguia amarrar uma transação a um cartão só analisando o valor gasto e nome do estabelecimento, com 90% de precisão.
O que, exatamente, a Clearview AI fez é impossível dizer. Mas pode-se supor, com um bom nível de confiança, que ela desenvolveu um algoritmo de detecção facial mais eficiente que os que se conhecia até agora, e utilizou esta capacidade para majorar a eficiência na extrapolação de dados.
Ou seja, ao ser capaz de identificar com mais precisão uma pessoa em diferentes ocasiões, ela é capaz de criar laços entre Fulano e Sicrano a partir de imagens e, a depender do dia, hora, geolocalização de outras pessoas que foram identificadas no mesmo local, “entender” se Fulano e Sicrano estão em evento profissional ou social ou com qual frequência se encontram.
O sistema é capaz de entender que fotos em que apareçam animais domésticos ou o famoso “selfie de elevador”, são coisas que geralmente são feitas onde aquela pessoa mora, e por aí vai.
Cheguei a pensar em fazer uma análise do site da Clearview, que tem em seu topo superior frases como “Apenas Informações Públicas”, “Busca, não vigilância”, “Parando criminosos” e “Protegendo inocentes”, frases que parecem oriundas do Grande Irmão, de Orwell. Ou ressaltar o fato de que Peter Thiel – um dos cofundadores do Paypal – e sua empresa Palantir – que tem relações muito próximas a diversos braços do governo norte-americano – estarem envolvidos, não é um bom sinal. Mas acho que seria desviar muito do assunto em pauta.
Voltando à Mumford. A tecnologia existe e será utilizada, e a Clearview AI foi apenas a primeira a ser exposta, outras devem existir ou a caminho de serem criadas.
Obviamente, há muita gente insatisfeita
O Twitter, reportadamente, está demandando que a Clearview.ai apague todas as fotos que usou e que tenham sido retiradas do site. No estado de Illinois, nos EUA, foi iniciada uma ação coletiva em que a empresa está sendo processada com base em uma legislação local que regula o uso de dados biométricos, e rostos são dados biométricos.
Aliás, vale a nota de que o Facebook já está sendo processado no Estado, e que um pedido da rede social à Suprema Corte dos EUA, pedindo para não ser julgado por esta lei, foi rejeitado (não chegou a ser julgado).
Na Europa, os dados biométricos estão protegidos pela GDPR, na China existem os créditos sociais, que poderão se tornar uma versão distorcida da visão utópica de Cory Doctorow dos wufies do “Down and Out no Magic Kingdom” (sim, o título em português é misturado), com os créditos sociais, e o uso intensivo de reconhecimento facial, caso se leve adiante um plano de implementação de reconhecimento facial em massa.
Aqui no Brasil, quando a LGPD entrar em vigor em meados de agosto – se não for adiada –, dados biométricos serão protegidos por ela, já que são ‘dados sensíveis’. Aliás, não importa nem onde os dados estão arquivados, nem a nacionalidade da empresa, a proteção é aos dados do cidadão brasileiro.
Mas, mesmo quando ela entrar em vigor, o uso deste tipo de dados será permitido para segurança pública e segurança do Estado, ou seja, o Grande Irmão poderá ficar de olho em todos nós.
Sorria você está sendo filmado, fotografado e analisado por algoritmos, se sabe-se lá o que mais…
