Corpos e vigilância

A vigilância por meio de câmeras já tem sido uma realidade ampla há um punhado de anos, e essa parece ter sido uma guerra perdida para o vigilantismo. Um novo front, no entanto, parece se abrir diante das operações de inteligência artificial. Uma coisa, afinal, é ser filmado. Outra coisa bem diferente é ser reconhecido por ela.

Pensando nisso, pesquisadores da Northeastern University, do MIT e da IBM desenvolveram uma estampa que confunde o reconhecimento do corpo por IA.

Fonte: Wired

A estampa dificulta o reconhecimento do corpo pela rede neural, que é um modelo/procedimento computacional usados para aprendizagem de máquina por meio de reconhecimento de padrões. Ao ser treinada para reconhecer objetos, uma rede neural lida com as bordas do que está analisando. A estampa, nesse caso, confunde esse reconhecimento, inviabilizando o processo de vigilância.

A rigor, os pesquisadores disseram à Wired que o objetivo final não é dificultar o trabalho das câmeras e do reconhecimento por IA, mas sim encontrar falhas nos procedimentos já usados.

Por outro lado, vale nota o trabalho de Adam Harvey. Em CV Dazzle, o artista propõe o uso de maquiagens e cortes de cabelo que a identificação individual por sistemas de vigilância. Novamente, o truque consiste em utilizar elementos irreconhecíveis ou difíceis de se agrupar por meio de inteligência artificial. Para um ser humano, é fácil entender que se trata de uma pessoa, mas computadores, diante desses ruídos visuais, não conseguem captar os elementos que formam um rosto de fato.

FKV_I am here to learn_Adam Harvey_CV Dazzle_1.jpg
Fonte: Frankfurter Kunstverein

Pandemia, espaços e corpos

A atual pandemia de Covid-19 trouxe à tona preocupações e questionamentos que tensionam o corpo humano em sua relação com o espaço. Notoriamente, o distanciamento social tem sido uma unanimidade em termos de prevenção e diminuição do contágio pelo coronavírus, uma forma simples e objetiva de “achatar a curva” de novos casos da doença. Isso por si só nos coloca em reflexão sobre como serão nossas relações sociais em curto e em longo prazo, como iremos continuar trabalhando, estudando, realizando atividades físicas, viajando (a lazer ou a trabalho), indo a consultas médicas, tendo momentos de diversão, sociabilizando com amigos etc.

Ou seja, toda nossa construção social é baseada no encontro físico. Claro, temos interações mediadas por telefones, por computadores e por outros dispositivos eletrônicos, além também de cartas, bilhetes e similares, mas a presença física tem se mostrado como um item essencial no desenrolar de uma vida dita “normal”.

O cenário de pandemia e a necessidade de isolamento, de afastamento também trouxeram consigo arranjos sociotécnicos de rastreamento, monitoramento e controle de modo que até então não tínhamos presenciado, os quais colocam o corpo e sua localização num intenso ponto de atenção e preocupação. A ideia, basicamente, tem sido a de estarmos seguros de que, de um lado, certos indivíduos realmente estão onde deveriam estar ou, por outro, pelo menos não estão em aglomeração.

Contact Tracing

Algumas dessas soluções apontam para o uso de dados de localização ou proximidade entre corpos, embora os dados em si não sejam produzidos pelos corpos, mas por telefones celulares. É o que se denomina como a técnica de Contact Tracing (rastreamento de contato), e está baseada no monitoramento de proximidade entre as pessoas.

É notória a iniciativa conjunta do Google com a Apple, empresas rivais no ramo de serviços digitais e sistemas operacionais para smartphones. A solução busca identificar possíveis contatos ou proximidades entre pessoas que possam estar contaminadas pelo coronavírus. Também na mesma linha de raciocínio se encontra a ferramenta Private Kit: Safe Paths, elaborado pelo MIT (Instituto de Tecnologia do Massachusetts).

Image result for private kit safe paths

Em ambos os casos, a funcionalidade é a de monitorar a movimentação dos indivíduos e, utilizando redes formadas por bluetooth, verificar eventuais proximidades entre as pessoas (ou seja, se elas se encontrarem até determinada distância, por determinado tempo). Quando alguém soubesse que está infectado, disporia tal informação na aplicação, que avisaria outras pessoas de um possível contato (sem identificação ou definição de quem ou quando). Assim, ambas iniciativas são descritas com cuidados para assegurar a privacidade dos indivíduos contaminados, tanto por criptografia quanto pelo não-compartilhamento dos dados com autoridades locais. Curiosamente, um app desenvolvido para uso nas Dakota do Norte e do Sul, nos EUA, viola seus próprios termos de uso ao compartilhar dados de usuários com a rede social Foursquare.

Esse tipo de solução coloca os corpos dos indivíduos sob escrutínio e atenção constante, numa forma de vigilância (ou dataveillance) que trata a todos como suspeitos – ou pelo menos como virtuais infectados. Curiosamente, pressupõe o não-isolamento das pessoas, ou seja, esse tipo de solução leva em conta que num momento ou outro precisaremos sair da quarentena, total ou parcialmente, retornando a um cotidiano dentro de certa normalidade ou apenas indo à farmácia, ao mercado etc., mas fica claro que, para seu pleno funcionamento, necessita de ampla testagem nos territórios utilizados. Sem testes, seus utilizadores não teriam como saber se estão ou não doentes.

Monitoramento de localização

Outro modelo de monitoramento e relativo controle sobre os corpos tem a ver com a observação direta da localização dos indivíduos. Um dos casos mais contundentes foi o de Milo Hsieh, um estudante americano que vive em Taiwan e teve sua localização vigiada pela polícia local. O rapaz fez um tweet no dia 21 de março de 2020 relatando sua experiência ao retornar da Europa para sua residência e, assim, ter de ficar em quarentena. Naquele momento, vale lembrar, a Europa tinha alguns dos epicentros da pandemia, como França, Espanha e Itália, o que o colocava em quarentena obrigatória por duas semanas.

No tweet, e depois numa notícia publica no site da BBC [Coronavirus: Under surveillance and confined at home in Taiwan – BBC News] , ele explica que dois policiais bateram à sua porta às 08:15 daquele dia enquanto ainda dormia. A razão foi simples: seu celular havia descarregado por volta de 07:30, o que impedia de ser rastreado ou contatado. O estudante, por sinal, estava ciente de que o rastreamento seria feito, uma vez que fora avisado pelas autoridades locais quando da sua chegada ao país.

Nesse caso, existe um pressuposto de não-locomoção, e a checagem se dá por meio da verificação de localização. O desligamento do celular pode, então, ter sido considerado como intencional para burlar o monitoramento e as eventuais tentativas de contato.

QR Codes e passaporte de imunidade

A China adotou rapidamente o uso de QR Codes num aplicativo para indicar possíveis estados de saúde, gerados a partir da aplicação Alipay Health Code. Os códigos são gerados a partir do deslocamento das pessoas e mudam de cor (verde, amarelo ou vermelho) para indicar um possível estado de salubridade do indivíduo, considerando as áreas por onde passou nos últimos dias.

A passenger uses a smartphone at a banner displaying a quick response (QR) code enabling the inspection of one's travel history at a subway station in Wuhan, China, on Friday, May 1, 2020. The lifting on April 8 of the unprecedented lockdown on Wuhan -- where the virus pathogen first emerged -- was a milestone. Stringent nationwide restrictions in China meant the world's second-largest economy recorded its deepest contraction in decades over the first quarter. Photographer: Qilai Shen/Bloomberg
Fonte: Financial Times

A aplicação funciona escaneando um QR Code posto num lugar público, como uma estação de metrô, por exemplo, o que é feito com o próprio celular individual a partir de sua câmera. Após a leitura, o aplicativo dá um feedback daquele código que indica a permissão ou não de adentrar o local. No fim das contas, funciona como uma espécie de passaporte a dar caminho livre ou não.

Fonte: Público

The QR codes, produced with the mobile app Alipay, are based on the users’ movements over the previous two weeks and tell whether users have been to virus-hit areas.

Comissão Nacional de Saúde da China, 20 de fev

O uso de QR Codes assinala um não-isolamento total das pessoas e um controle espacial a partir de seu histórico de trajetórias – o que vai na contramão de uma quarentena total. Há relatos de que o aplicativo não é obrigatório mas que muitas cidades já o utilizam como um modelo generalizado de monitoramento e controle dos corpos.

Num outro caminho, muito se comenta num possível “passaporte de imunidade”, uma espécie de certificado que diz se determinada pessoa já teve ou não Covid-19 e, portanto, está imune à doença. Esse documento, numa analogia ao passaporte que permite viagens internacionais, serviria para atenuar as severidades da quarentena usual e permitiria um retorno aos formatos tradicionais de trabalho e deslocamento.

Na Europa, existe um planejamento conjunto para o desenvolvimento de uma solução baseada em blockchain. Propostas como essa, em geral, têm sido levadas em consideração por vários países, mas ainda apresentam muitas controvérsias, que vão desde o desconhecimento geral sobre o vírus até a possibilidade de falsificação da documentação, passando, claro, pelas delicadas questões ligadas à privacidade e à vigilância por aparatos estatais.

Monitoramento no Brasil

No contexto brasileiro, o governo chegou a anunciar que iria usar dados de localização do celular para monitorar aglomerações. O anúncio havia sido feito pelo ministro da Ciência, Inovação, Tecnologia e Comunicação (MCTIC), Marcos Pontes, num tweet no dia 27 de março, que foi apagado em seguida. Apenas no dia 02 de abril é que as operadoras de telefonia confirmaram a colaboração com o governo. Apesar de ter sido apagado, é possível ver o vídeo em outra mensagem na rede social.

O procedimento se daria da seguinte maneira: as operadoras iriam transferir os dados para uma nuvem pública, onde seriam anonimizados. Desse modo, não seria possível identificar as pessoas, de modo a não ferir o Marco Civil da Internet e a Lei Geral de Proteção de Dados (LGPD). A ideia, contudo, gerou bastante controvérsia, não apenas pelas incursões negativas rumo a uma vigilância generalizada mas também porque, em meio à pandemia, a LGPD acabou sendo postergada. Alguns links que dão conta dessa querela:

https://medium.com/codingrights/radar-legislativo-especial-covid-19-e-tecnologia-3454a68f2fb4

O que esses exemplos nos dizem?

Via de regra, todas as iniciativas parecem estar alinhadas com práticas mínimas de resguardo da privacidade, assegurando anonimato das pessoas e criptografia de seus dados. A questão aqui, a meu ver, não é tanto quanto a esse ponto (que podem apresentar falhas) mas o que elas trazem de apontamentos na relação corpo-espaço que podemos ter de agora em diante. Essas soluções, ainda que imediatas, parecem apontar que espaços já usualmente controlados, como aeroportos, terminais de ônibus, bancos (o que Martin Dodge e Rob Kitchin descrevem pelo termo code/space, no livro homônimo) sejam ainda mais monitorados, escrutinados, vigiados e controlados. Junto deles, também seriam analisados, observados e detalhados os corpos, que caminham em vias de perder a (relativa) liberdade de não serem vigiados. Não é de se duvidar que, por exemplo, países busquem adotar medidas baseadas em aplicativos para celular e/ou dispositivos físicos (como wearables) para rastrear passos individuais e coletivos ou ainda para verificar parâmetros mínimos de saúde – o que, a rigor, já é feito com termômetros, por exemplo, mas, nesse caso, a ferramenta e a produção do dado ficam a cargo não de indivíduos, mas das instituições governamentais, empresas etc.

Juntas, essas práticas incorporam um senso de vigilantismo e construção de tipos inadequados para circulação, o que é uma indicação clara de separação de corpos saudáveis e corpos doentes. Existe uma necessidade evidente de segregação (que chamamos de quarentena) por motivos de bem coletivo, mas não é absurdo questionar os caminhos classistas, racistas e sexistas que algumas dessas soluções podem tomar . Lembremos que no Pará o serviço doméstico foi tratado como essencial, ao lado de áreas como alimentação, distribuição, saúde etc., o que sublinha a relação tensa entre os poderes constituídos e determinadas classes sociais.

Uma das questões que ficam é: o que teremos a seguir para rastrear, monitorar e controlar (e, quem sabe, punir) os corpos em suas movimentações no espaço? A ver.