Instituto Lula

Doe agora
Menu

Boletim aponta que IA encarcera negros

07/06/2022 23:15

Divulgação

Grupo de estudo explica viés racista dessa tecnologia “não tão inteligente” e  defende banimento das câmeras que representam violações diretas aos direitos de pessoas negras

O Instituto Lula promoveu uma mesa redonda em seu canal do YouTubenesta terça-feira (7) para debater  o boletim online "Monitorando a cidade inteligente: câmeras de vigilância, monitoramento inteligente e racismo tecnológico". O boletim é parte do trabalho desenvolvido pelo grupo de pesquisa fronteira digital, o front-D. A pesquisadora Aline Miglioli recebeu para o debate a advogada, consultora, professora e pesquisadora em Direito e Tecnologia Bianca Kremer, e o cientista social Pablo Nunes.

Assista ao vídeo no player abaixo: 


 As câmeras de reconhecimento facial, propagandeadas como o mais novo equipamento tecnológico em prol da segurança pública, não são tão novas assim. Nem tão inteligentes. Na realidade, fazem uso de algoritmos treinados e construídos por pessoas brancas que passam a reconhecer o rosto branco como padrão. E o que vai contra esse padrão, sofre duras consequências que vão desde o desrespeito a direitos básicos de cidadão até a morte. Por isso, um movimento global se organiza pelo banimento desse tipo de tecnologia que exacerba o racismo estrutural de sociedades como a brasileira. Esse foi o tema central da mesa redonda. 

“Somos tratados como pessoas que são contra tecnologia”, disse Pablo Nunes. “Mas, pelo contrário, acho que falta tecnologia na área de segurança pública”, afirmou, lembrando que não existe, por exemplo, controle eletrônico de armas. “A tecnologia pode servir na melhora de uma segurança pública que proteja o cidadão e sem discriminação. Mas esse tipo de coisa (como as câmeras de reconhecimento facial) tem mais efeitos ruins que positivos”, avalia.

O cientista ressaltou que há quem defenda o uso da tecnologia, mesmo diante dos erros. “Mas a tecnologia tem de servir à sociedade e não a sociedade a ela. E os erros acometem pessoas bem conhecidas e que são atingidas não só pela tecnologia”, disse, mencionando chacinas, mortes de inocentes e de crianças negras. “São erros que se tem de aceitar? Não existe democracia com racismo. Banir o reconhecimento facial é obrigação de quem defende a democracia

Trauma para a população negra

Questionada sobre o papel da Lei Geral de Proteção de Dados (LGPD) na proteção das pessoas diante do uso dessas câmeras de reconhecimento facial, a advogada Bianca Kremer explicou que a LGPD não se aplica a questões relativas a segurança, para persecuções penais. “No entanto, deve sim ser aplicada na questão dos direitos individuais”, defendeu. “Já existe um anteprojeto nesse sentido (LGPD Penal). Temos de atender os princípios da não discriminação em um sistema”, afirmou, caracterizando como estado de barbárie o que está acontece no Brasil com a população negra. “O reconhecimento facial reforça essa persecução e o super encarceramento da população negra. Estamos vivendo um momento de muito tensionamento, Precisamos disputar politicamente esses debates em prol da defesa dos direitos humanos. Aparatos tecnológicos correm o risco de reforçar o racismo no sistema penal.”

O cientista social Pablo Nunes mencionou estudos que mostram como a população negra sofre com várias abordagens diárias muitas vezes violentas. A pesquisa Negro Trauma , por exemplo, fala sobre como essas abordagens levam sofrimento aos jovens negros que são mais de 70% dos abordados. “Esses reconhecimentos faciais produzem discriminação racial, efeitos profundamente deletérios para o Estado democrático de direito. Não são poucos os casos de pessoas que ficaram muitos anos presas injustamente por reconhecimento facial. No Brasil isso se soma a problemas de falta total de procedimentos padrões, equipamentos padrões. Um limbo jurídico e normativo em que está ocorrendo a operação desse sistema.” 

Leia o boletim "Monitorando a cidade inteligente: câmeras de vigilância, monitoramento inteligente e racismo tecnológico", abaixo. 

Nos links abaixo, leia e baixe todos os boletins publicados pelo front-D.

Parte 1

1 - O cuidado na agenda política, o cuidado em disputa

2 - Cidades Inteligentes: soluções e desafios para cidades menos desiguais

3 - Cultura e Tecnologia no Brasil recente

4 - Quando os agricultores são impulsionados pela internet na China

5 - A Amazônia entre a terra e as techs nas novas fronteiras digitais

6 - Economia política das tecnologias digitais no Ensino Superior

Parte 2

1 - O cuidado na era digital 

2 - Monitorando a Cidade Inteligente: câmeras de vigilância, monitoramento inteligentee racismo tecnológico 

3 - Tecnologias Digitais, Cultura e Pandemia: fronteiras e desigualdades 

4 - O estudo de caso das Vilas Taobao 

5. O ambiente entre as tecnologias digitais acionadas por governo e sociedade 

6 - Tecnologias digitais no ensino superior: desafios de uma sociedade desigual