Racismo digitalizado: porquê funciona o preconceito impresso

O pesquisador em tecnologia, sociedade e notícia Tarcízio Silva acaba de lançar um livro em que investiga o racismo algorítmico nos mecanismos de perceptibilidade sintético e as consequências do problema para o reforço de preconceitos e discriminações.

Com o título Racismo Algorítmico: Lucidez Sintético e Discriminação nas Redes Digitais, o livro propõe uma reflexão sátira sobre porquê são organizados sistemas que vão desde aplicativos de reconhecimento facial a filtros de fotos, passando até mesmo por modelos de licença de crédito.

Segundo o pesquisador, a intenção é entender porquê as tecnologias digitais podem potencializar práticas racistas. “As plataformas que utilizam essas tecnologias dominam, basicamente, todas as esferas da nossa vida”, pontua.

Ouça a íntegra da entrevista com Tarcízio Silva no tocador de áudio aquém do título desta material. 

:: BdF explica por que o antirracismo é único caminho para desenvolvimento pleno do Brasil ::

Toga do livro Racismo Algorítmico: Lucidez Sintético e Discriminação nas Redes Digitais, de Tarcízio Silva / Divulgação

Os racistas por trás das máquinas

“Não que os algoritmos sejam racistas. A questão não é pensar que um sistema tem sua escritório própria ou tem vontade própria. Mas sim o inverso, o algorítimo porquê qualificador do racismo. As práticas discriminatórios utilizam os algoritmos para intensificar a exploração em várias esferas diferentes.”

O pesquisador alerta para os riscos que essa dinâmica representa. “Pode infringir diversos direitos que envolvem minorias raciais, mas a população porquê um todo também”, afirma Tarcízio Silva.

Ele demonstra preocupação, por exemplo, com a automatização da moderação e da identificação de discursos de ódio. “Se os sistemas que fazem isso realizam decisões que excluem determinados grupos de uma forma mais intensa, isso é um grande problema para a democracia e para o horizonte”. 

Ainda de conciliação com o responsável, a raiz do problema está na própria sociedade. Segundo ele, “muito do que acontece é fruto de processos históricos. Um exemplo é o apagamento de determinados tipos de conhecimento. A própria teoria de ‘neutralidade da tecnologia’ favorece as grandes empresas que utilizam a tecnologia para ordenar o mundo do jeito que desejam”.

Na publicação, o pesquisador aponta possibilidades de reações possíveis para combater esse cenário. A regulação das empresas de tecnologia por troço dos governos e a participação popular no debate são passos essenciais.  

O livro foi lançado em formato do dedo nas principais plataformas e apps de leitura e integra a Coleção Democracia Do dedo, iniciativa da Edições Sesc.

Edição: Rodrigo Durão Coelho