Racismo digitalizado: como funciona o preconceito impresso nos algoritmos?

Livro de Tarcízio Silva investiga racismo presente em mecanismos que vão do reconhecimento facial à concessão de crédito

Pesquisador lança livro sobre o tema e debate desafios e soluções para o problema – ©Mitchell Luo / Unsplash

.

O pesquisador em tecnologia, sociedade e comunicação Tarcízio Silva acaba de lançar um livro em que investiga o racismo algorítmico nos mecanismos de inteligência artificial e as consequências do problema para o reforço de preconceitos e discriminações.

Com o título Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais, o livro propõe uma reflexão crítica sobre como são organizados sistemas que vão desde aplicativos de reconhecimento facial a filtros de fotos, passando até mesmo por modelos de concessão de crédito.

Segundo o pesquisador, a intenção é entender como as tecnologias digitais podem potencializar práticas racistas. “As plataformas que utilizam essas tecnologias dominam, basicamente, todas as esferas da nossa vida”, pontua.

Ouça a íntegra da entrevista com Tarcízio Silva, aqui.

.

Os racistas por trás das máquinas

Capa do livro Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais, de Tarcízio Silva / Divulgação

“Não que os algoritmos sejam racistas. A questão não é pensar que um sistema tem sua agência própria ou tem vontade própria. Mas sim o inverso, o algorítimo como qualificador do racismo. As práticas discriminatórios utilizam os algoritmos para intensificar a exploração em várias esferas diferentes.”

O pesquisador alerta para os riscos que essa dinâmica representa. “Pode infringir diversos direitos que envolvem minorias raciais, mas a população como um todo também”, afirma Tarcízio Silva.

Ele demonstra preocupação, por exemplo, com a automatização da moderação e da identificação de discursos de ódio. “Se os sistemas que fazem isso realizam decisões que excluem determinados grupos de uma forma mais intensa, isso é um grande problema para a democracia e para o futuro”.

Ainda de acordo com o autor, a raiz do problema está na própria sociedade. Segundo ele, “muito do que acontece é fruto de processos históricos. Um exemplo é o apagamento de determinados tipos de conhecimento. A própria ideia de ‘neutralidade da tecnologia’ favorece as grandes empresas que utilizam a tecnologia para ordenar o mundo do jeito que desejam”.

Na publicação, o pesquisador aponta possibilidades de reações possíveis para combater esse cenário. A regulação das empresas de tecnologia por parte dos governos e a participação popular no debate são passos essenciais.

O livro foi lançado em formato digital nas principais plataformas e apps de leitura e integra a Coleção Democracia Digital, iniciativa da Edições Sesc.

.

Por BDF