Racismo Algorítmico: Quando a Inteligência Artificial Reproduz Discriminações Raciais

A inteligência artificial está cada vez mais presente em nossas vidas. Ela sugere conteúdos nas redes sociais, seleciona currículos para vagas de emprego, auxilia bancos na concessão de crédito e até contribui para decisões em áreas sensíveis da sociedade. Mas existe uma pergunta importante que precisa ser feita: a tecnologia é realmente imparcial?

A resposta é simples: nem sempre.

Embora muitas pessoas acreditem que computadores e algoritmos tomam decisões de forma neutra, a realidade é que a inteligência artificial aprende a partir de dados produzidos por seres humanos. E, quando esses dados carregam preconceitos históricos ou desigualdades sociais, o resultado pode ser a reprodução — e até a ampliação — dessas injustiças.

É nesse contexto que surge o chamado racismo algorítmico.

O racismo algorítmico ocorre quando sistemas automatizados produzem resultados discriminatórios contra pessoas negras ou grupos racialmente vulneráveis. Isso pode acontecer de diversas formas: desde softwares de reconhecimento facial que apresentam maior índice de erros na identificação de pessoas negras até sistemas de recrutamento que favorecem determinados perfis em detrimento de outros.

Um dos casos mais conhecidos ocorreu com tecnologias de reconhecimento facial utilizadas em diversos países. Estudos demonstraram que alguns sistemas apresentavam taxas de erro significativamente maiores ao analisar rostos de pessoas negras, especialmente mulheres negras. Na prática, isso significa que uma ferramenta criada para aumentar a segurança pode acabar gerando constrangimentos, abordagens indevidas e até acusações injustas.

O problema não está necessariamente na máquina, mas nos dados utilizados para treiná-la. Se uma inteligência artificial aprende a partir de informações que refletem décadas de desigualdade, ela tende a reproduzir os mesmos padrões.

Por isso, o debate sobre racismo algorítmico não é apenas tecnológico. Trata-se de uma questão de direitos fundamentais, igualdade e dignidade da pessoa humana.

No Brasil, embora ainda não exista uma legislação específica e consolidada sobre o tema, a Constituição Federal já assegura o direito à igualdade e repudia qualquer forma de discriminação racial. Além disso, a Lei nº 7.716/1989 criminaliza práticas resultantes de preconceito de raça ou cor, enquanto a Lei Geral de Proteção de Dados (LGPD) estabelece princípios relacionados à transparência e ao tratamento adequado de informações pessoais.

Empresas e órgãos públicos que utilizam sistemas automatizados devem estar atentos à necessidade de auditorias, testes de imparcialidade e mecanismos de controle capazes de identificar possíveis vieses discriminatórios. Afinal, a inovação tecnológica não pode servir como justificativa para perpetuar desigualdades históricas.

A inteligência artificial é uma ferramenta poderosa e pode trazer inúmeros benefícios para a sociedade. Contudo, tecnologia sem responsabilidade pode transformar antigos preconceitos em decisões automatizadas, rápidas e aparentemente invisíveis.

O combate ao racismo algorítmico exige vigilância, transparência e compromisso ético. Afinal, o futuro não será mais justo apenas porque é digital. Ele será justo apenas se as pessoas que desenvolvem e utilizam a tecnologia fizerem da igualdade uma prioridade.

Alisson Silva Garcia

Advogado | Mestre em Ciências Criminológico-Forenses

Especialista em Direito Penal, Família e Sucessões