Racismo algorítmico é um fenômeno em que sistemas de inteligência artificial (IA) reproduzem ou ampliam preconceitos raciais presentes nos dados usados para seu desenvolvimento. Essa questão tem ganhado destaque com investigações que mostram como algoritmos podem reforçar discriminações e desigualdades sociais.

A discussão ganhou força no Brasil a partir do caso conhecido como Smart Sampa, que revelou como tecnologias aplicadas em cidades inteligentes podem apresentar vieses raciais. Esses sistemas costumam basear suas análises em grandes volumes de dados históricos, que frequentemente refletem desigualdades presentes na sociedade. Assim, quando algoritmos são treinados sem mecanismos para identificar e corrigir esses vieses, eles acabam perpetuando a discriminação.

Especialistas em ética em tecnologia apontam que o racismo algorítmico é resultado da ausência de diversidade nas equipes que desenvolvem essas soluções e da falta de políticas regulatórias específicas para a área. Segundo estudos, a IA pode assumir decisões em áreas sensíveis como segurança pública, crédito financeiro e recrutamento profissional, potencializando as desigualdades raciais.

Entre as atitudes recomendadas estão a implementação de auditorias regulares nos algoritmos, o aumento da diversidade nas equipes de dados e desenvolvimento e o fortalecimento de legislações para fiscalização do uso de IA. Organizações internacionais e governos já iniciaram debates para a criação de diretrizes que evitem que tecnologias discriminem grupos raciais.

O caso Smart Sampa chamou atenção para a necessidade urgente de transparência no desenvolvimento de tecnologias e para a importância de políticas públicas que garantam a justiça algorítmica. Assim, o combate ao racismo algorítmico requer cooperação entre o setor privado, o poder público e a sociedade civil para assegurar que a tecnologia seja usada de maneira ética e inclusiva.