A inteligência artificial (IA) está cada vez mais presente em atividades do cotidiano, desde processos seletivos para vagas de emprego até análises de crédito, reconhecimento facial e recomendações em plataformas digitais. Na Paraíba, essa discussão ganha relevância diante do perfil demográfico do estado: pessoas pretas e pardas representam aproximadamente 63,5% da população, segundo o Censo 2022 do Instituto Brasileiro de Geografia e Estatística (IBGE).
Os dados do IBGE, compilados pela Superintendência do Desenvolvimento do Nordeste (Sudene), revelam que esse percentual corresponde a mais de 2,5 milhões de habitantes. Além disso, o Anuário Brasileiro de Segurança Pública 2025 aponta que o estado registrou 263 ocorrências de racismo e injúria racial em 2024.
No contexto do Dia Nacional de Zumbi e da Consciência Negra, celebrado na próxima sexta-feira, 20 de novembro, discutir o racismo algorítmico também significa reconhecer que as desigualdades raciais podem se manifestar em novos ambientes, por meio de ferramentas cada vez mais presentes na vida cotidiana. Compreender como esses sistemas funcionam é um passo importante para promover uma inovação tecnológica comprometida com a inclusão e a igualdade.
Embora as ferramentas de IA sejam frequentemente associadas à neutralidade e à eficiência, seus resultados podem reproduzir preconceitos e desigualdades presentes na sociedade. Esse fenômeno ficou conhecido como racismo algorítmico.
De acordo com Demetrius Amaral, professor de Ciências da Computação da Faculdade Internacional da Paraíba (FPB), integrante da Ânima Educação, o maior e mais inovador ecossistema de ensino de qualidade do Brasil, os sistemas de inteligência artificial são desenvolvidos por pessoas e treinados com grandes volumes de dados. “Diante desse cenário, podem reproduzir padrões discriminatórios quando as informações utilizadas não representam adequadamente a diversidade da população ou quando os critérios adotados durante o desenvolvimento da tecnologia carregam distorções”, explica.
Na prática, isso pode ocorrer quando um sistema de recrutamento utiliza critérios que desfavorecem determinados grupos raciais, quando uma ferramenta de reconhecimento facial apresenta resultados menos precisos para pessoas negras ou quando uma análise automatizada de crédito reproduz desigualdades históricas. O problema nem sempre decorre de uma programação explicitamente discriminatória, mas também pode estar relacionado à qualidade dos dados, às escolhas feitas durante o desenvolvimento e à ausência de avaliações capazes de identificar resultados desiguais.
“Os algoritmos aprendem a partir dos dados que recebem e dos critérios definidos por quem os desenvolve. Se essas informações não representam adequadamente a diversidade da população ou reproduzem desigualdades históricas, o sistema pode apresentar resultados que prejudicam determinados grupos, mesmo sem ter sido programado explicitamente para discriminar. Por isso, não basta avaliar se uma inteligência artificial funciona bem do ponto de vista técnico. É preciso verificar para quem ela funciona, se trata diferentes grupos de forma justa e quais impactos suas decisões podem gerar na sociedade”, acrescenta Demetrius.
Racismo algorítmico em pauta
O tema tem chamado a atenção de diferentes instituições brasileiras e também ganhou espaço na Justiça Federal com a 1ª Jornada da Justiça Federal pela Equidade Racial, realizada em dezembro de 2024, que aprovou 49 enunciados sobre o assunto. Eles têm caráter interpretativo e orientador: não criam novas leis, mas apresentam entendimentos aprovados no âmbito da Jornada para contribuir com a atuação jurídica e institucional.
Entre eles, três abordam diretamente a relação entre inteligência artificial e discriminação racial. O Enunciado 36 trata do uso de algoritmos na seleção de trabalhadores e recomenda a utilização de bases de dados representativas, critérios transparentes e testes de impacto para prevenir a discriminação por raça, cor da pele ou aparência física. O Enunciado 37 aponta que a discriminação algorítmica pode violar os princípios da igualdade e da dignidade humana ao reproduzir preconceitos sociais e estruturais. Já o Enunciado 42 reflete sobre a discriminação de pessoas negras em análises de crédito e na oferta de serviços financeiros. Em outubro de 2025, o 2º Curso Nacional sobre os Enunciados de Equidade Racial retomou essas orientações, promovendo a divulgação e discussão.
Tecnologia também exige responsabilidade
Para reduzir os riscos de discriminação, especialistas defendem a adoção de cuidados em diferentes etapas do desenvolvimento e da aplicação de sistemas automatizados. Entre as medidas estão a utilização de bases de dados representativas, a avaliação periódica dos resultados, a transparência dos critérios utilizados e a supervisão humana em decisões que possam afetar direitos e oportunidades.
A diversidade das equipes envolvidas na criação dessas ferramentas também é um fator importante, assim como a realização de testes que permitam identificar possíveis desigualdades entre diferentes grupos da população. “A tecnologia pode contribuir para ampliar o acesso a serviços e oportunidades, mas, para isso, precisa ser desenvolvida e utilizada com responsabilidade”, frisa Demetrius Amaral.
