Por Erica Rodrigues de Oliveira e Renato Oliveira – Consultores da Diversifica em parceria com Intel BrasilJá imaginou tentar fazer uma transação bancária e não conseguir pela falta de reconhecimento do seu rosto pelo aplicativo? Pois é, o caso ocorreu com um homem negro, que após inúmeras tentativas, apontou o celular para a imagem do ator branco Chris Hemsworth, buscada na internet, e foi instantaneamente reconhecida. A diferença entre ambos? A pele.Joy, pesquisadora negra do MIT (Massachussets Institute of Technology) também foi alvo do racismo algorítmico em um software de reconhecimento facial que era incapaz de captar a imagem do seu rosto. Para sua surpresa, ao utilizar uma máscara branca foi prontamente reconhecida pelo sistema. A invisibilização da pesquisadora se deu por não haver codificação em consonância à diversidade de estrutura facial e tons de pele negros.Envoltos em um mundo altamente conectado em que todas as atividades do nosso cotidiano passaram a ser simplificadas pelo uso das tecnologias digitais, precisamos refletir e entender os impactos de sua utilização para além das inovações, praticidades e comodidades proporcionadas por elas. A verdade é que as tecnologias digitais são baseadas em um conjunto de algoritmos que conduzem a um resultado final, sendo eles: o direcionamento de anúncios, a geração de um relatório; a elaboração de gráfico; a transformação de uma fotografia em desenho; a composição de uma sinfonia ou, em um temeroso cenário, a perpetuação de preconceitos.Tarcízio Silva chama a atenção para o racismo algorítmico, que se manifesta através de uma ordenação algorítmica racializada de classificação social, que reproduz violências e limita recursos nos meios tecnológicos à população negra em decorrência da supremacia branca existente desde o colonialismo. Bianca Kremer reforça que esta modalidade de racismo não se apresenta apenas como uma falha operacional, mas como parte do design.Dado este contexto, a falta de representatividade de pessoas negras nas equipes de tecnologia contribuem para que o racismo algorítmico ocorra. Enquanto 56% da população brasileira é negra, apenas 36% dos formandos em cursos STEM são pessoas negras (STEM — acrônimo, em inglês, para Ciência, Tecnologia, Engenharia e Matemática). Então, estamos formando poucas pessoas negras (e principalmente mulheres negras) em tecnologia.Veja mais: O que o ambiente organizacional tem a ver com antirracismo?Neste cenário, é necessário entender que a falta de representatividade em empresas de tecnologia é potencializadora do avanço do racismo algorítmico. Isso se dá pelo fato dos algoritmos precisarem ser treinados. Assim, se as equipes que desenvolvem este tipo de tecnologia não são diversas, há uma grande probabilidade de que os dados utilizados para treinar os modelos sejam tendenciosos, refletindo visões e preconceitos sobre aqueles grupos que estão sub-representados.A realidade apresentada é demonstrada em alguns casos como o COMPAS (Correctional Offender Management Profiling for Alternative Sanctions ) em que o sistema, por meio de algoritmos matemáticos determinavam o grau de periculosidade de infratores. Seu objetivo era apurar o índice de reincidência criminal e alcançar decisões mais “justas” para a população carcerária, entretanto, apurou-se que pessoas negras recebiam pontuações de periculosidade superiores a de pessoas brancas.Educação, Diversidade e InclusãoNo início deste mês de novembro, a Academia Brasileira de Ciências (ABC) lançou um conjunto de recomendações para o avanço da Inteligência Artificial (IA) no Brasil. Dentre as recomendações destaca-se a necessidade de investir em educação, pois faltam recursos humanos para avançar nas tecnologias de IA. Temos formado poucas pessoas na área de computação, com baixa diversidade, e muitos bons profissionais se formam e vão trabalhar no exterior.Em meio a falta de diversidade no mercado de TI brasileiro, fica cada vez mais evidente que ainda temos um longo caminho a percorrer para que, as oportunidades sejam para todos.Fonte: Getty ImagesPara formar mais profissionais, é fundamental ensinar e formar jovens que entendam problemas relevantes e inovadores da IA e que possam contribuir para o desenvolvimento de soluções nacionais.O Brasil é um grande consumidor de tecnologia, mas precisamos também produzir.Para além, carecemos da incorporação de valores éticos no design tecnológico para que marginalizações sociais não sejam potencializadas pelos meios digitais. Em busca desse cenários, empresas de tecnologia podem fomentar a formação de profissionais diversos por meio de parcerias com escolas públicas, por exemplo. Dessas escolas podem sair pessoas interessadas em seguir carreira na área.Leia também: A resiliência dos empreendedores negros no mundo techNós falamos da necessidade de ter empresas mais diversas pelo respeito às pessoas, pelo avanço da sociedade e também pelos resultados das organizações. Há várias pesquisas que mostram que equipes diversas geram mais lucro, são mais inovadoras e trazem soluções mais criativas.Não ter diversidade pesa no bolso, porque perde-se em criatividade, inovação e desenvolvimento de sistemas que não consideram uma grande parcela da população. Além disso, uma empresa diversa e inclusiva é superior em todos os indicadores de negócio. Quem se importa, lucra!Guimarães Rosa já dizia: “o que a vida quer da gente é coragem!” Então, sigamos nos incomodando, resistindo e ocupando. Inquietados pela falta da diversidade e movidos pela coragem de fazer diferença nos espaços onde alcançamos.***Erica de Oliveira é educadora no Centro Universitário UNA com formação em computação (graduação pela PUC Minas e mestrado pela UFMG). Também é coordenadora do time de UX e Requisitos da Enacom. Desde 2015 vem desenvolvendo ações para aumentar a participação feminina na computação, por acreditar que a computação é mais que programação, é criatividade, é para pessoas que querem contribuir com um mundo melhor, por meio da tecnologia. Fundadora do grupo TecnoGirls, da UNA, que visa fortalecer as estudantes dos cursos de tecnologia.Renato Oliveira Júnior é advogado, Especialista em Direito Digital. Mestrando em Ciência, Tecnologia e Trabalho, investiga o Racismo Algorítimico em sua dissertação. Consultor de Proteção de Dados Pessoais, Pesquisador no Privacy Lab pelo Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP), Liderança do Grupo de Estudos em Diversidade e Inclusão nos Ambientes Jurídicos e Empresariais pela PUC-MG.
