Os dispositivos e aplicativos de inteligência artificial podem replicar desigualdades e discriminação que percebemos na sociedade off-line, porém de maneira invisível e mais complexa.
De acordo com um comunicado do International Telecommunication Union, divulgado no final de 2021, a nível mundial, as pessoas que vivem em zonas urbanas têm o dobro de probabilidade de utilizar a Internet do que as que vivem em zonas rurais. Em relação ao gênero, 62% dos homens usam a Internet em todo o mundo, 5 pontos percentuais acima das mulheres (57%).
Se comparamos com as regiões no planeta, encontramos mais disparidades. Na África, somente 22% da população utiliza a Internet, enquanto que na Europa, este número chega a 80%.
Estas desigualdades no acesso à internet podem afetar um aspecto relevante para o conhecimento que se produz e se consume em todo o mundo: a inteligência artificial. Segundo um estudo recentemente publicado pelo Instituto de Direitos Humanos, podemos analisar alguns riscos e benefícios da inteligência artificial para a igualdade e a não discriminação, a partir de dados, fórmulas e algoritmos.
Neste estudo, eles apontam quatro perspectivas para analisar estas questões: onde se está criando a inteligência artificial, quem são os donos das empresas que desenvolvem essa tecnologia, para que finalidade e como se está construindo este novo conhecimento.
A conclusão do estudo destaca os desafios para evitar discriminação de pessoas na inteligência artificial, já que muitas vezes estas se percebem invisíveis para grandes setores sociais, com uma forma complexa devidos às fórmulas matemáticas.
Uma das alternativas é oferecer informação de todos os tipos de dados usados no machine learning que as empresas utilizam para criar os sistemas e aplicativos, assim como ocorrem em alimentos industrializados através das etiquetas nutricionais.
Também é importante incluir debates sobre princípios de igualdade e não discriminação entre os profissionais que estão vinculados com os processos de inteligência artificial, além de uma formação social mais ampla sobre o tema.
O estudo busca dar visibilidade às formas de discriminação e desigualdade que se encontram no mundo de forma online, assim como ocorrem também fora do universo digital.
Conheça alguns programas promovidos pela FUNIBER no âmbito da tecnologia:
- Mestrado em Educação com especialidade em TIC na Educação
- Especialização em Inovação e Tecnologia Educacional
- Mestrado em Direção Estratégica em Tecnologias da Informação
- Mestrado em Direção Estratégica em Engenharia de Software
- Mestrado em Transformação Digital
Fonte: Cuatro ángulos de análisis de la igualdad y la no discriminación en la inteligencia artificial
Foto: Todos os direitos reservados