O principal desafio atual é regulamentar a Inteligência Artificial (IA), com base no compartilhamento de conhecimento e nas práticas recomendadas derivadas de várias jurisdições em todo o mundo.
Por meio de sua abordagem exclusiva à bioética, a UNESCO tem liderado esforços internacionais para garantir que a ciência e a tecnologia se desenvolvam dentro de uma estrutura ética. Durante décadas, ela estabeleceu padrões universais sobre questões como pesquisa genética, mudança climática e pesquisa científica, com o objetivo de maximizar os benefícios e minimizar os riscos.
Em resposta ao rápido avanço da IA, a UNESCO reconhece que, embora essa tecnologia apresente oportunidades globais em setores como saúde, conectividade humana e eficiência do trabalho, ela também apresenta profundos dilemas éticos. Há preocupações de que os sistemas de IA possam reproduzir preconceitos, contribuir para as mudanças climáticas e ameaçar os direitos humanos. Esses riscos relacionados à IA aumentam as desigualdades existentes, prejudicando ainda mais os grupos historicamente marginalizados.
Portanto, a UNESCO estabeleceu quatro valores fundamentais para orientar o desenvolvimento e o uso da IA: respeitar os direitos humanos e a dignidade humana, promover sociedades pacíficas e interconectadas, garantir a diversidade e a inclusão e promover um ambiente e ecossistemas prósperos.
Uma abordagem da IA baseada nos direitos humanos
Para colocar esses valores em prática, a UNESCO estabeleceu princípios básicos que se concentram nos direitos humanos. Estes são alguns dos princípios:
- Uso proporcional e seguro da IA. O uso de sistemas de IA deve se limitar ao que é estritamente necessário para atingir um objetivo legítimo. A avaliação de risco deve ser usada para evitar qualquer dano potencial decorrente de seu uso indevido.
- Privacidade e proteção de dados. Tanto os possíveis danos não intencionais (riscos de segurança) quanto as vulnerabilidades a ataques (riscos de proteção) devem ser evitados e considerados.
- Direito à privacidade e proteção de dados. É importante manter e promover a privacidade em todos os estágios de desenvolvimento e implementação da IA. Também para estabelecer estruturas adequadas de proteção de dados.
- Governança e colaboração. Ao usar dados, é fundamental respeitar tanto a lei internacional quanto a soberania nacional. É necessário envolver diversas partes interessadas em todos os estágios do ciclo de vida da IA para desenvolver abordagens de governança inclusivas.
- Responsabilidade e prestação de contas. É essencial que os sistemas de IA sejam auditáveis e rastreáveis. Monitoramento, avaliação de impacto, auditorias e mecanismos de due diligence devem ser implementados para evitar conflitos com os padrões de direitos humanos e prevenir ameaças ao meio ambiente.
- Transparência e explicabilidade. A implementação ética dos sistemas de IA baseia-se em seu nível de transparência e explicabilidade (T&E). Mas o nível de T&E deve ser adequado ao contexto, pois pode haver tensões entre T&E e outros princípios, como privacidade, segurança e proteção.
- Equidade e não discriminação. Os atores da IA devem promover a justiça social, salvaguardar a equidade e combater a discriminação, adotando uma abordagem inclusiva para garantir que os benefícios da IA sejam acessíveis a todos.
A UNESCO desempenha um papel fundamental na liderança dos esforços internacionais para desenvolver a ciência e a tecnologia de maneira ética, estabelecendo normas universais e valores fundamentais em relação à inteligência artificial e promovendo políticas viáveis para sua evolução responsável.
Continue com sua formação profissional
No atual cenário digital em constante mudança, há uma demanda crescente por pessoas com um profundo entendimento da análise de dados e seu possível impacto nos negócios. Na FUNIBER acreditamos firmemente que os dados são a chave para desbloquear oportunidades de negócios extraordinárias e promover o crescimento sustentável. Por isso, convidamos você a explorar nosso Mestrado em Ciência de Dados aplicada à Inteligência Empresarial.
Nosso programa oferece aos alunos o conhecimento abrangente, as habilidades práticas e as técnicas de ponta necessárias para gerenciar, analisar e interpretar dados com eficiência. Junte-se a nós nesta incrível jornada de descobertas, na qual você não apenas se tornará um especialista em ciência de dados aplicada, mas também fará uma contribuição significativa para enfrentar os enormes desafios e oportunidades que estão por vir.