Hoje celebra-se o Dia Mundial da Ciência pela Paz e pelo Desenvolvimento, que procura, segundo a ONU, promover “que os cidadãos sejam informados sobre os avanços científicos, criando sociedades mais sustentáveis, ao mesmo tempo que promovem a compreensão da fragilidade do planeta”. “.
Para sensibilizar para a importância da ciência, propusemos um debate com três professores da Universidade Europeia do Atlântico sobre a ética na inteligência artificial.
O tema analisado é essencial para antecipar e enfrentar os desafios que esta tecnologia coloca. É necessário envolver especialistas de diversas disciplinas, bem como a sociedade em geral, para encontrar soluções que promovam o desenvolvimento responsável e ético da IA, tendo sempre em conta o bem-estar e os valores fundamentais do ser humano.
Participantes do debate
Manuel Masías Vergara – Diretor da Escola Superior Politécnica
Pablo Oria – Profesor da Escola Superior Politécnica
Susana Pulgar – Profesora na Faculdade de Ciências da Saúde
Quais são os principais desafios éticos que a inteligência artificial enfrenta hoje, especialmente no campo da ciência?
Pablo Oria
O ser humano desenvolve valores éticos e direitos fundamentais. Enquanto não forem estabelecidos princípios sólidos no desenvolvimento e programação destas aplicações, a ética na ciência não estará garantida.
Susana Pulgar
Os principais desafios que a IA enfrenta, especialmente no campo da ciência e da pesquisa, seriam os vieses que podem ser causados pelos dados herdados dos algoritmos utilizados e pela responsabilidade ou tomada de decisão. Isto seria um problema se a IA pudesse tomar decisões em áreas como a medicina. Quem seria então responsável em caso de erro?
Qual a sua opinião sobre as implicações éticas do uso de algoritmos de inteligência artificial na tomada de decisões em pesquisas científicas?
Pablo Oria
Uma aplicação informática, hoje, não pode substituir o poder do raciocínio aliado à ética na tomada de decisões. A tomada de decisão envolve fatores intrínsecos e externos.
Susana Pulgar
A utilização de algoritmos de IA na investigação científica oferece vantagens e desafios éticos. Para abordar estas implicações éticas, é importante estabelecer padrões éticos, promover a transparência e a responsabilização e garantir que os investigadores estejam conscientes das questões éticas relacionadas com a utilização da IA no seu trabalho. A ética deve ser um componente integrante da investigação científica para garantir que os avanços tecnológicos sejam utilizados de forma responsável e benéfica para a sociedade.
Como você acha que a inteligência artificial pode afetar a privacidade e a segurança dos indivíduos no campo científico?
Manuel Masías
Em ambas as direções: positivamente, permitindo detectar e antecipar ataques e vulnerabilidades, ofuscar informações; mas também aproveitando a capacidade de análise inerente a esta tecnologia, para comprometer a privacidade dos dados e dos armazenamentos de dados. É essencial que os investigadores, os criadores de IA e os decisores sociais trabalhem em conjunto para estabelecer regulamentos e práticas que protejam a privacidade e a segurança dos indivíduos.
Pablo Oria
A IA pode expor os usuários à violação de suas informações e pesquisas. Isto pode traduzir-se em vários problemas, por exemplo, espionagem científica e industrial.
Susana Pulgar
Muitas vezes, os indivíduos que contribuem com dados não estão totalmente informados sobre como estes serão utilizados, levantando questões de consentimento informado. Esta falta de transparência pode comprometer a privacidade dos participantes em estudos científicos.
Que considerações éticas devem ser tidas em conta ao desenvolver e utilizar sistemas de inteligência artificial na educação científica?
Manuel Masías
Ao desenvolver e utilizar sistemas de inteligência artificial (IA) no ensino das ciências, é crucial ter em conta uma série de considerações éticas. Estas considerações decorrem não só dos desafios gerais da IA, mas também das especificidades do contexto educativo. As decisões éticas devem ser tomadas e cuidadosamente avaliadas por todos os intervenientes envolvidos, incluindo criadores, educadores, estudantes e decisores políticos educativos.
Pablo Oria
É difícil resolver todas as considerações éticas, mas podemos olhar para algumas delas, como igualdade, segurança, privacidade, etc.
Susana Pulgar
rPenso que o principal problema em relação à educação e à IA é o fato de a IA ser capaz de automatizar determinadas tarefas, pelo que é essencial que a educação científica continue a promover o desenvolvimento de competências críticas nos estudantes, como o pensamento crítico e a resolução de problemas.. Além disso, devemos ter em mente que nem todos os estudantes têm o mesmo acesso à tecnologia, pelo que a utilização da IA na educação deve ser implementada de uma forma que não amplie as lacunas existentes no acesso à educação.
Qual a importância da diversidade de género nas equipas de investigação científica que desenvolvem tecnologias de inteligência artificial?
Pablo Oria
A diversidade de género é vital para promover a igualdade, uma consideração ética essencial no desenvolvimento da IA. Caminhamos para uma sociedade igualitária, razão pela qual este factor é muito importante.
Susana Pulgar
A diversidade de género nas equipes de investigação científica que desenvolvem tecnologias de IA é essencial para enfrentar os desafios éticos e técnicos de forma mais completa e equitativa, para garantir que a tecnologia seja mais inclusiva e para inspirar as futuras gerações de mulheres cientistas e engenheiras. Reconhecer e valorizar a diversidade na investigação em IA é fundamental para impulsionar avanços tecnológicos e éticos significativos.
Quais são os potenciais impactos positivos e negativos da inteligência artificial na promoção da paz e do desenvolvimento sustentável na sua área específica?
Manuel Masías
Como qualquer ferramenta, o uso que lhe damos determinará o impacto: estes (e também outros valores) tornam-se vantagens quando são desenvolvidos num ambiente com acesso ao conhecimento e à informação, com o conhecimento das vantagens oferecidas pelo seu exercício, a possibilidade fazê-lo e a vontade de fazê-lo.
Pablo Oria
Uma boa programação de valores éticos apropriados, promovendo a igualdade, a paz e a sustentabilidade, pode levar-nos a um modelo mais justo. No caso da agricultura e pecuária, o uso da água de forma sustentável e equitativa, por exemplo, seria um eixo fundamental para alcançar um efeito positivo com a I.A. Como efeitos negativos, teríamos esta IA contribuindo para a manutenção desta desigualdade que existe hoje.
Susana Pulgar
A inteligência artificial tem potencial para gerar melhorias significativas na promoção da paz e do desenvolvimento sustentável na Atividade Física e nas Ciências do Esporte, melhorando o desempenho, prevenindo lesões e adaptando o exercício físico de forma personalizada. No entanto, é imperativo gerir com responsabilidade a incorporação da IA para mitigar possíveis efeitos negativos, como a privacidade dos dados, a dependência tecnológica excessiva que pode levar ao abandono das competências e conhecimentos tradicionais, bem como o risco de automatização excessiva que poderia reduzir a importância da intuição, das emoções e da interação social na experiência esportiva.