Um grupo de cientistas afirma que a Inteligência Artificial (IA) pode apresentar novos riscos para a sociedade.
A revista Science publicou um artigo em que vários cientistas de vários centros de pesquisa e universidades internacionais alertaram sobre as consequências e os riscos do avanço da Inteligência Artificial (IA).
Até agora, a IA foi testada em situações que vão desde o diagnóstico médico até a navegação autônoma do carro. No entanto, os pesquisadores apontaram as consequências que isso acarreta, pois, sendo cenários de “alto risco”, as margens de erro são escassas e qualquer falha pode ser fatal.
O curioso do caso é que a publicação deste artigo coincidiu com a carta aberta de 5.500 especialistas publicada quinze dias antes. Nele, eles defenderam a pausa de experimentos com IA “generativa”. Este é o mais avançado e poderoso, capaz de criar textos ou imagens a partir de dados.
Por outro lado, entre as instituições de onde vêm os cientistas, destacam-se as universidades de Cambridge, Harvard, Stanford, Shandong (China), Valencia Polytechnic, Imperial College London e Massachusetts Institute of Technology (MIT). Além disso, empresas como Google ou DeepMind.
Para os cientistas, é imperativo que as publicações relacionadas incluam todos os dados vitais para entender e corrigir quaisquer erros que possam levar a falhas. A comunidade científica deve ter esses dados disponíveis para minimizar a reprodução dos mesmos erros.
Por que parar a IA é complicado?
Segundo o cientista e professor do Instituto Valenciano de Pesquisa em Inteligência Artificial, deter a IA “é uma tarefa muito difícil, senão impossível”. Além disso, destaca o envolvimento da indústria, academia e sociedade na pesquisa e desenvolvimento dessa tecnologia, algo que se torna complicado, pois cada um tem seus interesses, por vezes, contrários.
Por outro lado, o pesquisador enfatizou que essas tecnologias “são capazes de criar obras de arte e textos impressionantes, mas também apresentam novos riscos para a sociedade: a criação de conteúdos falsos, enganosos ou mesmo perigosos, como notícias falsas, conteúdos ofensiva, discriminatória e ilegal”.
A FUNIBER promove estudos na área de tecnologia. Conheça alguns programas da área:
- Mestrado em Direção Estratégica em Telecomunicações
- Mestrado em Direção Estratégica em Tecnologias da Informação
- Mestrado em Direção Estratégica em Engenharia de Software
Foto: Todos os direitos reservados.