El desafío clave de la actualidad es regular la Inteligencia Artificial (IA), basándose en un intercambio de conocimientos y mejores prácticas derivadas de diversas jurisdicciones a nivel mundial.
Gracias a su enfoque único sobre bioética, la UNESCO ha liderado los esfuerzos internacionales para asegurar que la ciencia y la tecnología se desarrollen dentro de un marco ético. Durante décadas, ha establecido normas universales en temas como la investigación genética, el cambio climático y la investigación científica, con el objetivo de maximizar los beneficios y minimizar los riesgos.
En respuesta al rápido avance de la IA, la UNESCO reconoce que, si bien esta tecnología presenta oportunidades globales en sectores como la salud, la conectividad humana y la eficiencia laboral, también plantea dilemas éticos profundos. Existe la preocupación de que los sistemas de IA puedan reproducir prejuicios, contribuir al deterioro del clima y amenazar los derechos humanos. Estos riesgos vinculados a la IA se añaden a las desigualdades ya existentes, dañando aún más a los grupos marginados históricamente.
Por lo tanto, la UNESCO ha establecido cuatro valores fundamentales para guiar el desarrollo y uso de la IA: respeto a los derechos humanos y la dignidad humana, promoción de sociedades pacíficas e interconectadas, garantía de la diversidad e inclusión, y promoción del florecimiento del medio ambiente y los ecosistemas.
Un enfoque de la IA basado en los derechos humanos
Para poner en práctica estos valores, la UNESCO ha establecido principios básicos que se centran en los derechos humanos. Estos son algunos de los principios:
- Uso proporcional y seguro de la IA. El uso de sistemas IA debe limitarse a lo estrictamente necesario para lograr un objetivo legítimo. Debe usarse la evaluación de riesgos para prevenir cualquier daño potencial que pudiera surgir de su uso indebido.
- Protección de la privacidad y los datos. Se debe evitar y considerar tanto los posibles daños no deseados (riesgos de seguridad) como las vulnerabilidades a los ataques (riesgos de protección).
- Derecho a la intimidad y protección de datos. Es importante mantener y fomentar la privacidad en todas las etapas de desarrollo y aplicación de la IA. También establecer marcos adecuados de protección de datos.
- Gobernanza y colaboración. Al utilizar datos, es clave respetar tanto el derecho internacional como la soberanía nacional. Es necesario contar con la participación de diversos actores en todas las etapas del ciclo de vida de la IA para desarrollar enfoques de gobernanza inclusivos.
- Responsabilidad y rendición de cuentas. Es esencial que los sistemas de IA sean auditables y rastreables. Deben existir mecanismos de supervisión, evaluación de impacto, auditorías y diligencia para evitar conflictos con las normas de derechos humanos y evitar amenazas al medio ambiente.
- Transparencia y explicabilidad. El despliegue ético de los sistemas de IA se basa en su nivel de transparencia y explicabilidad (T&E). Pero, el nivel de T&E debe adecuarse al contexto, dado a que pueden haber tensiones entre T&E y otros principios como la privacidad, la seguridad y la protección.
- Equidad y no discriminaicón. Los actores de la IA deben promover la justicia social, resguardar la equidad y luchar contra la discriminación, adoptando un enfoque inclusico para asegurar que los beneficios de la IA sean accesibles para todos.
En resumen, la UNESCO desempeña un papel clave en liderar los esfuerzos internacionales para desarrollar la ciencia y la tecnología de manera ética, estableciendo normas universales y valores fundamentales en relación con la inteligencia artificial y promoviendo políticas viables para su evolución responsable.
Continúa con tu formación profesional
En el actual y siempre cambiante panorama digital, existe una creciente demanda de personas que posean un profundo conocimiento en análisis de datos y su impacto potencial en los negocios. En FUNIBER, creemos firmemente que los datos son la llave para desbloquear oportunidades empresariales extraordinarias y promover un crecimiento sostenible. Por eso te invitamos a explorar nuestro programa de Maestría en Ciencia de Datos aplicada a la Inteligencia de Negocios.
Nuestro programa brinda a los estudiantes un conocimiento integral, habilidades prácticas y técnicas de vanguardia indispensables para manejar, analizar e interpretar datos de manera efectiva. Únete a nosotros en este increíble viaje de descubrimiento donde no solo te convertirás en un experto en ciencia de datos aplicada, sino que también contribuirás de manera significativa a abordar los enormes desafíos y oportunidades que se nos presentan.