🔬 Research summary by Connor Wright, our Partnerships Manager.
[Original work by Juan Carlos Muñoz e Idoia Salazar]
NOTE: This is a special piece since it is our first in Spanish! Feedback is appreciated!
Introduction
Este podcast liderado por Juan Carlos Muñoz presenta la carrera de Idoia Salazar. Es la cofundadora de un observatorio sobre el impacto ético de la intelgencia artificial (OdiseIA) y su rol como profesora en la Universidad CEU San Pablo, entre más puestos impresionantes. Con respecto a la visión ética de OdiseIA es ser muy realista, reaccionando a cómo actúan las empresas y las personas dentro del estudio de la IA. De ahí, el podcast cubre lo que significa ser un eticista de la IA, los sesgos algorítmicos y la importancia de la educación antes de presentar la situación actual de España en cuanto a la IA. Para terminar, concluye que lo que resulta lo más pertinente es que la tecnología no es peligrosa en sí, sino es nuestra manera de usarla que cuenta.
Key Insights
Lo que significa ser un eticista de la IA
A veces, el mundo tecnológico aparece inasequible e intelligible. Sin embargo, Salazar revela que no es así. No hace falta que dispongas de un grado universitario para participar, ni un acercamiento profundo del tema. En cuanto a los profesionales, sí que es necesario gozar de una base filosófica y legal al lado de conocimiento tecnológico para mejor controlar los problemas que surgen dentro del estudio. Es decir, una eticista debe presentar un perfil generalista en vez de especialista.
Ante este panorama, se halla el núcleo del escenario de la IA. El peligro no está en la tecnología en sí, sino en la manera por la que usamos como seres humanos.
Los sesgos algorítmicos
Los sesgos algorítmicos dejan el problema de la influencia del ser humano lo más patente. Los sesgos forman parte de nuestro ser; nuestro contexto, nuestras experiencias y nuestras preferencias nos condicionan de forma inconsciente. Por ejemplo, en términos del modelo, los data scientist pueden influir a las conclusiones de su investigación a través de elegir el sistema que ellos piensan que encaja lo mejor. Esta decisión, sea consciente o no, está dirigida por nuestras preferencias.
Para mitigar las consecuencias de esta realidad, Salazar nos guía hacia la ley. Iniciativas como poniendo multas altas para si las empresas no cumplen con la legislación son unas de las maneras más prominentes de legislar contra los problemas éticos. A través de esta estrategia, preparamos la escena legislativa para mejor responder a las situaciones que provoca la tecnología. Esto informó la decisión de Amazon en 2021 de retrasar el inicio del uso de su tecnología de reconocimiento de cara por la policía otra vez.
Para realizar dicha legislación, es menester que eduquemos tanto a los políticos como al público.
La educación
Dicha educación no centra solamente en los técnicos programáticos, sino también en las cuestiones sobre la aplicación de la IA. Por ejemplo, señalaremos que el lenguaje como ‘el algoritmo dice’, ‘el algoritmo resuelve’ pinta una imagen imaginaria de la IA. El algoritmo es software de ayuda a los seres humanos. Es decir, la tecnología está aquí para ayudarnos y no reemplazarnos. Por ejemplo, vemos que los coches autónomos facilitan el aumento de movilidad para la gente discapacitada y los ciegos. Guiado por esta visión, somos capaces de desarrollar perfiles adaptables a un mundo constantemente evolucionando.
Con este pensamiento en la mente, Salazar guarda muchas aspiraciones para el futuro de España en el entorno tecnológico.
España
Salazar comenta que hay fondos destinados a realizar una inversión en las empresas tecnológicas españolas que significan que el país va a conseguir una posición fuerte en el mundo de la IA. Incluyen la posibilidad de realizar bancos de datos públicos para mejor informar a los sistemas IA, especialmente a nivel sanitario. Sobre todo, un proyecto legislativo nacional lo está debatiendo el parlamento español ahora mismo, previsto para 2024.
Between the lines
En general, creo en que la tecnología debe soportar al ser humano y no reemplazarlo. Un tema muy tratado para los seguidores de MAIEI es nuestra creencia en el poder de la democratización y educación para concretar el rol de los humanos en el ámbito tecnológico. Sobre todo, el aprendizaje más punzante que he sacado de este podcast es que la IA es peligroso si la diseñamos así. Nuestro rol que nos toca es gestionar bien las situaciones que resultan por parte de nuestras preferencias y hacer que la tecnología se convierta en una herramienta beneficiosa para todos.