• Skip to main content
  • Skip to primary sidebar
  • Skip to footer
  • Core Principles of Responsible AI
    • Accountability
    • Fairness
    • Privacy
    • Safety and Security
    • Sustainability
    • Transparency
  • Special Topics
    • AI in Industry
    • Ethical Implications
    • Human-Centered Design
    • Regulatory Landscape
    • Technical Methods
  • Living Dictionary
  • State of AI Ethics
  • AI Ethics Brief
  • 🇫🇷
Montreal AI Ethics Institute

Montreal AI Ethics Institute

Democratizing AI ethics literacy

Episodio 3 – Idoia Salazar: Sobre la Vital Importancia de Educar al Ciudadano en los Usos Responsables de la Inteligencia Artificial

May 26, 2022

🔬 Research summary by Connor Wright, our Partnerships Manager.

[Original work by Juan Carlos Muñoz e Idoia Salazar]

NOTE: This is a special piece since it is our first in Spanish! Feedback is appreciated!


Introduction

Este podcast liderado por Juan Carlos Muñoz presenta la carrera de Idoia Salazar. Es la cofundadora de un observatorio sobre el impacto ético de la intelgencia artificial (OdiseIA) y su rol como profesora en la Universidad CEU San Pablo, entre más puestos impresionantes. Con respecto a la visión ética de OdiseIA es ser muy realista, reaccionando a cómo actúan las empresas y las personas dentro del estudio de la IA. De ahí, el podcast cubre lo que significa ser un eticista de la IA, los sesgos algorítmicos y la importancia de la educación antes de presentar la situación actual de España en cuanto a la IA. Para terminar, concluye que lo que resulta lo más pertinente es que la tecnología no es peligrosa en sí, sino es nuestra manera de usarla que cuenta.

Key Insights

Lo que significa ser un eticista de la IA

A veces, el mundo tecnológico aparece inasequible e intelligible. Sin embargo, Salazar revela que no es así. No hace falta que dispongas de un grado universitario para participar, ni un acercamiento profundo del tema. En cuanto a los profesionales, sí que es necesario gozar de una base filosófica y legal al lado de conocimiento tecnológico para mejor controlar los problemas que surgen dentro del estudio. Es decir, una eticista debe presentar un perfil generalista en vez de especialista.

Ante este panorama, se halla el núcleo del escenario de la IA. El peligro no está en la tecnología en sí, sino en la manera por la que usamos como seres humanos.

Los sesgos algorítmicos

Los sesgos algorítmicos dejan el problema de la influencia del ser humano lo más patente. Los sesgos forman parte de nuestro ser; nuestro contexto, nuestras experiencias y nuestras preferencias nos condicionan de forma inconsciente. Por ejemplo, en términos del modelo, los data scientist pueden influir a las conclusiones de su investigación a través de elegir el sistema que ellos piensan que encaja lo mejor. Esta decisión, sea consciente o no, está dirigida por nuestras preferencias. 

Para mitigar las consecuencias de esta realidad, Salazar nos guía hacia la ley. Iniciativas como poniendo multas altas para si las empresas no cumplen con la legislación son unas de las maneras más prominentes de legislar contra los problemas éticos. A través de esta estrategia, preparamos la escena legislativa para mejor responder a las situaciones que provoca la tecnología. Esto informó la decisión de Amazon en 2021 de retrasar el inicio del uso de su tecnología de reconocimiento de cara por la policía otra vez. 

Para realizar dicha legislación, es menester que eduquemos tanto a los políticos como al público.

La educación

Dicha educación no centra solamente en los técnicos programáticos, sino también en las cuestiones sobre la aplicación de la IA. Por ejemplo, señalaremos que el lenguaje como ‘el algoritmo dice’, ‘el algoritmo resuelve’ pinta una imagen imaginaria de la IA. El algoritmo es software de ayuda a los seres humanos. Es decir, la tecnología está aquí para ayudarnos y no reemplazarnos. Por ejemplo, vemos que los coches autónomos facilitan el aumento de movilidad para la gente discapacitada y los ciegos. Guiado por esta visión, somos capaces de desarrollar perfiles adaptables a un mundo constantemente evolucionando.

Con este pensamiento en la mente, Salazar guarda muchas aspiraciones para el futuro de España en el entorno tecnológico.

España

Salazar comenta que hay fondos destinados a realizar una inversión en las empresas tecnológicas españolas que significan que el país va a conseguir una posición fuerte en el mundo de la IA. Incluyen la posibilidad de realizar bancos de datos públicos para mejor informar a los sistemas IA, especialmente a nivel sanitario. Sobre todo, un proyecto legislativo nacional lo está debatiendo el parlamento español ahora mismo, previsto para 2024.

Between the lines

En general, creo en que la tecnología debe soportar al ser humano y no reemplazarlo. Un tema muy tratado para los seguidores de MAIEI es nuestra creencia en el poder de la democratización y educación para concretar el rol de los humanos en el ámbito tecnológico. Sobre todo, el aprendizaje más punzante que he sacado de este podcast es que la IA es peligroso si la diseñamos así. Nuestro rol que nos toca es gestionar bien las situaciones que resultan por parte de nuestras preferencias y hacer que la tecnología se convierta en una herramienta beneficiosa para todos.

Want quick summaries of the latest research & reporting in AI ethics delivered to your inbox? Subscribe to the AI Ethics Brief. We publish bi-weekly.

Primary Sidebar

🔍 SEARCH

Spotlight

AI Policy Corner: Frontier AI Safety Commitments, AI Seoul Summit 2024

AI Policy Corner: The Colorado State Deepfakes Act

Special Edition: Honouring the Legacy of Abhishek Gupta (1992–2024)

AI Policy Corner: The Turkish Artificial Intelligence Law Proposal

From Funding Crisis to AI Misuse: Critical Digital Rights Challenges from RightsCon 2025

related posts

  • Toward an Ethics of AI Belief

    Toward an Ethics of AI Belief

  • Russia’s Artificial Intelligence Strategy: The Role of State-Owned Firms

    Russia’s Artificial Intelligence Strategy: The Role of State-Owned Firms

  • From Instructions to Intrinsic Human Values - A Survey of Alignment Goals for Big Models

    From Instructions to Intrinsic Human Values - A Survey of Alignment Goals for Big Models

  • Technology on the Margins: AI and Global Migration Management From a Human Rights Perspective (Resea...

    Technology on the Margins: AI and Global Migration Management From a Human Rights Perspective (Resea...

  • The role of the African value of Ubuntu in global AI inclusion discourse: A normative ethics perspec...

    The role of the African value of Ubuntu in global AI inclusion discourse: A normative ethics perspec...

  • The Ethics of Artificial Intelligence through the Lens of Ubuntu

    The Ethics of Artificial Intelligence through the Lens of Ubuntu

  • FairQueue: Rethinking Prompt Learning for Fair Text-to-Image Generation (NeurIPS 2024)

    FairQueue: Rethinking Prompt Learning for Fair Text-to-Image Generation (NeurIPS 2024)

  • Mapping the Design Space of Human-AI Interaction in Text Summarization

    Mapping the Design Space of Human-AI Interaction in Text Summarization

  • Robust Distortion-free Watermarks for Language Models

    Robust Distortion-free Watermarks for Language Models

  • System Safety and Artificial Intelligence

    System Safety and Artificial Intelligence

Partners

  •  
    U.S. Artificial Intelligence Safety Institute Consortium (AISIC) at NIST

  • Partnership on AI

  • The LF AI & Data Foundation

  • The AI Alliance

Footer

Categories


• Blog
• Research Summaries
• Columns
• Core Principles of Responsible AI
• Special Topics

Signature Content


• The State Of AI Ethics

• The Living Dictionary

• The AI Ethics Brief

Learn More


• About

• Open Access Policy

• Contributions Policy

• Editorial Stance on AI Tools

• Press

• Donate

• Contact

The AI Ethics Brief (bi-weekly newsletter)

About Us


Founded in 2018, the Montreal AI Ethics Institute (MAIEI) is an international non-profit organization equipping citizens concerned about artificial intelligence and its impact on society to take action.


Archive

  • © MONTREAL AI ETHICS INSTITUTE. All rights reserved 2024.
  • This work is licensed under a Creative Commons Attribution 4.0 International License.
  • Learn more about our open access policy here.
  • Creative Commons License

    Save hours of work and stay on top of Responsible AI research and reporting with our bi-weekly email newsletter.