Fue la UNESCO la que en noviembre de 2021 elaboró la primera norma mundial sobre la ética de la IA, desarrollado Recomendaciones sobre la ética de la IA, estableciendo marcos para guiar su desarrollo y uso responsable.
Tiene por objeto servir de base para poner los sistemas de IA al servicio de las personas, las sociedades y el medio ambiente y los ecosistemas, así como para prevenir daños. Aspira también a estimular la utilización de los sistemas de IA con fines pacíficos.
Pero no fue hasta el 12 de Julio de 2024 cuando el Diario Oficial de la Unión Europea publica el “Reglamento de la Unión Europea sobre la inteligencia artificial (IA)”. que destaca la importancia de la ética en el desarrollo y la aplicación de los sistemas de IA, y busca asegurar que la IA sea centrada en el ser humano, fiable y conforme con los valores de la Unión Europea.
Desde el punto de vista del usuario, la ética en la IA se traduce en una serie de preocupaciones y expectativas que afectan directamente a su experiencia y confianza en estas tecnologías.
Los 5 aspectos clave para el uso ético de la IA son:
1. Transparencia y explicabilidad:
Entender las decisiones. Los algoritmos y procesos de toma de decisiones deben ser comprensibles y accesibles. Los usuarios quieren saber por qué un sistema de IA toma ciertas decisiones que les afectan.
Por ejemplo, por qué se les niega un préstamo, por qué se les recomienda un producto o por qué se les muestra cierto contenido en redes sociales.
Conocer el origen de la información. Es crucial que los usuarios sepan cómo se recopilan y utilizan sus datos personales.
La falta de transparencia en este sentido puede generar preocupación por la privacidad y el uso indebido de la información.
2. Equidad y no discriminación:
Evitar sesgos. Los usuarios esperan que los sistemas de IA sean justos e imparciales, y que no reproduzcan o amplifiquen sesgos discriminatorios.
La discriminación algorítmica puede afectar a grupos minoritarios o vulnerables en ámbitos como el empleo, la vivienda o la justicia. A este respecto ya se pronuncia el Reglamento Europeo marcando limitaciones y prohibiciones.
Acceso igualitario. Todos los usuarios deben tener acceso a los beneficios de la IA, independientemente de su origen, género, edad o capacidad.
Así los sistemas deben evitar sesgos y discriminación, garantizando un acceso equitativo a sus beneficios a todos los ciudadanos para evitar una nueva brecha digital, ya que la falta de accesibilidad puede excluir a un gran número de usuarios.
3. Privacidad y seguridad:
Protección de datos. Los usuarios exigen que sus datos personales se protejan de forma segura y que no se utilicen de manera abusiva. La recopilación masiva de datos y la vigilancia algorítmica generan preocupación por la pérdida de privacidad y la posible manipulación de los datos.
Seguridad de los sistemas. Los usuarios esperan que los sistemas de IA sean seguros y confiables, y que no pongan en riesgo su integridad física o emocional.
Los fallos de seguridad o los ataques maliciosos pueden tener graves consecuencias para los usuarios.
4. Control y autonomía:
Decisiones informadas. Los usuarios quieren tener control sobre cómo se utilizan sus datos y sobre las decisiones que toman los sistemas de IA que les afectan.
La autonomía algorítmica excesiva puede generar sensación de impotencia y falta de control.
Derecho a la desconexión. En un mundo cada vez más dominado por la IA, los usuarios reclaman el derecho a desconectar y a preservar su espacio personal.
5. Responsabilidad y rendición de cuentas:
Claridad sobre la responsabilidad: En caso de errores o daños causados por sistemas de IA, los usuarios quieren saber quién es el responsable y cómo pueden obtener reparación.
La falta de claridad en este sentido dificulta la posibilidad de exigir responsabilidades.
Los usuarios esperan que la IA se desarrolle y utilice de manera responsable, ética y centrada en las personas, respetando sus derechos y valores fundamentales.
La IA tiene el potencial de ser una herramienta poderosa para
La ética en la IA es un factor crucial para garantizar que estas tecnologías se desarrollen y utilicen de manera que beneficien a la sociedad en su conjunto, respetando los derechos humanos, evitando daños y abordando algunos de los desafíos más apremiantes del mundo.
Si buscas optimizar la formación de tus empleados, puedes ponerte en contacto con nosotros.
