El reglamento de la Unión Europea sobre la inteligencia artificial (IA) destaca la importancia de la ética en el desarrollo y la aplicación de los sistemas de IA, y busca asegurar que la IA sea centrada en el ser humano, fiable y conforme con los valores de la Unión.
Los puntos clave sobre la ética que se mencionan en el Reglamento IA son:
- Valores fundamentales: El desarrollo y la regulación de la IA deben realizarse de acuerdo con los valores de la Unión Europea, incluyendo los derechos y libertades fundamentales establecidos en los tratados y la Carta de los Derechos Fundamentales.
Para proteger estos derechoslas autoridades nacionales encargadas de supervisar el cumplimiento de la protección de los derechos fundamentales, tendrán facultades para vigilar el cumplimiento efectivo del Reglamento.
- Tecnología centrada en el ser humano: La IA debe ser una herramienta para las personas y su objetivo final debe ser incrementar el bienestar humano (AI for GOOD).
- Alfabetización en IA: Se debe capacitar a proveedores, usuarios y personas afectadas con los conocimientos necesarios para tomar decisiones informadas sobre los sistemas de IA, incluyendo la comprensión de cómo las decisiones tomadas con la ayuda de la IA tendrán repercusiones para ellos.
La alfabetización en materia de IA debe proporcionar a todos los agentes pertinentes de la cadena de valor de la IA los conocimientos necesarios para garantizar el cumplimiento adecuado y la correcta ejecución del reglamento.
- Códigos de conducta: Se facilitará la creación de códigos de conducta voluntarios para promover la alfabetización en materia de IA entre quienes desarrollan, manejan y utilizan la IA . La Oficina de IA fomentará y facilitará la elaboración de códigos de buenas prácticas a escala de la Unión para contribuir a la correcta aplicación del reglamento.
- Transparencia: Se exige transparencia en el uso de sistemas de IA, especialmente en lo que respecta a la generación o manipulación de contenidos.
Los proveedores de sistemas de IA que generen contenido sintético deberán garantizar que los resultados se marquen de forma que sea posible detectar que han sido generados o manipulados artificialmente. Los responsables del despliegue que generen o manipulen contenidos de imagen, audio o video que constituyan una ultrasuplantación deben hacerlo público.
La norma europea también recoge algunas prohibiciones explícitas al no considerar éticas estas actuaciones por vulnerar los derechos fundamentales de los ciudadanos. Así considera la prohibición de prácticas inaceptables como:
- Los sistemas de IA que realicen prácticas de «puntuación ciudadana» que puedan resultar discriminatorias o que conduzcan a la exclusión de ciertos grupos.
- Los sistemas de IA que utilicen técnicas subliminales o manipuladoras para alterar el comportamiento de las personas, mermando su capacidad para tomar decisiones informadas.
- El uso de sistemas de IA para realizar evaluaciones de riesgos sobre personas físicas con el fin de predecir la probabilidad de que cometan un delito, basándose únicamente en la elaboración de perfiles o la evaluación de sus características personales.
Para el cumplimiento de esta normativa y su supervisión, la Oficina de IA de la UE supervisará la aplicación efectiva del reglamento y el cumplimiento de las obligaciones por parte de los proveedores de modelos de IA de uso general, incluyendo la observancia de los códigos de buenas prácticas aprobados.
Asimismo, la Comisión elaborará directrices sobre la aplicación práctica del Reglamento, prestando especial atención a las necesidades de las pymes, las autoridades públicas locales y los sectores que tengan más probabilidades de verse afectados.
En definitiva, no sólo se ha establecido un marco de uso ético, sino que va acompañado de obligaciones y prohibiciones, y además el próximo verano veremos cómo estas serán acompañadas por un catálogo de Sanciones.
Tendremos que estar atentos para ver como estas sanciones afectarán a quienes no cumplan con la obligación de formar a sus empleados en los términos marcados por el Reglamento.
Si buscas optimizar la formación de tus empleados, puedes ponerte en contacto con nosotros.
