La nueva Ley Europea sobre Inteligencia Artificial
La nueva Ley Europea sobre Inteligencia Artificial establece un marco legal armonizado a nivel de la Unión Europea para regular el desarrollo, la comercialización y el uso de la Inteligencia Artificial (IA), garantizando la protección de los derechos fundamentales y promoviendo un enfoque ético y centrado en el ser humano.
Su objetivo es impulsar la innovación responsable y evitar riesgos asociados a ciertos usos de la IA.
Desde el 2 de febrero de 2025 son aplicables los capítulos I y II del Reglamento de la IA, entre los que se incluye el artículo 4, que hace referencia a la obligatoriedad de formar en materia de IA.
¿Cuáles son las principales obligaciones respecto a la formación en IA?
El Reglamento sobre la Inteligencia Artificial, establece varias obligaciones relacionadas con la alfabetización y la formación en materia de IA para proveedores y responsables del despliegue de sistemas de IA. Estas obligaciones buscan garantizar que el personal involucrado cuenta con la formación necesaria para comprender cómo funcionan estos sistemas, sus limitaciones, sus riesgos y sus oportunidades.
En cuanto a las principales obligaciones de la alfabetización en IA el reglamento lo define como la necesidad de garantizar que las personas que utilizan sistemas de IA comprendan:
- Capacidades: Conocer qué pueden y qué no pueden hacer estos sistemas.
- Conocimientos: Información para entender cómo operan, qué datos utilizan y qué procesos siguen.
- Comprensión: Comprender los posibles riesgos y beneficios del uso de la IA, y los daños que podrían causarse si no se utiliza correctamente.
En resumen, la alfabetización en IA busca que los usuarios tengan un conocimiento integral de estos sistemas para utilizarlos de manera informada y responsable.
Esta obligación se aplica tanto a proveedores o desarrolladores de IA, como a responsables de su despliegue o empresas usuarias de sistemas de IA.
Requiere también que se diseñen programas de formación adaptados a las necesidades de cada perfil: desde un nivel técnico hasta la comprensión básica de los usuarios finales de la IA.
La norma exige que se tenga en cuenta los conocimientos técnicos, la experiencia, educación y formación previa de los usuarios finales, así como el contexto previsto de uso de los sistemas de IA.
Entre otros, algunos de los temas sobre los que habrá que formar pueden ser, fundamento básicos y conceptuales de IA, entrenamiento en el uso de herramientas de IA generativa, adaptadas a las funciones específicas de cada persona en la empresa o la relativa a la mitigación de riesgos y sesgos algorítmicos.
Conclusiones
- Las empresas deben garantizar que su personal tenga un nivel suficiente de alfabetización en IA.
- Las empresas han de conocer el Reglamento y los límites de uso de la IA en sus organizaciones, asegurándose de que se cumple con lo dispuesto en la normativa.
- Es fundamental que el personal pueda reconocer las llamadas alucinaciones de los sistemas de IA, que son las limitaciones y sesgos pueden tener estos sistemas derivados de los datos de entrenamiento, incluso errores en la generación de contenido
- Los usuarios de la IA deben conocer los riesgos inherentes a su uso respecto a temas tan importantes para la empresa como la confidencialidad, el manejo de información sensible y los secretos empresariales.
- Otro riesgo a tener en cuenta al usar la IA generativa es el de que se puede estar cometiendo plagio con las correspondientes responsabilidades legales en las que se pueda incurrir.
- Se deben elaborar códigos de conducta voluntarios para promover la alfabetización en materia de IA entre las personas que se ocupan del desarrollo, el manejo y el uso de la IA.
Para saber más, puedes ponerte en contacto con nosotros
