Ley de IA: Aspectos destacados de la clase magistral de EIT Health

La Ley de IA en pocas palabras

La Ley de IA (que entró en vigor el 1 de agosto de 2024) tiene como objetivo fomentar una IA confiable en Europa y más allá, garantizando que los sistemas de IA respeten los derechos fundamentales, la seguridad y los principios éticos, y abordando los riesgos de los modelos de IA de gran impacto. Existen varios cronogramas e hitos previstos para la implementación de la Ley en 2025, 2026 y 2027.

Hay mucho que analizar sobre la Ley de IA. Pero lo que más me llamó la atención durante una clase magistral organizada por EIT e impartida por Fernando Seoane , profesor titular del Instituto Karolinska, fueron tres cosas:

1. No es necesario estar en Europa para verse afectado por la Ley de IA.

Uno pensaría que se trata de una ley europea y que, si no se está en la UE, no se aplica a uno. Pues bien, piénselo de nuevo. La Ley de IA se aplica a:

a. Proveedores (desarrolladores) de sistemas de IA: Con sede en la UE, o con sede fuera de la UE pero que introducen sistemas de IA en el mercado de la UE o los ponen en servicio en la UE.

b. Implementadores (usuarios) de sistemas de IA: Particulares, empresas u organismos públicos que utilizan sistemas de IA en la UE con fines profesionales (no para uso personal).

c. Importadores y distribuidores: Quienes importen o distribuyan sistemas de IA en la UE también están sujetos a los requisitos de la ley, en particular en lo que respecta al cumplimiento y la documentación.

d. Fabricantes de productos: Si el sistema de IA es un componente de un producto cubierto por la legislación de seguridad vigente de la UE (por ejemplo, dispositivos médicos, automóviles), los fabricantes deben garantizar que tanto el producto como la IA cumplan con la normativa.

e. Instituciones, agencias y organismos de la UE: La Ley de IA se aplica a los organismos del sector público de la UE que utilizan sistemas de IA, aunque existen algunas excepciones, en particular en lo que respecta a la aplicación de la ley y la seguridad nacional.

2. El conocimiento de la IA no es un extra. Es un requisito legal.

La formación en alfabetización digital para su personal no es un simple complemento ni una medida progresista. Se convertirá en un requisito legal. Durante la sesión, pregunté si contábamos con una definición de alfabetización digital, y la respuesta de Fernando fue reveladora. No se trata solo del contenido de la formación —la capacidad de utilizar sistemas de IA de forma eficaz—, sino también del proceso. Por ejemplo: si tiene 10 000 empleados y planea capacitar solo a 20 al mes, tardará bastante en alcanzar una masa crítica de personas con las competencias necesarias en IA. Probablemente no esté cumpliendo con la ley. Los líderes deben actuar ahora para mantenerse al día con este ritmo de cambio (siga a Ann Reilly  para todo lo relacionado con la velocidad del cambio y la adaptabilidad).

3. Mantenga una documentación clara.

Todavía queda mucho por resolver —por parte de todos— en lo que respecta al cumplimiento de la Ley de IA. Pero esto es lo que siempre les digo a mis clientes, y ahora es más relevante que nunca:

Mantén una documentación clara de tu trabajo. Define qué haces, cómo lo haces y cómo lo mides. Integra el monitoreo y la evaluación en tus sistemas de gestión de calidad. Lo necesitarás, sobre todo a medida que el entorno regulatorio siga evolucionando.

Llamada a la acción y recursos

1. Invierta en capacitación sobre inteligencia artificial para usted y su personal. Es un requisito legal, no un lujo. Ann Reilly  ofrece excelentes recursos sobre la velocidad del cambio, las acciones de los líderes y cómo medir y fomentar la adaptabilidad.

2. Colabora con especialistas en seguimiento y evaluación para que te ayuden a documentar tu trabajo de forma clara y sistemática; de esa manera, no importa cómo cambien las cosas, siempre sabrás qué hiciste, cómo lo mediste y por qué hiciste los cambios.