Llei d'IA: aspectes destacats de la classe magistral de salut de l'EIT

La llei d'IA en poques paraules

La Llei d'IA (que va entrar en vigor l'1 d'agost de 2024) té com a objectiu fomentar una IA fiable a Europa i més enllà, garantint que els sistemes d'IA respectin els drets fonamentals, la seguretat i els principis ètics, i abordant els riscos dels models d'IA amb un gran impacte. Hi ha diversos calendaris i fites propers per a la implementació de la Llei el 2025, 2026 i 2027.

Hi ha molt per analitzar sobre AI Act. Però el que em va cridar l'atenció durant una classe magistral organitzada per l'EIT i impartida per Fernando Seoane , professor titular al Karolinska Institutet, són tres coses:

1. No cal ser a Europa per veure's afectat per la Llei d'IA.

Pensaries que això és una llei europea i, si no ets a la UE, no s'aplica a tu. Pensa-t'ho de nou. La Llei d'IA s'aplica a:

a. Proveïdors (desenvolupadors) de sistemes d'IA: amb seu a la UE o amb seu fora de la UE, però que comercialitzen sistemes d'IA o els posen en servei a la UE.

b. Implementadors (usuaris) de sistemes d'IA: particulars, empreses o organismes públics que utilitzen sistemes d'IA a la UE amb finalitats professionals (no per a ús personal).

c. Importadors i distribuïdors: aquells que importen o distribueixen sistemes d'IA a la UE també estan subjectes als requisits de la llei, especialment pel que fa al compliment i la documentació.

d. Fabricants de productes: si el sistema d'IA és un component d'un producte cobert per la legislació de seguretat de la UE vigent (per exemple, dispositius mèdics, automòbils), els fabricants han de garantir el compliment tant del producte com de la IA.

e. Institucions, agències i organismes de la UE: la Llei d'IA s'aplica als organismes del sector públic de la UE que utilitzen sistemes d'IA, tot i que hi ha algunes excepcions, sobretot pel que fa a les forces de l'ordre i la seguretat nacional.

2. L'alfabetització en IA no és un avantatge. És un requisit legal.

La formació en alfabetització en IA per al vostre personal no és "agradable" ni "progressiva". Serà legalment obligatòria. Durant la sessió vaig preguntar si tenim una definició d'alfabetització en IA, i la resposta de Fernando va ser reveladora. No es tracta només del contingut de la formació (ser capaç d'utilitzar els sistemes d'IA de manera eficaç), sinó també del procés. Per exemple: si teniu 10.000 empleats i teniu previst formar-ne només 20 al mes, doncs, trigareu una mica a arribar a una massa crítica de persones amb les competències en IA necessàries. Probablement no esteu complint amb la llei. Els líders han d'actuar ara per mantenir-se al dia amb aquest ritme de canvi (seguiu l'Ann Reilly  per a tot el que té a veure amb la velocitat del canvi i l'adaptabilitat).

3. Mantingueu la documentació clara

Encara hi ha molt per esbrinar —per a tothom— pel que fa al compliment de la Llei d'IA. Però això és el que sempre dic als meus clients, i ara és més rellevant que mai:

Mantingueu una documentació clara de la vostra feina. Definiu què esteu fent, com ho esteu fent i com ho esteu mesurant. Incorporeu el seguiment i l'avaluació (M&A) als vostres sistemes de gestió de qualitat. Ho necessitareu, sobretot a mesura que l'entorn regulador continua evolucionant.

Crida a l'acció i recursos

1- Inverteix en formació en "alfabetització en IA" per a tu i el teu personal. Això és un requisit legal. No és agradable tenir-ho. L'Ann Reilly  ofereix grans recursos sobre tot allò relacionat amb la velocitat del canvi, què poden fer els líders i la mesura i el cultiu de l'adaptabilitat.

2- Treballa amb especialistes en seguiment i avaluació per ajudar-te a documentar la teva feina de manera clara i sistemàtica; d'aquesta manera, independentment de com canviïn les coses, sempre sabràs què has fet, com ho has mesurat i per què has canviat les coses.