La selecció de personal amb intel·ligència artificial (IA) ha de respectar la protecció de dades
Cada vegada més empreses valoren utilitzar eines d’intel·ligència artificial (IA) per a classificar currículums, puntuar candidats o prioritzar perfils. L’Agència Espanyola de Protecció de Dades (AEPD) recorda que aquestes solucions poden ser útils, però han d’implantar-se amb garanties des de l’inici. Li ho expliquem…
Cada vegada és més habitual que les empreses es plantegin utilitzar IA per analitzar currículums, ordenar candidatures o assignar puntuacions en processos de selecció. L’AEPD ha advertit al seu web sobre les precaucions que cal adoptar quan aquest tipus d’eines poden influir en l’accés a un lloc de treball o en una promoció interna.
L’advertiment es refereix a un sistema que encara no s’havia implantat, però que estava previst utilitzar per a avaluar candidatures i prioritzar perfils.
- Atenció. El compliment en protecció de dades s’ha d’estudiar abans de posar en marxa l’eina, no quan el sistema ja està funcionant.
La protecció de dades s’ha d’incorporar des del principi
L’AEPD reconeix que la IA pot millorar l’eficiència i la qualitat dels processos de selecció. Ara bé, això no significa que es pugui implantar sense una revisió prèvia.
L’empresa ha d’aplicar el principi de protecció de dades des del disseny i per defecte, fet que implica analitzar des de les primeres fases quines dades s’utilitzaran, per a què s’usaran i quins riscos pot generar el sistema per a candidats i treballadors. També s’hauran d’adoptar les mesures tècniques i organitzatives adequades a aquests riscos.
- Atenció. Escollir primer l’eina i revisar després les seves implicacions jurídiques pot ser un error. La privacitat ha de formar part del disseny del projecte des de l’inici.
Avaluació d’impacte
Quan el tractament previst pugui suposar un alt risc per als drets i llibertats de les persones, l’empresa haurà de fer prèviament una avaluació d’impacte en protecció de dades.
La rellevància d’aquesta qüestió augmenta quan l’eina no es limita a ordenar informació administrativa, sinó que analitza perfils, assigna puntuacions o influeix en decisions laborals.
- Atenció. Com més gran sigui la influència de l’eina sobre la contractació, promoció o descart d’una persona, més important serà analitzar prèviament els seus riscos.
Els candidats han de saber com s’utilitza l’eina
La transparència és un altre dels punts destacats per l’Agència. Els candidats i treballadors han de rebre informació clara, accessible i comprensible sobre el tractament de les seves dades personals i sobre el paper que exerceix l’eina d’IA en l’avaluació.
No es tracta simplement d’incloure una referència genèrica a la intel·ligència artificial en una política de privacitat.
La persona afectada ha de poder entendre que les seves dades seran analitzades mitjançant aquesta mena de tecnologia i quina funció té aquesta anàlisi dins del procés.
- Atenció. Si la IA puntua, classifica o prioritza candidats, convé explicar clarament quin paper juga aquesta puntuació en el procés de selecció.
Intervenció humana
Un dels aspectes més importants és l’anomenat control humà. En el cas analitzat per l’AEPD, l’empresa indicava que la decisió final correspondria a una persona. Però això, per si sol, no garanteix que existeixi una intervenció humana efectiva. Qui pren la decisió ha de poder revisar críticament la informació generada per l’eina, apartar-se de la seva recomanació quan sigui necessari i adoptar la seva pròpia decisió. No seria suficient limitar-se a acceptar automàticament la puntuació oferta pel sistema.
- Atenció. Que una persona premi el botó final no converteix automàticament una decisió en humana. Ha d’existir capacitat real de revisió i criteri propi.
Cal vigilar les decisions automatitzades
El Reglament General de Protecció de Dades (RGPD) reconeix el dret de les persones a no ser objecte de determinades decisions basades únicament en tractaments automatitzats quan aquestes produeixin efectes jurídics o els afectin de manera significativa.
En els processos de selecció, l’aplicació d’aquesta garantia dependrà de com funcioni realment l’eina i de fins a quin punt existeix una intervenció humana efectiva.
Per això és especialment important conèixer què fa el sistema, com utilitza les puntuacions i quin pes tenen en la decisió final.
- Atenció. No n’hi ha prou amb saber que existeix una eina d’IA. Cal conèixer fins a on arriba la seva influència real en la decisió sobre el candidat.
L’advertiment de l’AEPD és preventiva
L’actuació de l’Agència no implica que l’empresa hagi comès ja una infracció. El RGPD permet a l’autoritat de control emetre un advertiment preventiu quan considera que un tractament previst podria infringir la normativa. La seva finalitat és precisament permetre que l’empresa revisi el projecte i adopti les mesures necessàries abans de posar-lo en funcionament.
- Atenció. Un advertiment preventiu no equival a una sanció, però sí que constitueix un senyal clar per revisar el sistema abans d’implantar-lo.
Què convé revisar abans d’utilitzar IA en selecció
Abans d’usar una eina que analitzi currículums o puntuï candidats, convé revisar quines dades tractarà, quins criteris emprarà, com s’informarà els interessats i quina capacitat tindrà una persona per a revisar els seus resultats.
També caldrà valorar els riscos del tractament i comprovar si cal una avaluació d’impacte.
La tecnologia pot servir de suport, però no hauria de convertir-se en una caixa negra que determini qui continua en un procés de selecció sense una supervisió suficient.
La idea pràctica és senzilla. La IA pot ajudar a decidir, però no hauria de substituir sense més ni més el criteri de la persona que adopta la decisió.