Maak je gebruik van AI bij inhuur of recruitment? Zo bereid je je voor op de EU AI Act

De EU Artificial Intelligence Act is de eerste AI-wet ter wereld. De AI Act is van toepassing op elk AI-systeem dat wordt gebruikt of uitkomsten levert binnen de EU, ongeacht de locatie van de aanbieder of gebruiker. 

Risiconiveau

De AI Act hanteert een risicogebaseerde aanpak. AI-systemen worden verdeeld in vier risiconiveaus, gebaseerd op de potentiële impact. Daarna worden de verschillende wettelijke vereisten toegepast.

AI-systemen die een aanzienlijk risico vormen voor de gezondheid, veiligheid of de rechten van de mens, worden gezien als ‘hoog risico’. Dat geldt ook voor alle systemen die te maken hebben met de arbeidsmarkt. Bijvoorbeeld het opslaan, beheren en gebruiken van data van personen, inclusief zzp’ers. 

Maatregelen voor compliance

Als je systemen en tools koopt of bouwt die gebruik maken van AI-technologieën voor het selecteren, monitoren of evalueren van werknemers en zzp’ers dien je over voldoende competenties te beschikken (AI-geletterdheid). Bedrijven moeten dat kunnen aantonen via een governance- en risicomanagement-framework. 

Als gebruiker of uitvoerder moet je volgens Fiona Coombe van SIA de volgende maatregelen in je framework opnemen:

• AI-geletterdheid training. Zorg ervoor dat alle gebruikers en toezichthouders over voldoende AI-kennis beschikken om het AI-systeem te gebruiken zoals bedoeld.
• Check vooraf op verboden praktijken. Zorg ervoor dat het AI-systeem zich niet bezighoudt met verboden praktijken die in de AI-wet zijn vastgelegd.
• Technische en organisatorische maatregelen. Voer passende technische en organisatorische maatregelen uit om ervoor te zorgen dat de AI-systemen met een hoog risico worden gebruikt volgens de instructies.
• Update of stel AI-beleid en -procedures op. Werk het interne en klantgerichte beleid bij met de principes die in de wet zijn uiteengezet.
• Kwaliteitsbeheer van invoergegevens. Zorg ervoor dat de invoergegevens representatief, kwalitatief en relevant zijn voor het doel van het AI-systeem.
• Menselijk toezicht. Wijs mensen aan om toezicht te houden op de werking van het AI-systeem en implementeer de maatregelen voor menselijk toezicht die door de aanbieders zijn aangegeven.
• Continue monitoring. Controleer het AI-systeem regelmatig op risico’s, waaronder het detecteren en aanpakken van afwijkingen, storingen en onverwachte uitkomsten.
• Administratie. Houd minimaal zes maanden lang automatische gebeurtenissen (‘logs’) bij van het AI-systeem met een hoog risico.
• Informeer werknemers en andere betrokkenen. Iedereen die mogelijk wordt beïnvloed door de resultaten die voortkomen uit het gebruik van AI-systemen met een hoog risico, moet worden geïnformeerd over het gebruik van het AI-systeem.

Bron: Staffing Industry Analysts