EUs KI-forordning og tester i rekruttering
KI som brukes til å velge ut kandidater, er høyrisiko etter EUs KI-forordning (AI Act). Her ser vi på hva det betyr for testene du bruker, hvilke plikter som ligger hos leverandøren og hvilke som ligger hos deg som arbeidsgiver, og hva du bør gjøre nå.
Kort fortalt
- KI-systemer som brukes til å rekruttere, velge ut, forfremme eller vurdere personer, er høyrisiko etter vedlegg III til KI-forordningen.
- Ikke alle psykometriske tester er KI-systemer: et spørreskjema som skåres med en fast nøkkel, kan falle utenfor, mens skåring, rangering eller matching med maskinlæring kan falle innenfor.
- Leverandørene bærer de fleste pliktene. Arbeidsgivere må bruke systemet etter instruksjonene, sørge for kompetent menneskelig tilsyn, oppbevare logger og informere arbeidstakere og kandidater.
- Følelsesgjenkjenning på arbeidsplassen har vært forbudt siden 2. februar 2025. Høyrisikopliktene for rekrutteringssystemer gjelder fra 2. desember 2027.
- Personvernforordningen (GDPR) gjelder i tillegg, inkludert reglene om automatiserte avgjørelser.
Hvorfor rekruttering regnes som høyrisiko
KI-forordningen, forordning (EU) 2024/1689, sorterer KI-systemer etter risiko. Vedlegg III, punkt 4, oppgir arbeidsliv og sysselsetting som et høyrisikoområde. Det omfatter KI-systemer som er beregnet på å:
- publisere målrettede stillingsannonser
- analysere og filtrere søknader
- vurdere kandidater
- ta eller understøtte beslutninger om forfremmelse, oppsigelse og fordeling av oppgaver, og overvåke eller vurdere arbeidstakere
Disse beslutningene former folks livsgrunnlag, og et system som vurderer mennesker feil, gjør det i stor skala. Et system etter vedlegg III som profilerer personer, for eksempel ved å vurdere personlighet eller evner for å predikere prestasjon i jobben, regnes alltid som høyrisiko.
Én praksis er forbudt
Siden 2. februar 2025 har KI-systemer som utleder menneskers følelser på arbeidsplassen ut fra biometriske data, som ansiktsuttrykk eller stemme, vært forbudt, unntatt av medisinske eller sikkerhetsmessige grunner (artikkel 5 nr. 1 bokstav f). Europakommisjonens ikke-bindende retningslinjer om forbudt praksis regner kandidater i en seleksjonsprosess som en del av arbeidsplasskonteksten. Vær svært forsiktig med verktøy for videointervju som hevder å kunne lese entusiasme, stress eller ærlighet ut fra et ansikt eller en stemme.
Er testen din et KI-system?
Høyrisikoreglene gjelder bare for et KI-system slik det er definert i artikkel 3 nr. 1: et maskinbasert system som opererer med en viss grad av autonomi og ut fra inndataene utleder hvordan det skal generere utdata som prediksjoner, anbefalinger eller beslutninger. Det er en funksjonell test, ikke en merkelapp. At en leverandør kaller et produkt KI, avgjør ikke saken, og det gjør heller ikke at en leverandør unngår ordet. For tester ligger forskjellen ofte i hvordan skåren blir til:
- Et spørreskjema som skåres med en fast nøkkel og sammenlignes med en normgruppe, etter regler skrevet av mennesker, kan falle utenfor definisjonen.
- Skåring, rangering eller matching ved hjelp av en modell som har lært av data, for eksempel en som predikerer jobbsuksess ut fra svar, video eller CV-er, kan falle innenfor.
- Én plattform kan inneholde begge deler: et klassisk skåret personlighetsspørreskjema ved siden av en matchingfunksjon basert på maskinlæring.
Hvor grensen går for et bestemt verktøy, er ikke avklart i alle tilfeller. Spør leverandøren hvordan de klassifiserer hver del av produktet sitt og hvorfor, og ta vare på svaret. Der det fortsatt er uklart, bør du likevel bruke høyrisikosikringene: de fleste av dem er rett og slett god testpraksis.
Et fiktivt logistikkselskap bruker to verktøy: en resonneringstest som skåres som antall riktige og omregnes til en persentil mot en normgruppe, og et verktøy for videointervju som rangerer kandidater med en modell trent på tidligere ansettelsesbeslutninger. Selskapet behandler det andre som et høyrisiko-KI-system. Det første er sannsynligvis ikke et KI-system, men selskapet dokumenterer likevel hvordan skårene ble brukt i hver beslutning.
Hva leverandøren må gjøre, og hva du må gjøre
Forordningen skiller mellom tilbyderen, som utvikler et system og bringer det i omsetning, og idriftsetteren, som bruker det under egen myndighet. Ved tester i rekruttering er leverandøren vanligvis tilbyder, mens du som arbeidsgiver er idriftsetter.
Tilbyderen
- risikostyring gjennom hele livssyklusen
- datastyring, inkludert undersøkelse av treningsdata for mulig skjevhet
- teknisk dokumentasjon, automatisk logging og bruksanvisning
- en utforming som gjør effektivt menneskelig tilsyn mulig
- tilstrekkelig nøyaktighet, robusthet og cybersikkerhet
- en samsvarsvurdering og registrering i EU-databasen
For rekrutteringssystemer er samsvarsvurderingen en intern prosedyre hos tilbyderen, uten et eksternt organ. Et verktøy som markedsføres som «sertifisert etter AI Act», fortjener derfor et oppfølgingsspørsmål.
Du som arbeidsgiver
Artikkel 26 fastsetter idriftsetterens plikter. I praksis:
- Bruk systemet i samsvar med tilbyderens instruksjoner.
- Legg det menneskelige tilsynet til personer med den kompetansen, opplæringen og myndigheten som trengs.
- Der du kontrollerer inndataene, sørg for at de er relevante og tilstrekkelig representative.
- Overvåk systemet, meld fra om problemer til tilbyderen, og stans bruken hvis du avdekker en risiko.
- Oppbevar loggene du har kontroll over, i minst seks måneder, med mindre annen lovgivning krever noe annet.
- Informer arbeidstakernes representanter og de berørte arbeidstakerne før et høyrisikosystem tas i bruk på arbeidsplassen.
- Informer kandidater om at et høyrisikosystem brukes når det tar eller bidrar til å ta beslutninger om dem.
Etter artikkel 86 kan en person som berøres av en beslutning basert på utdata fra et slikt system, i visse tilfeller be om en tydelig forklaring av systemets rolle og de viktigste elementene i beslutningen. Og hvis du vesentlig endrer et system eller bruker det til et høyrisikoformål tilbyderen ikke hadde tenkt, kan du selv bli tilbyder (artikkel 25).
Personvernforordningen (GDPR) gjelder i tillegg. Artikkel 22 gir personer rett til ikke å være gjenstand for en avgjørelse som utelukkende bygger på automatisert behandling, inkludert profilering, og som har rettsvirkning eller på tilsvarende måte i betydelig grad påvirker dem, med mindre et unntak gjelder og det finnes sikringstiltak.
Tidslinjen
- 1. august 2024: KI-forordningen trådte i kraft.
- 2. februar 2025: forbudene gjelder, inkludert forbudet mot følelsesgjenkjenning på arbeidsplassen.
- Teksten slik den ble vedtatt i 2024, satte 2. august 2026 som dato for høyrisikopliktene for systemer etter vedlegg III.
- Digital Omnibus on AI, forordning (EU) 2026/1744, publisert i juli 2026, flyttet denne datoen: høyrisikopliktene for systemer etter vedlegg III, rekruttering inkludert, gjelder nå fra 2. desember 2027.
Utsettelsen gir mer tid, men endrer ikke kravene. Leverandøravtaler og prosedyrer du etablerer nå, vil ofte fortsatt løpe i 2027, så bygg kravene inn fra starten. Personvernforordningen og nasjonal arbeidsrett, inkludert eventuelle rettigheter for de ansattes representanter, gjelder allerede.
En praktisk sjekkliste for arbeidsgivere
Spørsmål til leverandøren
- Hvilke deler av produktet deres regner dere som et KI-system etter KI-forordningen, og hvorfor?
- Hvis en del er høyrisiko, kan vi få se bruksanvisningen, og når vil samsvarsvurderingen og registreringen være på plass?
- Hvilken dokumentasjon av reliabilitet og validitet finnes for vår bruk, og er den beskrevet, for eksempel i en teknisk håndbok?
- Hvordan undersøker dere skjevhet, og hvilke begrensninger har disse analysene?
- Brukes kandidatdata til å trene modeller, og på hvilket rettslig grunnlag?
Menneskelig tilsyn og informasjon
- Lær opp dem som gjennomgår resultatene, til å tolke skårer, inkludert skåreintervaller og normgrupper, og vær på vakt mot automatiseringsskjevhet: å følge et system fordi det virker objektivt.
- Gi dem myndighet til å fravike en rangering, og dokumenter hvorfor de gjorde det. La aldri en skåre eller grenseverdi avvise en kandidat uten at et menneske har sett på den.
- Fortell kandidatene hvilke tester de tar, hva de skal brukes til, hvem som ser resultatene og hvor lenge de oppbevares, og forbered hvordan du vil svare på en forespørsel om forklaring.
Dokumentasjon og oppfølging
- Dokumenter for hver stilling hvilke tester som ble brukt, hvordan skårene ble vektet og hvem som tok beslutningen.
- Se jevnlig på utfallene i din egen prosess, for eksempel seleksjonsrater per gruppe der du lovlig kan samle inn slike data. Se rettferdighet og skjevhet for hva slike analyser kan og ikke kan vise.
Hva dette betyr for hvordan Match.hr er bygget
Vi behandler rekruttering som den høyrisikobruken forordningen beskriver, og bygger allerede nå etter kravene. Et menneske bestemmer alltid: plattformen avviser aldri kandidater automatisk, og rapporten støtter en strukturert beslutning sammen med intervjuer og referanser, slik det er beskrevet under slik fungerer det. Hver skåre vises med skåreintervall og normgruppe, slik at den som vurderer, kan forklare hva den betyr. Det finnes dokumentasjon per testversjon, og det finnes revisjonslogger; mer under sikkerhet og personvern. Ingenting av dette gjør i seg selv en arbeidsgiver kompatibel med regelverket, og du kan stille leverandørspørsmålene ovenfor til oss som til alle andre.
Kilder
- Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), Official Journal of the European Union, 12. juli 2024
- Regulation (EU) 2026/1744 amending Regulation (EU) 2024/1689 (Digital Omnibus on AI), Official Journal of the European Union, 24. juli 2026
- Regulation (EU) 2016/679 (General Data Protection Regulation), artikkel 22