EU:s AI-förordning och tester vid rekrytering
AI som används för att välja ut kandidater är högrisk enligt EU:s AI-förordning. Vad det innebär för de tester du använder, vilka skyldigheter som ligger hos leverantören och vilka som ligger hos dig som arbetsgivare, och vad du kan göra redan nu.
Kortfattat
- AI-system som används för att rekrytera, välja ut, befordra eller utvärdera människor är högrisk enligt bilaga III till AI-förordningen.
- Inte alla psykometriska tester är AI-system: ett formulär som poängsätts med en fast nyckel kan falla utanför, medan poängsättning, rangordning eller matchning med maskininlärning kan falla innanför.
- Leverantörerna bär merparten av skyldigheterna. Arbetsgivare måste använda systemet enligt instruktionerna, utse kompetent mänsklig tillsyn, spara loggar och informera arbetstagare och kandidater.
- Känsloigenkänning på arbetsplatsen är förbjuden sedan den 2 februari 2025. Högriskskyldigheterna för rekryteringssystem gäller från och med den 2 december 2027.
- Dataskyddsförordningen (GDPR) gäller parallellt, inklusive dess regler om automatiserade beslut.
Varför rekrytering räknas som högrisk
AI-förordningen, förordning (EU) 2024/1689, delar in AI-system efter risk. I bilaga III, punkt 4, anges anställning som ett högriskområde. Det omfattar AI-system som är avsedda att
- publicera riktade platsannonser
- analysera och filtrera ansökningar
- utvärdera kandidater
- fatta eller stödja beslut om befordran, uppsägning och fördelning av arbetsuppgifter, samt övervaka eller utvärdera arbetstagare
De här besluten påverkar människors försörjning, och ett system som bedömer människor felaktigt gör det i stor skala. Ett system enligt bilaga III som profilerar människor, till exempel genom att utvärdera personlighet eller förmågor för att förutsäga arbetsprestation, betraktas alltid som högrisk.
En praxis är helt förbjuden
Sedan den 2 februari 2025 är AI-system som drar slutsatser om människors känslor på arbetsplatsen utifrån biometriska uppgifter, till exempel ansiktsuttryck eller röst, förbjudna utom av medicinska skäl eller säkerhetsskäl (artikel 5.1 f). Europeiska kommissionens icke-bindande riktlinjer om förbjudna metoder räknar kandidater i ett urvalsförfarande till arbetsplatssammanhanget. Var mycket försiktig med verktyg för videointervjuer som påstår sig kunna läsa av entusiasm, stress eller ärlighet i ett ansikte eller en röst.
Är ditt test ett AI-system?
Högriskreglerna gäller bara för ett AI-system enligt definitionen i artikel 3.1: ett maskinbaserat system som fungerar med en viss grad av autonomi och som utifrån indata drar slutsatser om hur det ska generera utdata som förutsägelser, rekommendationer eller beslut. Det är ett funktionellt kriterium, inte en etikett. Att en leverantör kallar en produkt AI avgör inte saken, och inte heller att en leverantör undviker ordet. För tester ligger skillnaden ofta i hur resultatet tas fram:
- Ett formulär som poängsätts med en fast nyckel och jämförs med en normgrupp, enligt regler som människor har skrivit, kan falla utanför definitionen.
- Poängsättning, rangordning eller matchning med en modell som har lärt sig av data, till exempel en som förutsäger framgång i arbetet utifrån svar, video eller cv, kan falla innanför den.
- En och samma plattform kan innehålla båda: ett klassiskt poängsatt personlighetsformulär bredvid en matchningsfunktion som bygger på maskininlärning.
Var gränsen går för ett visst verktyg är inte klarlagt i alla fall. Fråga leverantören hur de klassificerar varje del av sin produkt och varför, och spara svaret. Om det förblir oklart kan du ändå tillämpa högriskskydden: de flesta av dem är helt enkelt god testpraxis.
Ett fiktivt logistikföretag använder två verktyg: ett logiskt test som poängsätts som antal rätt och omvandlas till en percentil mot en normgrupp, och ett verktyg för videointervjuer som rangordnar kandidater med en modell tränad på tidigare anställningsbeslut. Företaget behandlar det andra som ett AI-system med hög risk. Det första är förmodligen inget sådant, men företaget dokumenterar ändå hur resultaten användes i varje beslut.
Vad leverantören måste göra, och vad du måste göra
Förordningen skiljer mellan leverantören, som utvecklar ett system och släpper ut det på marknaden, och tillhandahållaren, som använder det under eget ansvar. När det gäller tester vid rekrytering är testleverantören oftast leverantör och du som arbetsgivare tillhandahållare.
Leverantören
- riskhantering under hela livscykeln
- dataförvaltning, inklusive granskning av träningsdata med avseende på möjlig bias
- teknisk dokumentation, automatisk loggning och bruksanvisning
- en utformning som möjliggör effektiv mänsklig tillsyn
- lämplig noggrannhet, robusthet och cybersäkerhet
- en bedömning av överensstämmelse och registrering i EU-databasen
För rekryteringssystem är bedömningen av överensstämmelse ett internt förfarande hos leverantören, utan något externt organ. Ett verktyg som marknadsförs som certifierat enligt AI-förordningen förtjänar därför en följdfråga.
Du som arbetsgivare
Artikel 26 anger tillhandahållarens skyldigheter. I praktiken:
- Använd systemet i enlighet med leverantörens bruksanvisning.
- Ge ansvaret för mänsklig tillsyn till personer med den kompetens, utbildning och befogenhet som krävs.
- Om du kontrollerar indata, se till att de är relevanta och tillräckligt representativa.
- Övervaka systemet, rapportera problem till leverantören och avbryt användningen om du identifierar en risk.
- Spara de loggar som du kontrollerar i minst sex månader, om inte annan lagstiftning kräver något annat.
- Informera arbetstagarrepresentanter och berörda arbetstagare innan ett högrisksystem tas i bruk på arbetsplatsen.
- Informera kandidater om att ett högrisksystem används när det fattar eller bidrar till att fatta beslut om dem.
Enligt artikel 86 kan en person som berörs av ett beslut som bygger på utdata från ett sådant system i vissa fall begära en tydlig förklaring av systemets roll och av de viktigaste delarna av beslutet. Och om du väsentligt ändrar ett system eller använder det för ett högriskändamål som leverantören inte avsåg kan du själv bli leverantör (artikel 25).
Dataskyddsförordningen gäller parallellt. Artikel 22 ger människor rätt att inte bli föremål för ett beslut som enbart grundas på automatiserad behandling, inbegripet profilering, och som har rättsliga följder eller på liknande sätt i betydande grad påverkar dem, om inte ett undantag är tillämpligt och skyddsåtgärder finns på plats.
Tidslinjen
- 1 augusti 2024: AI-förordningen trädde i kraft.
- 2 februari 2025: förbuden började gälla, inklusive förbudet mot känsloigenkänning på arbetsplatsen.
- Texten som antogs 2024 angav den 2 augusti 2026 för högriskskyldigheterna för system enligt bilaga III.
- Den digitala omnibusen om AI, förordning (EU) 2026/1744, som offentliggjordes i juli 2026, flyttade det datumet: högriskskyldigheterna för system enligt bilaga III, rekrytering inräknad, gäller nu från och med den 2 december 2027.
Uppskjutandet ger mer tid men ändrar inte vad som krävs. Leverantörsavtal och rutiner som du inför nu kommer ofta fortfarande att gälla 2027, så bygg in kraven från början. Dataskyddsförordningen och nationell arbetsrätt, inklusive eventuella rättigheter för arbetstagarnas representanter, gäller redan i dag.
En praktisk checklista för arbetsgivare
Frågor att ställa till en leverantör
- Vilka delar av er produkt anser ni vara ett AI-system enligt AI-förordningen, och varför?
- Om en del är högrisk, kan vi få se bruksanvisningen, och när kommer bedömningen av överensstämmelse och registreringen att vara klara?
- Vilka belägg för reliabilitet och validitet finns för vår användning, och är de dokumenterade, till exempel i en teknisk manual?
- Hur undersöker ni bias, och vilka begränsningar har de analyserna?
- Används kandidatdata för att träna modeller, och i så fall med vilken rättslig grund?
Mänsklig tillsyn och information
- Utbilda de personer som granskar resultaten i att tolka testresultat, inklusive resultatintervall och normgrupper, och var uppmärksam på automationsbias: att följa ett system för att det ser objektivt ut.
- Ge dem befogenhet att avvika från en rangordning, och dokumentera varför de gjorde det. Låt aldrig ett resultat eller gränsvärde avvisa en kandidat utan att en människa har tittat på det.
- Berätta för kandidaterna vilka tester de gör, i vilket syfte, vem som ser resultaten och hur länge de sparas, och förbered hur du ska svara på en begäran om förklaring.
Dokumentation och uppföljning
- Dokumentera för varje tjänst vilka tester som användes, hur resultaten vägdes och vem som fattade beslutet.
- Följ regelbundet upp utfallen i din egen process, till exempel urvalsandelar per grupp där du lagligen får samla in sådana uppgifter. Se rättvisa och bias för vad sådana analyser kan och inte kan visa.
Vad det innebär för hur Match.hr är uppbyggt
Vi behandlar rekrytering som den högriskanvändning som förordningen beskriver och bygger redan nu för dess krav. En människa beslutar alltid: plattformen avvisar aldrig kandidater automatiskt, och rapporten stöder ett strukturerat beslut tillsammans med intervjuer och referenser, så som beskrivs under så fungerar det. Varje resultat visas med sitt resultatintervall och sin normgrupp, så att den som granskar kan förklara vad det betyder. Det finns dokumentation per testversion och granskningsloggar; mer under säkerhet och integritet. Inget av detta gör i sig en arbetsgivare regelefterlevande, och du kan ställa leverantörsfrågorna ovan till oss precis som till alla andra.
Källor
- Förordning (EU) 2024/1689 om fastställande av harmoniserade regler för artificiell intelligens (förordning om artificiell intelligens), Europeiska unionens officiella tidning, 12 juli 2024
- Förordning (EU) 2026/1744 om ändring av förordning (EU) 2024/1689 (Digital Omnibus on AI), Europeiska unionens officiella tidning, 24 juli 2026
- Förordning (EU) 2016/679 (allmän dataskyddsförordning), artikel 22