EU:n tekoälysäädös ja arvioinnit rekrytoinnissa

Hakijoiden valinnassa käytettävä tekoäly on EU:n tekoälysäädöksessä suuririskistä. Mitä se tarkoittaa käyttämillesi testeille, mitkä velvollisuudet kuuluvat toimittajalle ja mitkä sinulle työnantajana, ja mitä kannattaa tehdä nyt.

Lyhyesti

  • Tekoälyjärjestelmät, joita käytetään ihmisten rekrytointiin, valintaan, ylentämiseen tai arviointiin, ovat tekoälysäädöksen liitteen III mukaan suuririskisiä.
  • Jokainen psykometrinen testi ei ole tekoälyjärjestelmä: kiinteällä pisteytysavaimella pisteytetty kysely voi jäädä soveltamisalan ulkopuolelle, kun taas koneoppimiseen perustuva pisteytys, järjestykseen asettaminen tai yhteensovitus voi kuulua siihen.
  • Suurin osa velvoitteista on toimittajalla. Työnantajan on käytettävä järjestelmää ohjeiden mukaisesti, nimettävä pätevät ihmiset valvomaan sitä, säilytettävä lokit ja tiedotettava työntekijöille ja hakijoille.
  • Tunteiden tunnistaminen työpaikalla on ollut kiellettyä 2. helmikuuta 2025 alkaen. Rekrytointijärjestelmiä koskevia suuren riskin velvoitteita sovelletaan 2. joulukuuta 2027 alkaen.
  • Yleistä tietosuoja-asetusta sovelletaan rinnalla, myös sen automatisoituja päätöksiä koskevia sääntöjä.

Miksi rekrytointi on suuren riskin aluetta

Tekoälysäädös eli asetus (EU) 2024/1689 luokittelee tekoälyjärjestelmät riskin mukaan. Liitteen III 4 kohdassa työllistäminen mainitaan suuren riskin alueena. Kohta kattaa tekoälyjärjestelmät, jotka on tarkoitettu

  • kohdennettujen työpaikkailmoitusten julkaisemiseen
  • työhakemusten analysointiin ja suodattamiseen
  • hakijoiden arviointiin
  • ylennyksiä, työsuhteen päättämistä ja tehtävien jakamista koskevien päätösten tekemiseen tai tukemiseen sekä työntekijöiden seurantaan tai arviointiin

Nämä päätökset vaikuttavat ihmisten toimeentuloon, ja järjestelmä, joka arvioi ihmisiä huonosti, tekee sen laajassa mittakaavassa. Liitteen III järjestelmää, joka profiloi ihmisiä esimerkiksi arvioimalla persoonallisuutta tai kykyjä työsuorituksen ennustamiseksi, pidetään aina suuririskisenä.

Yksi käytäntö on kokonaan kielletty

Tekoälyjärjestelmät, jotka päättelevät ihmisten tunteita työpaikalla biometristen tietojen, kuten kasvonilmeiden tai äänen, perusteella, ovat 2. helmikuuta 2025 alkaen olleet kiellettyjä lääketieteellisiä ja turvallisuussyitä lukuun ottamatta (5 artiklan 1 kohdan f alakohta). Euroopan komission kiellettyjä käytäntöjä koskevissa, oikeudellisesti sitomattomissa suuntaviivoissa valintamenettelyssä olevat hakijat katsotaan osaksi työpaikkaympäristöä. Suhtaudu erittäin varauksellisesti videohaastattelutyökaluihin, jotka väittävät lukevansa innostusta, stressiä tai rehellisyyttä kasvoista tai äänestä.

Onko arviointisi tekoälyjärjestelmä?

Suuren riskin säännöt koskevat vain 3 artiklan 1 alakohdassa määriteltyä tekoälyjärjestelmää: konepohjaista järjestelmää, joka toimii jossain määrin itsenäisesti ja päättelee saamastaan syötteestä, miten se tuottaa tuotoksia, kuten ennusteita, suosituksia tai päätöksiä. Kyse on toiminnallisesta arviosta, ei nimityksestä. Se, että toimittaja kutsuu tuotettaan tekoälyksi, ei ratkaise asiaa, eikä myöskään se, että toimittaja välttelee sanaa. Arvioinneissa ero on usein siinä, miten pistemäärä tuotetaan:

  • Kysely, joka pisteytetään kiinteällä avaimella ja jota verrataan normiryhmään ihmisten laatimien sääntöjen mukaan, voi jäädä määritelmän ulkopuolelle.
  • Pisteytys, järjestykseen asettaminen tai yhteensovitus mallilla, joka on oppinut datasta, esimerkiksi ennustaa työssä menestymistä vastausten, videon tai CV:n perusteella, voi kuulua määritelmän piiriin.
  • Samassa alustassa voi olla molempia: perinteisesti pisteytetty persoonallisuuskysely ja sen rinnalla koneoppimiseen perustuva yhteensovitustoiminto.

Raja ei ole jokaisen työkalun kohdalla vielä selvä. Kysy toimittajalta, miten se luokittelee tuotteensa kunkin osan ja millä perusteella, ja arkistoi vastaus. Jos asia jää epäselväksi, noudata suuren riskin suojakeinoja silti: useimmat niistä ovat yksinkertaisesti hyvää arviointikäytäntöä.

Esimerkki Kaksi työkalua, kaksi vastausta

Kuvitteellinen logistiikkayritys käyttää kahta työkalua: päättelytestiä, joka pisteytetään oikeiden vastausten määränä ja muunnetaan persentiiliksi normiryhmään verrattuna, sekä videohaastattelutyökalua, joka asettaa hakijat järjestykseen aiemmilla rekrytointipäätöksillä koulutetun mallin avulla. Yritys käsittelee jälkimmäistä suuririskisenä tekoälyjärjestelmänä. Ensimmäinen ei luultavasti ole sellainen, mutta yritys kirjaa silti, miten sen pisteitä käytettiin kussakin päätöksessä.

Mitä toimittajan on tehtävä ja mitä sinun

Säädös erottaa toisistaan tarjoajan, joka kehittää järjestelmän ja saattaa sen markkinoille, ja käyttöönottajan, joka käyttää järjestelmää omalla vastuullaan. Rekrytoinnin arvioinneissa toimittaja on yleensä tarjoaja ja sinä työnantajana käyttöönottaja.

Tarjoaja

  • riskienhallinta koko elinkaaren ajan
  • datanhallinta, mukaan lukien koulutusdatan tarkastelu mahdollisten vinoumien varalta
  • tekninen dokumentaatio, automaattinen lokikirjaus ja käyttöohjeet
  • rakenne, joka mahdollistaa tehokkaan ihmisen suorittaman valvonnan
  • asianmukainen tarkkuus, vakaus ja kyberturvallisuus
  • vaatimustenmukaisuuden arviointi ja rekisteröinti EU:n tietokantaan

Rekrytointijärjestelmien vaatimustenmukaisuuden arviointi on tarjoajan sisäinen menettely ilman ulkopuolista tahoa. Jos työkalua mainostetaan tekoälysäädöksen mukaan sertifioituna, kannattaa siis kysyä tarkemmin.

Sinä työnantajana

Käyttöönottajan velvollisuudet on säädetty 26 artiklassa. Käytännössä:

  • Käytä järjestelmää tarjoajan käyttöohjeiden mukaisesti.
  • Anna ihmisen suorittama valvonta henkilöille, joilla on siihen tarvittava pätevyys, koulutus ja valtuudet.
  • Jos syöttötiedot ovat hallinnassasi, varmista, että ne ovat asianmukaisia ja riittävän edustavia.
  • Seuraa järjestelmän toimintaa, ilmoita ongelmista tarjoajalle ja keskeytä käyttö, jos havaitset riskin.
  • Säilytä hallinnassasi olevat lokit vähintään kuuden kuukauden ajan, ellei muusta lainsäädännöstä muuta johdu.
  • Tiedota työntekijöiden edustajille ja asianomaisille työntekijöille ennen kuin otat suuririskisen järjestelmän käyttöön työpaikalla.
  • Kerro hakijoille, että käytössä on suuririskinen järjestelmä, kun se tekee heitä koskevia päätöksiä tai avustaa niiden tekemisessä.

Henkilöllä, johon tällaisen järjestelmän tuotokseen perustuva päätös vaikuttaa, on 86 artiklan nojalla tietyissä tapauksissa oikeus saada selkeä selvitys järjestelmän roolista ja päätöksen keskeisistä tekijöistä. Jos muutat järjestelmää merkittävästi tai käytät sitä suuren riskin käyttötarkoitukseen, jota tarjoaja ei ole tarkoittanut, voit itse muuttua tarjoajaksi (25 artikla).

Yleistä tietosuoja-asetusta sovelletaan rinnalla. Sen 22 artikla antaa ihmisille oikeuden olla joutumatta sellaisen päätöksen kohteeksi, joka perustuu pelkästään automaattiseen käsittelyyn, kuten profilointiin, ja jolla on oikeusvaikutuksia tai vastaavalla tavalla merkittäviä vaikutuksia, ellei jokin poikkeus sovellu ja suojatoimia ole käytössä.

Aikataulu

  • 1. elokuuta 2024: tekoälysäädös tuli voimaan.
  • 2. helmikuuta 2025: kieltoja aletaan soveltaa, myös tunteiden tunnistamisen kieltoa työpaikalla.
  • Vuonna 2024 hyväksytyssä tekstissä liitteen III järjestelmien suuren riskin velvoitteiden soveltamisen alkamispäiväksi asetettiin 2. elokuuta 2026.
  • Heinäkuussa 2026 julkaistu tekoälyä koskeva digitaalinen omnibus (Digital Omnibus on AI), asetus (EU) 2026/1744, siirsi päivämäärää: liitteen III järjestelmien suuren riskin velvoitteita, myös rekrytointia koskevia, sovelletaan nyt 2. joulukuuta 2027 alkaen.

Lykkäys antaa lisäaikaa, mutta ei muuta vaatimuksia. Nyt laaditut toimittajasopimukset ja menettelyt ovat usein voimassa vielä vuonna 2027, joten rakenna vaatimukset niihin alusta asti. Yleistä tietosuoja-asetusta ja kansallista työlainsäädäntöä, mukaan lukien henkilöstön edustajien mahdolliset oikeudet, sovelletaan jo nyt.

Käytännön tarkistuslista työnantajille

Kysymyksiä toimittajalle

  • Mitkä tuotteenne osat ovat mielestänne tekoälysäädöksen tarkoittamia tekoälyjärjestelmiä, ja miksi?
  • Jos jokin osa on suuririskinen, voimmeko nähdä käyttöohjeet, ja milloin vaatimustenmukaisuuden arviointi ja rekisteröinti ovat valmiina?
  • Mitä näyttöä reliabiliteetista ja validiteetista on meidän käyttötarkoitukseemme, ja onko se dokumentoitu esimerkiksi teknisessä käsikirjassa?
  • Miten tarkastelette vinoumia, ja mitkä ovat näiden analyysien rajat?
  • Käytetäänkö hakijoiden tietoja mallien kouluttamiseen, ja millä oikeusperusteella?

Ihmisen suorittama valvonta ja tiedottaminen

  • Kouluta tuloksia tarkastelevat henkilöt tulkitsemaan pisteitä, myös luottamusvälejä ja normiryhmiä, ja varomaan automaatiovinoumaa: taipumusta seurata järjestelmää, koska se vaikuttaa objektiiviselta.
  • Anna heille valtuudet poiketa järjestyksestä ja kirjata, miksi he tekivät niin. Älä koskaan anna pistemäärän tai karsintarajan hylätä hakijaa ilman, että ihminen katsoo asiaa.
  • Kerro hakijoille, mitä arviointeja he tekevät, mihin tarkoitukseen, kuka näkee tulokset ja kuinka kauan niitä säilytetään, ja valmistaudu vastaamaan pyyntöön saada selvitys.

Dokumentointi ja seuranta

  • Kirjaa jokaisesta avoimesta tehtävästä, mitä arviointeja käytettiin, miten pisteitä painotettiin ja kuka päätti.
  • Tarkastele säännöllisesti oman menettelysi tuloksia, kuten valintasuhteita ryhmittäin silloin, kun saat lain mukaan kerätä näitä tietoja. Sivulta Reiluus ja vinoumat näet, mitä tällaiset analyysit voivat osoittaa ja mitä eivät.

Mitä tämä tarkoittaa Match.hr:n rakentamiselle

Käsittelemme rekrytointia säädöksen kuvaamana suuren riskin käyttönä ja rakennamme sen vaatimusten mukaan jo nyt. Päätöksen tekee aina ihminen: alusta ei koskaan hylkää hakijoita automaattisesti, ja raportti tukee jäsenneltyä päätöksentekoa haastattelujen ja suositusten rinnalla, kuten sivulla Näin se toimii kuvataan. Jokainen pistemäärä näytetään luottamusvälin ja normiryhmän kanssa, jotta tarkastelija voi selittää, mitä se tarkoittaa. Jokaisesta testiversiosta on dokumentaatio, ja käytössä on auditointilokit; lisää sivulla Tietoturva. Mikään tästä ei yksinään tee työnantajasta säädöksen mukaista, ja voit esittää yllä olevat toimittajakysymykset meille siinä missä muillekin.

Lähteet

Usein kysytyt kysymykset

Onko persoonallisuuskysely suuririskinen tekoälyjärjestelmä?

Ei välttämättä. Suuren riskin säännöt koskevat tekoälyjärjestelmiä, eikä kiinteällä avaimella normiryhmään verrattuna pisteytetty kysely välttämättä täytä määritelmää. Jos pisteet tuottaa, yhdistää tai asettaa järjestykseen malli, joka on oppinut datasta, työkalu voi kuulua määritelmän piiriin, ja hakijoiden arviointiin käytettynä se on silloin suuririskinen. Pyydä toimittajalta sen luokittelu ja perustelut.

Voimmeko edelleen käyttää karsintarajoja?

Tekoälysäädös ei kiellä karsintarajoja. Karsintaraja, joka hylkää hakijoita ilman että kukaan katsoo asiaa, sopii kuitenkin huonosti yhteen ihmisen suorittaman valvonnan kanssa ja voi olla ristiriidassa yleisen tietosuoja-asetuksen 22 artiklan kanssa. Käytä karsintarajaa merkkinä tarkemmasta tarkastelusta, perustele se tehtävän vaatimuksilla ja tarkista sen vaikutus eri ryhmiin menettelyssäsi.

Pitääkö meidän kertoa hakijoille?

Kyllä. Yleisen tietosuoja-asetuksen mukaan sinun on jo nyt kerrottava hakijoille, miten heidän tietojaan käytetään. Kun suuren riskin velvoitteita aletaan soveltaa, liitteen III järjestelmän käyttöönottajien, joiden järjestelmä tekee ihmisiä koskevia päätöksiä tai avustaa niissä, on lisäksi kerrottava näille ihmisille, että tällaista järjestelmää käytetään. Lyhyt ja selkeä kappale kutsussa kattaa suurimman osan: mitkä arvioinnit, mihin tarkoitukseen, kuka näkee tulokset ja että päätöksen tekee ihminen.

Tarkoittaako lykkäys, että voimme odottaa?

Rekrytointijärjestelmiä koskevia velvoitteita sovelletaan 2. joulukuuta 2027 alkaen, mutta tunteiden tunnistamisen kieltoa ja yleistä tietosuoja-asetusta sovelletaan jo tänään. Nyt valitsemasi sopimukset ja menettelyt ovat yleensä yhä voimassa silloin, joten esitä kysymykset toimittajille, kun valitset heitä, älä vasta jälkikäteen.

Testaa ensimmäinen hakijasi jo tänään

Maksuton tili, ei luottokorttia, tulokset minuuteissa.