AI Act a narzędzia oceny w rekrutacji

AI wykorzystywana do selekcji kandydatów jest w świetle aktu w sprawie sztucznej inteligencji (AI Act) systemem wysokiego ryzyka. Co to oznacza dla stosowanych testów, które obowiązki spoczywają na dostawcy, a które na pracodawcy, i co warto zrobić już teraz.

W skrócie

  • Systemy AI wykorzystywane do rekrutacji, selekcji, awansowania lub oceny ludzi są systemami wysokiego ryzyka zgodnie z załącznikiem III do AI Act.
  • Nie każdy test psychometryczny jest systemem AI: kwestionariusz oceniany według stałego klucza może wykraczać poza tę definicję, natomiast ocenianie, szeregowanie lub dopasowywanie oparte na uczeniu maszynowym może się w niej mieścić.
  • Większość obowiązków spoczywa na dostawcach. Pracodawcy muszą używać systemu zgodnie z instrukcją, powierzyć nadzór ze strony człowieka kompetentnym osobom, przechowywać rejestry zdarzeń oraz informować pracowników i kandydatów.
  • Rozpoznawanie emocji w miejscu pracy jest zakazane od 2 lutego 2025 r. Obowiązki dotyczące systemów wysokiego ryzyka w rekrutacji obowiązują od 2 grudnia 2027 r.
  • Równolegle obowiązuje RODO, w tym jego przepisy dotyczące zautomatyzowanego podejmowania decyzji.

Dlaczego rekrutacja jest obszarem wysokiego ryzyka

AI Act, czyli rozporządzenie (UE) 2024/1689, klasyfikuje systemy AI według poziomu ryzyka. Załącznik III pkt 4 wymienia zatrudnienie jako obszar wysokiego ryzyka. Obejmuje on systemy AI przeznaczone do:

  • publikowania ukierunkowanych ogłoszeń o pracę
  • analizowania i filtrowania podań o pracę
  • oceny kandydatów
  • podejmowania lub wspierania decyzji o awansie, rozwiązaniu stosunku pracy i przydziale zadań oraz monitorowania lub oceny pracowników

Takie decyzje wpływają na źródło utrzymania ludzi, a system, który źle ocenia ludzi, robi to na dużą skalę. System z załącznika III, który profiluje osoby, na przykład oceniając osobowość lub zdolności w celu przewidywania efektywności w pracy, zawsze uznaje się za system wysokiego ryzyka.

Jedna praktyka jest zakazana bezwzględnie

Od 2 lutego 2025 r. zakazane są systemy AI, które na podstawie danych biometrycznych, takich jak mimika czy głos, wyciągają wnioski na temat emocji osób w miejscu pracy, z wyjątkiem względów medycznych lub bezpieczeństwa (art. 5 ust. 1 lit. f). Niewiążące wytyczne Komisji Europejskiej dotyczące zakazanych praktyk traktują kandydatów w procesie selekcji jako część kontekstu miejsca pracy. Należy zachować dużą ostrożność wobec narzędzi do rozmów wideo, które twierdzą, że odczytują entuzjazm, stres lub szczerość z twarzy lub głosu.

Czy Państwa narzędzie oceny jest systemem AI?

Przepisy dotyczące wysokiego ryzyka mają zastosowanie wyłącznie do systemu AI w rozumieniu art. 3 pkt 1: systemu maszynowego, który działa z pewnym poziomem autonomii i wnioskuje na podstawie otrzymanych danych wejściowych, jak generować wyniki, takie jak predykcje, zalecenia lub decyzje. To kryterium funkcjonalne, a nie etykieta. Nie przesądza o tym ani to, że dostawca nazywa produkt AI, ani to, że unika tego słowa. W przypadku narzędzi oceny różnica często tkwi w sposobie wyznaczania wyniku:

  • Kwestionariusz oceniany według stałego klucza i porównywany z grupą normatywną, zgodnie z regułami spisanymi przez ludzi, może wykraczać poza tę definicję.
  • Ocenianie, szeregowanie lub dopasowywanie przez model wytrenowany na danych, na przykład przewidujący sukces zawodowy na podstawie odpowiedzi, nagrań wideo lub CV, może się w niej mieścić.
  • Jedna platforma może zawierać oba elementy: klasycznie oceniany kwestionariusz osobowości obok funkcji dopasowywania opartej na uczeniu maszynowym.

Gdzie przebiega granica w przypadku konkretnego narzędzia, nie jest przesądzone w każdej sytuacji. Warto zapytać dostawcę, jak klasyfikuje poszczególne części swojego produktu i dlaczego, a odpowiedź zachować w dokumentacji. Jeśli sprawa pozostaje niejasna, i tak warto stosować zabezpieczenia przewidziane dla systemów wysokiego ryzyka: większość z nich to po prostu dobra praktyka oceny.

Przykład Dwa narzędzia, dwie odpowiedzi

Fikcyjna firma logistyczna korzysta z dwóch narzędzi: testu rozumowania, w którym wynikiem jest liczba poprawnych odpowiedzi przeliczana na centyl względem grupy normatywnej, oraz narzędzia do rozmów wideo, które szereguje kandydatów za pomocą modelu wytrenowanego na wcześniejszych decyzjach rekrutacyjnych. Drugie narzędzie firma traktuje jako system AI wysokiego ryzyka. Pierwsze prawdopodobnie nim nie jest, ale firma i tak dokumentuje, jak jego wyniki zostały wykorzystane w każdej decyzji.

Obowiązki dostawcy i obowiązki pracodawcy

Rozporządzenie odróżnia dostawcę, który opracowuje system i wprowadza go do obrotu, od podmiotu stosującego, który wykorzystuje system w ramach swoich uprawnień. W przypadku narzędzi oceny w rekrutacji dostawcą jest zwykle firma oferująca narzędzie, a pracodawca jest podmiotem stosującym.

Dostawca

  • zarządzanie ryzykiem w całym cyklu życia systemu
  • zarządzanie danymi, w tym badanie danych treningowych pod kątem możliwej stronniczości
  • dokumentacja techniczna, automatyczne rejestrowanie zdarzeń i instrukcja obsługi
  • konstrukcja umożliwiająca skuteczny nadzór ze strony człowieka
  • odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa
  • ocena zgodności i rejestracja w bazie danych UE

W przypadku systemów rekrutacyjnych ocena zgodności to procedura wewnętrzna przeprowadzana przez dostawcę, bez udziału jednostki zewnętrznej. Narzędzie reklamowane jako „certyfikowane zgodnie z AI Act” zasługuje więc na pytanie uzupełniające.

Pracodawca

Obowiązki podmiotu stosującego określa art. 26. W praktyce:

  • Używać systemu zgodnie z instrukcją obsługi dostawcy.
  • Powierzyć nadzór ze strony człowieka osobom, które mają do tego niezbędne kompetencje, przeszkolenie i uprawnienia.
  • Jeśli dane wejściowe są pod kontrolą pracodawcy, zadbać o to, by były adekwatne i wystarczająco reprezentatywne.
  • Monitorować system, zgłaszać problemy dostawcy i wstrzymać korzystanie z niego w razie stwierdzenia ryzyka.
  • Przechowywać kontrolowane przez siebie rejestry zdarzeń przez co najmniej sześć miesięcy, chyba że inne przepisy stanowią inaczej.
  • Przed wdrożeniem systemu wysokiego ryzyka w miejscu pracy poinformować przedstawicieli pracowników i pracowników, których to dotyczy.
  • Informować kandydatów o stosowaniu systemu wysokiego ryzyka, jeśli podejmuje on decyzje ich dotyczące lub pomaga w ich podejmowaniu.

Zgodnie z art. 86 osoba, której dotyczy decyzja oparta na wyniku takiego systemu, może w określonych przypadkach zażądać jasnego wyjaśnienia roli systemu i głównych elementów decyzji. A jeśli pracodawca istotnie zmodyfikuje system lub wykorzysta go do celu wysokiego ryzyka, którego dostawca nie przewidział, sam może stać się dostawcą (art. 25).

Równolegle obowiązuje RODO. Art. 22 daje ludziom prawo do tego, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, która wywołuje wobec nich skutki prawne lub w podobny sposób istotnie na nich wpływa, chyba że ma zastosowanie wyjątek i wdrożono odpowiednie zabezpieczenia.

Harmonogram

  • 1 sierpnia 2024 r.: AI Act wszedł w życie.
  • 2 lutego 2025 r.: zaczęły obowiązywać zakazy, w tym zakaz rozpoznawania emocji w miejscu pracy.
  • Tekst przyjęty w 2024 r. wyznaczał 2 sierpnia 2026 r. jako termin obowiązków dotyczących systemów wysokiego ryzyka z załącznika III.
  • Omnibus cyfrowy dotyczący AI, rozporządzenie (UE) 2026/1744 opublikowane w lipcu 2026 r., przesunął ten termin: obowiązki dotyczące systemów wysokiego ryzyka z załącznika III, w tym w rekrutacji, obowiązują teraz od 2 grudnia 2027 r.

Przesunięcie daje więcej czasu, ale nie zmienia wymagań. Umowy z dostawcami i procedury ustalane teraz często będą nadal obowiązywać w 2027 r., dlatego warto od początku uwzględnić w nich te wymagania. RODO i krajowe prawo pracy, w tym ewentualne uprawnienia przedstawicielstw pracowników, obowiązują już dziś.

Praktyczna lista kontrolna dla pracodawców

Pytania do dostawcy

  • Które części Państwa produktu uważają Państwo za system AI w rozumieniu AI Act i dlaczego?
  • Jeśli któraś część jest systemem wysokiego ryzyka, czy możemy zobaczyć instrukcję obsługi i kiedy zostaną przeprowadzone ocena zgodności i rejestracja?
  • Jakie są dowody rzetelności i trafności dla naszego zastosowania i czy są udokumentowane, na przykład w podręczniku technicznym?
  • Jak badają Państwo stronniczość i jakie są ograniczenia tych analiz?
  • Czy dane kandydatów są wykorzystywane do trenowania modeli i na jakiej podstawie prawnej?

Nadzór ze strony człowieka i informowanie

  • Należy przeszkolić osoby analizujące wyniki w interpretacji wyników, w tym przedziałów wyników i grup normatywnych, oraz uczulić je na skłonność do nadmiernego polegania na systemie (automation bias), czyli podążania za nim tylko dlatego, że wydaje się obiektywny.
  • Osoby te powinny mieć uprawnienia do odstąpienia od rankingu i dokumentować, dlaczego to zrobiły. Wynik ani próg odcięcia nigdy nie powinny odrzucać kandydata, zanim przyjrzy się temu człowiek.
  • Kandydaci powinni wiedzieć, jakie testy wykonują, w jakim celu, kto widzi wyniki i jak długo są one przechowywane. Warto też przygotować się na odpowiedź na prośbę o wyjaśnienie.

Dokumentacja i monitorowanie

  • Dla każdej rekrutacji należy zapisywać, jakie narzędzia oceny zastosowano, jak zważono wyniki i kto podjął decyzję.
  • Warto regularnie analizować rezultaty we własnej procedurze, na przykład wskaźniki selekcji w poszczególnych grupach, o ile dane te można zbierać zgodnie z prawem. Co takie analizy mogą, a czego nie mogą wykazać, opisano na stronie Bezstronność testów.

Co to oznacza dla konstrukcji Match.hr

Traktujemy rekrutację jako zastosowanie wysokiego ryzyka w rozumieniu rozporządzenia i już teraz projektujemy z myślą o jego wymaganiach. Decyzję zawsze podejmuje człowiek: platforma nigdy automatycznie nie odrzuca kandydatów, a raport wspiera ustrukturyzowaną decyzję obok rozmów i referencji, jak opisano na stronie Jak to działa. Każdy wynik jest pokazywany wraz z przedziałem wyników i grupą normatywną, aby osoba oceniająca mogła wyjaśnić jego znaczenie. Dla każdej wersji testu istnieje dokumentacja, prowadzone są też rejestry zdarzeń; więcej na stronie Bezpieczeństwo i prywatność. Nic z tego samo w sobie nie zapewnia pracodawcy zgodności z przepisami, a powyższe pytania do dostawcy mogą Państwo zadać nam tak samo jak każdemu innemu.

Źródła

Najczęściej zadawane pytania

Czy kwestionariusz osobowości jest systemem AI wysokiego ryzyka?

Niekoniecznie. Przepisy dotyczące wysokiego ryzyka mają zastosowanie do systemów AI, a kwestionariusz oceniany według stałego klucza względem grupy normatywnej może nie spełniać tej definicji. Jeśli wyniki są wyznaczane, łączone lub szeregowane przez model wytrenowany na danych, narzędzie może się w niej mieścić, a jeśli służy do oceny kandydatów, jest wtedy systemem wysokiego ryzyka. Warto poprosić dostawcę o jego klasyfikację wraz z uzasadnieniem.

Czy nadal można stosować progi odcięcia?

AI Act nie zakazuje progów odcięcia. Jednak próg, który odrzuca kandydatów bez udziału człowieka, trudno pogodzić z nadzorem ze strony człowieka i może naruszać art. 22 RODO. Próg warto traktować jako sygnał do weryfikacji, uzasadnić go wymaganiami stanowiska i sprawdzać jego wpływ na różne grupy we własnej procedurze.

Czy trzeba informować kandydatów?

Tak. Już na mocy RODO należy informować kandydatów o tym, jak wykorzystywane są ich dane. Gdy zaczną obowiązywać przepisy dotyczące wysokiego ryzyka, podmioty stosujące system z załącznika III, który podejmuje decyzje dotyczące ludzi lub pomaga w ich podejmowaniu, będą musiały również informować te osoby o stosowaniu takiego systemu. Krótki, jasny akapit w zaproszeniu obejmuje większość kwestii: jakie testy, w jakim celu, kto widzi wyniki i że decyzję podejmuje człowiek.

Czy przesunięcie terminu oznacza, że możemy poczekać?

Obowiązki dotyczące systemów rekrutacyjnych obowiązują od 2 grudnia 2027 r., ale zakaz rozpoznawania emocji i RODO obowiązują już dziś. Umowy i procedury wybrane teraz zwykle będą wtedy nadal obowiązywać, dlatego pytania warto zadać dostawcom na etapie wyboru, a nie później.

Przebadaj pierwszego kandydata jeszcze dziś

Darmowe konto, bez karty kredytowej, wyniki w kilka minut.