AI Act a narzędzia oceny w rekrutacji
AI wykorzystywana do selekcji kandydatów jest w świetle aktu w sprawie sztucznej inteligencji (AI Act) systemem wysokiego ryzyka. Co to oznacza dla stosowanych testów, które obowiązki spoczywają na dostawcy, a które na pracodawcy, i co warto zrobić już teraz.
W skrócie
- Systemy AI wykorzystywane do rekrutacji, selekcji, awansowania lub oceny ludzi są systemami wysokiego ryzyka zgodnie z załącznikiem III do AI Act.
- Nie każdy test psychometryczny jest systemem AI: kwestionariusz oceniany według stałego klucza może wykraczać poza tę definicję, natomiast ocenianie, szeregowanie lub dopasowywanie oparte na uczeniu maszynowym może się w niej mieścić.
- Większość obowiązków spoczywa na dostawcach. Pracodawcy muszą używać systemu zgodnie z instrukcją, powierzyć nadzór ze strony człowieka kompetentnym osobom, przechowywać rejestry zdarzeń oraz informować pracowników i kandydatów.
- Rozpoznawanie emocji w miejscu pracy jest zakazane od 2 lutego 2025 r. Obowiązki dotyczące systemów wysokiego ryzyka w rekrutacji obowiązują od 2 grudnia 2027 r.
- Równolegle obowiązuje RODO, w tym jego przepisy dotyczące zautomatyzowanego podejmowania decyzji.
Dlaczego rekrutacja jest obszarem wysokiego ryzyka
AI Act, czyli rozporządzenie (UE) 2024/1689, klasyfikuje systemy AI według poziomu ryzyka. Załącznik III pkt 4 wymienia zatrudnienie jako obszar wysokiego ryzyka. Obejmuje on systemy AI przeznaczone do:
- publikowania ukierunkowanych ogłoszeń o pracę
- analizowania i filtrowania podań o pracę
- oceny kandydatów
- podejmowania lub wspierania decyzji o awansie, rozwiązaniu stosunku pracy i przydziale zadań oraz monitorowania lub oceny pracowników
Takie decyzje wpływają na źródło utrzymania ludzi, a system, który źle ocenia ludzi, robi to na dużą skalę. System z załącznika III, który profiluje osoby, na przykład oceniając osobowość lub zdolności w celu przewidywania efektywności w pracy, zawsze uznaje się za system wysokiego ryzyka.
Jedna praktyka jest zakazana bezwzględnie
Od 2 lutego 2025 r. zakazane są systemy AI, które na podstawie danych biometrycznych, takich jak mimika czy głos, wyciągają wnioski na temat emocji osób w miejscu pracy, z wyjątkiem względów medycznych lub bezpieczeństwa (art. 5 ust. 1 lit. f). Niewiążące wytyczne Komisji Europejskiej dotyczące zakazanych praktyk traktują kandydatów w procesie selekcji jako część kontekstu miejsca pracy. Należy zachować dużą ostrożność wobec narzędzi do rozmów wideo, które twierdzą, że odczytują entuzjazm, stres lub szczerość z twarzy lub głosu.
Czy Państwa narzędzie oceny jest systemem AI?
Przepisy dotyczące wysokiego ryzyka mają zastosowanie wyłącznie do systemu AI w rozumieniu art. 3 pkt 1: systemu maszynowego, który działa z pewnym poziomem autonomii i wnioskuje na podstawie otrzymanych danych wejściowych, jak generować wyniki, takie jak predykcje, zalecenia lub decyzje. To kryterium funkcjonalne, a nie etykieta. Nie przesądza o tym ani to, że dostawca nazywa produkt AI, ani to, że unika tego słowa. W przypadku narzędzi oceny różnica często tkwi w sposobie wyznaczania wyniku:
- Kwestionariusz oceniany według stałego klucza i porównywany z grupą normatywną, zgodnie z regułami spisanymi przez ludzi, może wykraczać poza tę definicję.
- Ocenianie, szeregowanie lub dopasowywanie przez model wytrenowany na danych, na przykład przewidujący sukces zawodowy na podstawie odpowiedzi, nagrań wideo lub CV, może się w niej mieścić.
- Jedna platforma może zawierać oba elementy: klasycznie oceniany kwestionariusz osobowości obok funkcji dopasowywania opartej na uczeniu maszynowym.
Gdzie przebiega granica w przypadku konkretnego narzędzia, nie jest przesądzone w każdej sytuacji. Warto zapytać dostawcę, jak klasyfikuje poszczególne części swojego produktu i dlaczego, a odpowiedź zachować w dokumentacji. Jeśli sprawa pozostaje niejasna, i tak warto stosować zabezpieczenia przewidziane dla systemów wysokiego ryzyka: większość z nich to po prostu dobra praktyka oceny.
Fikcyjna firma logistyczna korzysta z dwóch narzędzi: testu rozumowania, w którym wynikiem jest liczba poprawnych odpowiedzi przeliczana na centyl względem grupy normatywnej, oraz narzędzia do rozmów wideo, które szereguje kandydatów za pomocą modelu wytrenowanego na wcześniejszych decyzjach rekrutacyjnych. Drugie narzędzie firma traktuje jako system AI wysokiego ryzyka. Pierwsze prawdopodobnie nim nie jest, ale firma i tak dokumentuje, jak jego wyniki zostały wykorzystane w każdej decyzji.
Obowiązki dostawcy i obowiązki pracodawcy
Rozporządzenie odróżnia dostawcę, który opracowuje system i wprowadza go do obrotu, od podmiotu stosującego, który wykorzystuje system w ramach swoich uprawnień. W przypadku narzędzi oceny w rekrutacji dostawcą jest zwykle firma oferująca narzędzie, a pracodawca jest podmiotem stosującym.
Dostawca
- zarządzanie ryzykiem w całym cyklu życia systemu
- zarządzanie danymi, w tym badanie danych treningowych pod kątem możliwej stronniczości
- dokumentacja techniczna, automatyczne rejestrowanie zdarzeń i instrukcja obsługi
- konstrukcja umożliwiająca skuteczny nadzór ze strony człowieka
- odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa
- ocena zgodności i rejestracja w bazie danych UE
W przypadku systemów rekrutacyjnych ocena zgodności to procedura wewnętrzna przeprowadzana przez dostawcę, bez udziału jednostki zewnętrznej. Narzędzie reklamowane jako „certyfikowane zgodnie z AI Act” zasługuje więc na pytanie uzupełniające.
Pracodawca
Obowiązki podmiotu stosującego określa art. 26. W praktyce:
- Używać systemu zgodnie z instrukcją obsługi dostawcy.
- Powierzyć nadzór ze strony człowieka osobom, które mają do tego niezbędne kompetencje, przeszkolenie i uprawnienia.
- Jeśli dane wejściowe są pod kontrolą pracodawcy, zadbać o to, by były adekwatne i wystarczająco reprezentatywne.
- Monitorować system, zgłaszać problemy dostawcy i wstrzymać korzystanie z niego w razie stwierdzenia ryzyka.
- Przechowywać kontrolowane przez siebie rejestry zdarzeń przez co najmniej sześć miesięcy, chyba że inne przepisy stanowią inaczej.
- Przed wdrożeniem systemu wysokiego ryzyka w miejscu pracy poinformować przedstawicieli pracowników i pracowników, których to dotyczy.
- Informować kandydatów o stosowaniu systemu wysokiego ryzyka, jeśli podejmuje on decyzje ich dotyczące lub pomaga w ich podejmowaniu.
Zgodnie z art. 86 osoba, której dotyczy decyzja oparta na wyniku takiego systemu, może w określonych przypadkach zażądać jasnego wyjaśnienia roli systemu i głównych elementów decyzji. A jeśli pracodawca istotnie zmodyfikuje system lub wykorzysta go do celu wysokiego ryzyka, którego dostawca nie przewidział, sam może stać się dostawcą (art. 25).
Równolegle obowiązuje RODO. Art. 22 daje ludziom prawo do tego, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, która wywołuje wobec nich skutki prawne lub w podobny sposób istotnie na nich wpływa, chyba że ma zastosowanie wyjątek i wdrożono odpowiednie zabezpieczenia.
Harmonogram
- 1 sierpnia 2024 r.: AI Act wszedł w życie.
- 2 lutego 2025 r.: zaczęły obowiązywać zakazy, w tym zakaz rozpoznawania emocji w miejscu pracy.
- Tekst przyjęty w 2024 r. wyznaczał 2 sierpnia 2026 r. jako termin obowiązków dotyczących systemów wysokiego ryzyka z załącznika III.
- Omnibus cyfrowy dotyczący AI, rozporządzenie (UE) 2026/1744 opublikowane w lipcu 2026 r., przesunął ten termin: obowiązki dotyczące systemów wysokiego ryzyka z załącznika III, w tym w rekrutacji, obowiązują teraz od 2 grudnia 2027 r.
Przesunięcie daje więcej czasu, ale nie zmienia wymagań. Umowy z dostawcami i procedury ustalane teraz często będą nadal obowiązywać w 2027 r., dlatego warto od początku uwzględnić w nich te wymagania. RODO i krajowe prawo pracy, w tym ewentualne uprawnienia przedstawicielstw pracowników, obowiązują już dziś.
Praktyczna lista kontrolna dla pracodawców
Pytania do dostawcy
- Które części Państwa produktu uważają Państwo za system AI w rozumieniu AI Act i dlaczego?
- Jeśli któraś część jest systemem wysokiego ryzyka, czy możemy zobaczyć instrukcję obsługi i kiedy zostaną przeprowadzone ocena zgodności i rejestracja?
- Jakie są dowody rzetelności i trafności dla naszego zastosowania i czy są udokumentowane, na przykład w podręczniku technicznym?
- Jak badają Państwo stronniczość i jakie są ograniczenia tych analiz?
- Czy dane kandydatów są wykorzystywane do trenowania modeli i na jakiej podstawie prawnej?
Nadzór ze strony człowieka i informowanie
- Należy przeszkolić osoby analizujące wyniki w interpretacji wyników, w tym przedziałów wyników i grup normatywnych, oraz uczulić je na skłonność do nadmiernego polegania na systemie (automation bias), czyli podążania za nim tylko dlatego, że wydaje się obiektywny.
- Osoby te powinny mieć uprawnienia do odstąpienia od rankingu i dokumentować, dlaczego to zrobiły. Wynik ani próg odcięcia nigdy nie powinny odrzucać kandydata, zanim przyjrzy się temu człowiek.
- Kandydaci powinni wiedzieć, jakie testy wykonują, w jakim celu, kto widzi wyniki i jak długo są one przechowywane. Warto też przygotować się na odpowiedź na prośbę o wyjaśnienie.
Dokumentacja i monitorowanie
- Dla każdej rekrutacji należy zapisywać, jakie narzędzia oceny zastosowano, jak zważono wyniki i kto podjął decyzję.
- Warto regularnie analizować rezultaty we własnej procedurze, na przykład wskaźniki selekcji w poszczególnych grupach, o ile dane te można zbierać zgodnie z prawem. Co takie analizy mogą, a czego nie mogą wykazać, opisano na stronie Bezstronność testów.
Co to oznacza dla konstrukcji Match.hr
Traktujemy rekrutację jako zastosowanie wysokiego ryzyka w rozumieniu rozporządzenia i już teraz projektujemy z myślą o jego wymaganiach. Decyzję zawsze podejmuje człowiek: platforma nigdy automatycznie nie odrzuca kandydatów, a raport wspiera ustrukturyzowaną decyzję obok rozmów i referencji, jak opisano na stronie Jak to działa. Każdy wynik jest pokazywany wraz z przedziałem wyników i grupą normatywną, aby osoba oceniająca mogła wyjaśnić jego znaczenie. Dla każdej wersji testu istnieje dokumentacja, prowadzone są też rejestry zdarzeń; więcej na stronie Bezpieczeństwo i prywatność. Nic z tego samo w sobie nie zapewnia pracodawcy zgodności z przepisami, a powyższe pytania do dostawcy mogą Państwo zadać nam tak samo jak każdemu innemu.
Źródła
- Rozporządzenie (UE) 2024/1689 w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (akt w sprawie sztucznej inteligencji), Dziennik Urzędowy Unii Europejskiej, 12 lipca 2024 r.
- Rozporządzenie (UE) 2026/1744 zmieniające rozporządzenie (UE) 2024/1689 (omnibus cyfrowy dotyczący AI), Dziennik Urzędowy Unii Europejskiej, 24 lipca 2026 r.
- Rozporządzenie (UE) 2016/679 (ogólne rozporządzenie o ochronie danych, RODO), art. 22