Đạo luật AI của EU và các bài đánh giá trong tuyển dụng
AI được dùng để tuyển chọn ứng viên thuộc nhóm rủi ro cao theo Đạo luật AI của EU. Điều đó có ý nghĩa gì với các bài test bạn đang dùng, nghĩa vụ nào thuộc về nhà cung cấp và nghĩa vụ nào thuộc về doanh nghiệp của bạn với tư cách người sử dụng lao động, và bạn nên làm gì ngay bây giờ.
Tóm tắt
- Các hệ thống AI dùng để tuyển dụng, tuyển chọn, thăng chức hoặc đánh giá con người thuộc nhóm rủi ro cao theo Phụ lục III của Đạo luật AI.
- Không phải mọi bài trắc nghiệm tâm lý đều là hệ thống AI: một bảng hỏi được chấm theo khóa điểm cố định có thể nằm ngoài phạm vi, trong khi việc chấm điểm, xếp hạng hoặc đối sánh bằng học máy có thể nằm trong phạm vi.
- Nhà cung cấp gánh phần lớn nghĩa vụ. Người sử dụng lao động phải dùng hệ thống theo hướng dẫn, phân công người có năng lực giám sát, lưu giữ nhật ký hệ thống và thông báo cho người lao động và ứng viên.
- Nhận diện cảm xúc tại nơi làm việc đã bị cấm từ ngày 2 tháng 2 năm 2025. Các nghĩa vụ rủi ro cao đối với hệ thống tuyển dụng áp dụng từ ngày 2 tháng 12 năm 2027.
- GDPR được áp dụng song song, bao gồm các quy định về quyết định tự động.
Vì sao tuyển dụng được coi là rủi ro cao
Đạo luật AI, Quy định (EU) 2024/1689, phân loại các hệ thống AI theo mức độ rủi ro. Phụ lục III, điểm 4, liệt kê việc làm là một lĩnh vực rủi ro cao. Lĩnh vực này bao gồm các hệ thống AI nhằm mục đích:
- đăng quảng cáo tuyển dụng có nhắm mục tiêu
- phân tích và sàng lọc hồ sơ ứng tuyển
- đánh giá ứng viên
- đưa ra hoặc hỗ trợ quyết định về thăng chức, chấm dứt hợp đồng và phân công nhiệm vụ, cũng như theo dõi hoặc đánh giá người lao động
Những quyết định này ảnh hưởng đến sinh kế của con người, và một hệ thống đánh giá con người sai sẽ sai trên quy mô lớn. Một hệ thống thuộc Phụ lục III có lập hồ sơ cá nhân (profiling), chẳng hạn đánh giá tính cách hoặc năng lực để dự báo hiệu quả công việc, luôn được coi là rủi ro cao.
Một hình thức bị cấm hoàn toàn
Từ ngày 2 tháng 2 năm 2025, các hệ thống AI suy đoán cảm xúc của con người tại nơi làm việc từ dữ liệu sinh trắc học, chẳng hạn nét mặt hoặc giọng nói, bị cấm, trừ khi vì lý do y tế hoặc an toàn (Điều 5(1)(f)). Hướng dẫn không ràng buộc của Ủy ban châu Âu về các hành vi bị cấm coi ứng viên trong một quy trình tuyển chọn là thuộc bối cảnh nơi làm việc. Hãy hết sức thận trọng với các công cụ phỏng vấn video tuyên bố có thể đọc được sự nhiệt tình, căng thẳng hay sự trung thực từ khuôn mặt hoặc giọng nói.
Bài đánh giá của bạn có phải là hệ thống AI không?
Các quy định về rủi ro cao chỉ áp dụng cho hệ thống AI theo định nghĩa tại Điều 3(1): một hệ thống dựa trên máy móc, vận hành với một mức độ tự chủ nhất định và suy luận từ dữ liệu đầu vào cách tạo ra các đầu ra như dự báo, khuyến nghị hoặc quyết định. Đây là một phép thử về chức năng, không phải một cái nhãn. Việc nhà cung cấp gọi sản phẩm là AI không quyết định điều đó, và việc nhà cung cấp tránh dùng từ này cũng vậy. Với các bài đánh giá, sự khác biệt thường nằm ở cách điểm số được tạo ra:
- Một bảng hỏi được chấm theo khóa điểm cố định và so sánh với một nhóm chuẩn, theo các quy tắc do con người viết ra, có thể nằm ngoài định nghĩa.
- Việc chấm điểm, xếp hạng hoặc đối sánh bằng một mô hình đã học từ dữ liệu, chẳng hạn mô hình dự báo thành công trong công việc từ câu trả lời, video hoặc CV, có thể nằm trong định nghĩa.
- Một nền tảng có thể chứa cả hai: một bảng hỏi tính cách chấm điểm theo cách truyền thống bên cạnh một tính năng đối sánh bằng học máy.
Ranh giới nằm ở đâu đối với một công cụ cụ thể chưa được xác định rõ cho mọi trường hợp. Hãy hỏi nhà cung cấp họ phân loại từng phần của sản phẩm như thế nào và vì sao, rồi lưu lại câu trả lời. Khi vẫn chưa rõ ràng, hãy cứ áp dụng các biện pháp bảo đảm dành cho rủi ro cao: phần lớn trong số đó đơn giản là thực hành đánh giá tốt.
Một công ty logistics giả định sử dụng hai công cụ: một bài test tư duy được chấm theo số câu đúng và quy đổi thành bách phân vị so với một nhóm chuẩn, và một công cụ phỏng vấn video xếp hạng ứng viên bằng một mô hình được huấn luyện trên các quyết định tuyển dụng trước đây. Công ty coi công cụ thứ hai là hệ thống AI rủi ro cao. Công cụ thứ nhất có lẽ không phải, nhưng công ty vẫn ghi lại cách điểm số được sử dụng trong từng quyết định.
Nhà cung cấp phải làm gì, và bạn phải làm gì
Đạo luật phân biệt nhà cung cấp, bên phát triển hệ thống và đưa hệ thống ra thị trường, với bên triển khai, bên sử dụng hệ thống dưới thẩm quyền của mình. Với các bài đánh giá tuyển dụng, nhà cung cấp bài test thường là nhà cung cấp theo nghĩa của Đạo luật, còn bạn với tư cách người sử dụng lao động là bên triển khai.
Nhà cung cấp
- quản lý rủi ro trong suốt vòng đời
- quản trị dữ liệu, bao gồm kiểm tra dữ liệu huấn luyện để phát hiện thiên lệch có thể có
- tài liệu kỹ thuật, ghi nhật ký tự động và hướng dẫn sử dụng
- thiết kế cho phép con người giám sát hiệu quả
- độ chính xác, độ vững chắc và an ninh mạng ở mức phù hợp
- đánh giá sự phù hợp và đăng ký vào cơ sở dữ liệu của EU
Với các hệ thống tuyển dụng, đánh giá sự phù hợp là một thủ tục nội bộ do nhà cung cấp tự thực hiện, không có tổ chức bên ngoài. Vì vậy, một công cụ được quảng cáo là “được chứng nhận theo Đạo luật AI” đáng để bạn hỏi thêm.
Bạn với tư cách người sử dụng lao động
Điều 26 quy định nghĩa vụ của bên triển khai. Trên thực tế:
- Sử dụng hệ thống đúng theo hướng dẫn của nhà cung cấp.
- Giao việc giám sát cho những người có năng lực, được đào tạo và có thẩm quyền để thực hiện.
- Khi bạn kiểm soát dữ liệu đầu vào, hãy bảo đảm dữ liệu đó phù hợp và đủ tính đại diện.
- Theo dõi hệ thống, báo cáo sự cố cho nhà cung cấp và tạm ngừng sử dụng nếu bạn phát hiện rủi ro.
- Lưu giữ nhật ký hệ thống thuộc quyền kiểm soát của bạn trong ít nhất sáu tháng, trừ khi luật khác có quy định khác.
- Thông báo cho đại diện người lao động và những người lao động liên quan trước khi đưa một hệ thống rủi ro cao vào sử dụng tại nơi làm việc.
- Thông báo cho ứng viên rằng một hệ thống rủi ro cao đang được sử dụng khi hệ thống đó đưa ra hoặc hỗ trợ đưa ra quyết định về họ.
Theo Điều 86, người chịu ảnh hưởng bởi một quyết định dựa trên đầu ra của hệ thống như vậy, trong một số trường hợp, có thể yêu cầu giải thích rõ ràng về vai trò của hệ thống và các yếu tố chính của quyết định. Và nếu bạn sửa đổi đáng kể một hệ thống hoặc sử dụng nó cho một mục đích rủi ro cao mà nhà cung cấp không dự kiến, chính bạn có thể trở thành nhà cung cấp (Điều 25).
GDPR được áp dụng song song. Điều 22 trao cho mỗi người quyền không phải chịu một quyết định chỉ dựa trên xử lý tự động, bao gồm cả lập hồ sơ cá nhân, có hệ quả pháp lý hoặc ảnh hưởng đáng kể tương tự, trừ khi có ngoại lệ áp dụng và có các biện pháp bảo đảm.
Lộ trình thời gian
- Ngày 1 tháng 8 năm 2024: Đạo luật AI có hiệu lực.
- Ngày 2 tháng 2 năm 2025: các lệnh cấm được áp dụng, bao gồm lệnh cấm nhận diện cảm xúc tại nơi làm việc.
- Văn bản được thông qua năm 2024 ấn định ngày 2 tháng 8 năm 2026 cho các nghĩa vụ rủi ro cao của hệ thống thuộc Phụ lục III.
- Gói Digital Omnibus về AI, Quy định (EU) 2026/1744, công bố vào tháng 7 năm 2026, đã dời mốc đó: các nghĩa vụ rủi ro cao đối với hệ thống thuộc Phụ lục III, bao gồm tuyển dụng, nay áp dụng từ ngày 2 tháng 12 năm 2027.
Việc lùi thời hạn cho thêm thời gian nhưng không thay đổi những gì được yêu cầu. Các hợp đồng với nhà cung cấp và quy trình bạn thiết lập hôm nay thường vẫn còn hiệu lực vào năm 2027, vì vậy hãy đưa các yêu cầu vào ngay từ đầu. GDPR và luật lao động quốc gia, bao gồm mọi quyền của hội đồng người lao động, đã được áp dụng từ bây giờ.
Danh sách kiểm tra thực tế cho người sử dụng lao động
Những câu hỏi nên đặt cho nhà cung cấp
- Phần nào trong sản phẩm của bạn được bạn coi là hệ thống AI theo Đạo luật AI, và vì sao?
- Nếu một phần thuộc nhóm rủi ro cao, chúng tôi có thể xem hướng dẫn sử dụng không, và khi nào việc đánh giá sự phù hợp và đăng ký sẽ hoàn tất?
- Có bằng chứng nào về độ tin cậy và độ hiệu lực cho mục đích sử dụng của chúng tôi, và bằng chứng đó có được ghi lại, chẳng hạn trong một tài liệu kỹ thuật, không?
- Bạn kiểm tra thiên lệch như thế nào, và các phân tích đó có những giới hạn gì?
- Dữ liệu ứng viên có được dùng để huấn luyện mô hình không, và trên cơ sở pháp lý nào?
Giám sát của con người và cung cấp thông tin
- Đào tạo những người xem xét kết quả cách diễn giải điểm số, bao gồm khoảng điểm và nhóm chuẩn, và lưu ý đến thiên lệch tự động hóa: làm theo hệ thống chỉ vì nó trông có vẻ khách quan.
- Trao cho họ thẩm quyền đi ngược lại một bảng xếp hạng và ghi lại lý do. Không bao giờ để một điểm số hay điểm cắt loại một ứng viên mà không có người xem xét.
- Cho ứng viên biết họ làm những bài đánh giá nào, nhằm mục đích gì, ai xem kết quả và kết quả được lưu giữ trong bao lâu, đồng thời chuẩn bị cách trả lời khi có yêu cầu giải thích.
Lưu trữ hồ sơ và theo dõi
- Ghi lại cho từng vị trí tuyển dụng những bài đánh giá nào đã được dùng, điểm số được cân nhắc ra sao và ai là người quyết định.
- Thường xuyên xem xét kết quả trong quy trình của chính bạn, chẳng hạn tỷ lệ được chọn theo từng nhóm khi bạn được phép thu thập dữ liệu đó một cách hợp pháp. Xem công bằng và thiên lệch để biết những phân tích như vậy có thể và không thể chỉ ra điều gì.
Điều này có ý nghĩa gì với cách Match.hr được xây dựng
Chúng tôi coi tuyển dụng là mục đích sử dụng rủi ro cao như Đạo luật mô tả và xây dựng theo các yêu cầu của Đạo luật ngay từ bây giờ. Con người luôn là người quyết định: nền tảng không bao giờ tự động loại ứng viên, và báo cáo hỗ trợ một quyết định có cấu trúc bên cạnh phỏng vấn và thông tin tham chiếu, như mô tả trong phần cách hoạt động. Mỗi điểm số được hiển thị kèm khoảng điểm và nhóm chuẩn, để người xem xét có thể giải thích ý nghĩa của nó. Có tài liệu cho từng phiên bản bài test và có nhật ký kiểm toán (audit log); xem thêm tại bảo mật và quyền riêng tư. Không điều nào trong số này tự nó giúp một doanh nghiệp tuân thủ, và bạn có thể đặt những câu hỏi dành cho nhà cung cấp ở trên cho chúng tôi, như với bất kỳ nhà cung cấp nào khác.
Nguồn tham khảo
- Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), Official Journal of the European Union, 12 July 2024
- Regulation (EU) 2026/1744 amending Regulation (EU) 2024/1689 (Digital Omnibus on AI), Official Journal of the European Union, 24 July 2026
- Regulation (EU) 2016/679 (General Data Protection Regulation), Article 22