Systemy AI w HR a AI Act – co wyjaśnia projekt nowych wytycznych Komisji Europejskiej?
Sztuczna inteligencja na dobre weszła do HR, a AI Act klasyfikuje większość stosowanych w tym obszarze rozwiązań jako systemy wysokiego ryzyka. Nowy projekt wytycznych Komisji Europejskiej[1] wprowadza jednak istotne doprecyzowania. Jego celem jest jasne określenie, co w HR nie jest systemem wysokiego ryzyka. Dzięki temu firmy łatwiej ocenią, czy dane narzędzie AI wymaga dodatkowych procesów zgodności. Poniżej przedstawiamy 4 praktyczne wnioski z projektu wytycznych KE.
1. Czy na status systemu AI wpływa jego zamierzony cel wykorzystania i dokumentacja, czy też rzeczywisty sposób używania?
Projekt wytycznych zmierza w kierunku potwierdzenia zasady: to dostawca w pierwszej kolejności określa przeznaczenie systemu AI, które jest punktem wyjścia do klasyfikacji według poziomu ryzyka. Precyzyjne i spójne wskazanie, do czego (oraz do czego nie) dany system jest przeznaczony, jest warunkiem uznania, że system nie stanowi systemu wysokiego ryzyka – o ile jego funkcjonalności i faktyczny sposób użycia nie obejmują scenariuszy z załącznika III AI Act.
Jeżeli dostawca w dokumentacji i umowie jednoznacznie zdefiniuje zakres narzędzia i wyraźnie wykluczy zastosowanie systemu np. do selekcji kandydatów lub oceny pracowników, to zamierzony cel narzędzia AI będzie jasny.
Nie będzie to jednak rozstrzygające, jeżeli sposób działania systemu (możliwości) lub jego faktyczne użycie będą obejmowały scenariusze wysokiego ryzyka.
2. Czy system AI działający „na styku HR” zawsze jest systemem wysokiego ryzyka?
Projekt wytycznych zmierza w kierunku potwierdzenia tzw. mechanizmu filtra[2]. Wytyczne wyjaśniają, że nie trzeba klasyfikować jako systemów wysokiego ryzyka takich systemów AI, które na pierwszy rzut oka pasują do tej kategorii[3], ale w praktyce nie przesądzają o losie kandydatów ani pracowników.
System nie będzie miał statusu „high‑risk”, mimo że formalnie mieści się w załączniku III, jeżeli spełnia łącznie warunki:
– nie ma istotnego wpływu na decyzje dotyczące ludzi,
– nie dokonuje profilowania osób,
– spełnia co najmniej jeden z warunków wskazanych poniżej:
- Wąskie, czysto techniczne działanie – AI wykonuje rutynową pracę, bez oceny ludzi (np. parser CV wyławiający dane kontaktowe z CV do bazy czy scheduler spotkań).
- Poprawa wyniku po człowieku – AI ulepsza wynik pracy zakończonej przez człowieka i nie ma wpływu na ocenę ludzi (np. narzędzie do korekty językowej feedbacku dla pracownika).
- Dostrzeżenie wzorców i odchyleń – AI analizuje, jak decyzje były podejmowane i gdzie mogą pojawiać się błędy lub uprzedzenia, ale nie zmienia wyników(np.audyt narzędzi HR pod kątem bias – system wyszukuje anomalie, takie jak niższe oceny wszystkich kobiet w toku rekrutacji).
- Zadanie przygotowawcze przed decyzją człowieka – AI przygotowuje dane do decyzji, ale nie dokonuje oceny(np.aplikacja do testów rekrutacyjnych, zliczająca wyniki i prezentujące je w surowej formie – bez ich interpretacji, porównywania i generowania rekomendacji).
Podsumowując – kluczowe jest to, czy system faktycznie wpływa na procesy decyzyjne dotyczące ludzi.
3. Czy wystarczy, że system nie działa całkiem autonomicznie, aby przestał być systemem wysokiego ryzyka?
Jeżeli przeznaczenie narzędzia to użycie w scenariuszu z załącznika III (np. rekrutacja), to sam fakt, że człowiek „tylko zatwierdza” decyzje AI, nie wyłącza systemu z kategorii systemu wysokiego ryzyka. Nadzór człowieka jest odrębnym obowiązkiem[4] już w fazie zgodności, a nie sposobem na uniknięcie klasyfikacji.
Przykładowo, w typowych przypadkach scoring CV w rekrutacji będzie systemem wysokiego ryzyka, nawet jeśli rekruter może samodzielnie zatwierdzić rekomendacje AI.
4. Czy system AI, który profiluje, może nie być systemem wysokiego ryzyka?
Jeżeli system AI automatycznie profiluje ludzi (czyli zbiera dane osobowe, aby ocenić ich cechy) w ramach scenariuszy z załącznika III (m.in. w zatrudnieniu i rekrutacji) – nie ma możliwości zastosowania mechanizmu wyłączenia, o którym mowa w 2. punkcie (np. wąskie zadanie proceduralne, które profiluje ludzi pozostanie systemem wysokiego ryzyka).
Wytyczne są tutaj jednoznaczne: żadne wyłączenie (nawet wąskie zadanie) nie zadziała. W praktyce chodzi np. o systemy budujące profil kandydata lub pracownika – przydzielające mu ocenę, ranking, scoring.
Należy zachować czujność wybierając narzędzie AI z takimi funkcjami – dostawcy mogą nie nazywać pewnych oferowanych funkcji profilowaniem, jednak z perspektywy AI Act liczy się faktyczne działanie zgodnie z tą mechaniką. „Anonimowe dopasowanie do profilu kulturowego” czy „analiza dopasowania” – to przykłady mechanizmów, które najprawdopodobniej zostaną zaklasyfikowane jako ocena cech osobowych (profilowanie), a więc podlegające reżimowi systemów wysokiego ryzyka.
Na koniec warto podkreślić, że systemy stosujące praktyki zakazane według AI Act[5] nie mogą być stosowane w ogóle – niezależnie od tego, czy według załącznika system byłby sklasyfikowany jako system wysokiego ryzyka, a zatem dopuszczalny. Przykładowo, system AI do monitorowania emocji pracowników jest zakazany jako zagrażający prawom podstawowym.
5. Podsumowanie
Projekt wytycznych Komisji Europejskiej pomaga lepiej ustalić, które systemy AI w HR rzeczywiście podlegają reżimowi wysokiego ryzyka. W praktyce kluczowe znaczenie ma nie tylko deklarowane przeznaczenie systemu, ale także jego faktyczne funkcje, sposób wykorzystania, wpływ na decyzje dotyczące ludzi oraz to, czy dochodzi do profilowania.
Jeżeli chcieliby Państwo ocenić konkretne narzędzie AI stosowane w firmie albo uporządkować obowiązki zgodności wynikające z AI Act, warto skonsultować to indywidualnie – dobrze przeprowadzona analiza na wczesnym etapie pozwala ograniczyć ryzyka i uniknąć kosztownych błędów. Możemy w tym pomóc – zachęcamy do kontaktu.
[1] Projekt wytycznych Komisji w sprawie klasyfikacji systemów sztucznej inteligencji wysokiego ryzyka | Kształtowanie cyfrowej przyszłości Europy, dostęp z 9 czerwca 2026 r.
[2] Wyjątki z art. 6 ust. 3 AI Act.
[3] Wymienione w załączniku III do AI Act – HR
[4] Art. 14 AI Act.
[5] Art. 5 AI Act.
