Od 2 sierpnia 2026 r. zaczną obowiązywać nowe wymogi wynikające z AI Act dotyczące systemów AI wysokiego ryzyka. Szczególne znaczenie mają one dla pracodawców wykorzystujących rozwiązania AI w obszarze HR.
Kogo dotyczą nowe obowiązki?
Regulacje obejmują organizacje stosujące systemy AI wykorzystywane m.in. do:
- rekrutacji lub selekcji kandydatów (w tym do celów umieszczania ukierunkowanych ogłoszeń o pracę, filtrowania CV, oceny kandydatów),
- podejmowania decyzji wpływających na zatrudnienie (np. w zakresie awansów, rozwiązania stosunku pracy),
- przydzielania zadań w oparciu o cechy lub zachowania pracownika,
- monitorowania i oceny wydajności lub zachowania pracowników.
Jeżeli Twoja organizacja korzysta z takich narzędzi, istnieje duże prawdopodobieństwo, że są one kwalifikowane jako systemy AI wysokiego ryzyka.
Podstawowe obowiązki pracodawców
W związku z wykorzystaniem systemów AI wysokiego ryzyka należy w szczególności:
1. Spełnić obowiązki informacyjne
Przed wdrożeniem lub rozpoczęciem korzystania z systemu AI pracodawca powinien poinformować pracowników oraz ich przedstawicieli o stosowaniu takiego systemu.
2. Zapewnić nadzór człowieka
Nadzór nad działaniem systemu musi być powierzony osobom posiadającym odpowiednie kompetencje, przeszkolenie i realne uprawnienia do ingerencji w działanie systemu.
3. Korzystać z systemu zgodnie z jego przeznaczeniem
Organizacja powinna wdrożyć środki techniczne i organizacyjne zapewniające wykorzystywanie AI zgodnie z instrukcją i założeniami producenta.
4. Zapewnić rejestrowanie zdarzeń (logowanie)
Konieczne jest przechowywanie logów generowanych przez system AI, umożliwiających weryfikację jego działania.
5. Monitorować działanie systemu
System powinien być na bieżąco monitorowany pod kątem poprawności działania, ryzyk oraz potencjalnych nieprawidłowości.
Ryzyka i sankcje
Naruszenie obowiązków związanych z systemami AI wysokiego ryzyka (np. brak nadzoru człowieka, brak monitorowania, brak dokumentacji lub obowiązków informacyjnych) może skutkować karami do 15 mln euro albo 3% rocznego światowego obrotu.
Co warto zrobić już teraz?
W praktyce oznacza to konieczność:
- identyfikacji systemów AI wykorzystywanych w organizacji,
- oceny, czy kwalifikują się jako systemy wysokiego ryzyka,
- uporządkowania dokumentacji i procesów,
- zaplanowania komunikacji do pracowników,
- przeszkolenia osób odpowiedzialnych za nadzór nad AI,
- rozważenia wdrożenia wewnętrznej polityki dotyczącej korzystania z AI.
Jeżeli mają Państwo dodatkowe pytania zapraszamy do kontaktu.
Pobierz PDF: tutaj.