AI Act: Projekt wytycznych Komisji Europejskiej w sprawie klasyfikacji systemów wysokiego ryzyka opublikowany – czy nowe wytyczne wpłyną na biznes?

Projekt nie rozwiązuje wszystkich problemów, które mogą pojawić się przy próbie kwalifikacji systemu – porządkuje jednak najważniejsze obszary, które powinny podlegać analizie takie jak przeznaczenie systemu, elementy bezpieczeństwa, nadzór ludzki, problemy w przypadku systemów złożonych czy interpretacja granicy między wsparciem procesu a realnym wpływem na decyzję.

Czy to w ogóle „system AI” w rozumieniu AI Act?

Zanim przystąpimy do analizy, czy dany system kwalifikuje się jako system wysokiego ryzyka w rozumieniu AI Act – nawet przy wsparciu omawianych wytycznych – należy odpowiedzieć na pytanie poprzedzające: czy dane rozwiązanie w ogóle jest „systemem AI” w rozumieniu AI Act. Samo rozporządzenie definiuje system AI jako system oparty na maszynie, zaprojektowany do działania z różnym poziomem autonomii, mogący wykazywać zdolność adaptacji po wdrożeniu, który na podstawie danych wejściowych generuje wyniki, takie jak prognozy, treści, zalecenia lub decyzje.

Co ważne, nie każda aplikacja, narzędzie zautomatyzowane i nie każdy system wspierający podejmowanie decyzji będzie objęty tą definicją. Dopiero gdy system rzeczywiście mieści się w definicji z rozporządzenia, można przejść do oceny, czy należy go zakwalifikować jako system wysokiego ryzyka. Te elementy mają kluczowe znaczenie praktyczne i często wiążą się z problemami interpretacyjnymi.

Przykład z praktyki: Firma z sektora finansowego stosuje dwa narzędzia do wstępnej oceny wniosków kredytowych. Pierwsze z nich to klasyczny silnik reguł decyzyjnych: jeżeli dochód wnioskodawcy przekracza określony próg i nie figuruje on w rejestrze dłużników, wniosek jest kierowany do kolejnego etapu. Takie narzędzie nie generuje wyników na podstawie uczenia maszynowego, ani nie wykazuje zdolności adaptacji, a więc pozostaje poza zakresem definicji systemu AI z AI Act, a co za tym idzie poza zakresem rozporządzenia w ogóle. Drugie narzędzie to model scoringowy oparty na uczeniu maszynowym, który na podstawie danych historycznych generuje prognozę prawdopodobieństwa spłaty i rekomenduje akceptację lub odrzucenie wniosku. Ten system spełnia definicję z rozporządzenia i dopiero od tego momentu pojawia się pytanie o kwalifikację jako system wysokiego ryzyka.

Geneza wytycznych

Już na etapie prac legislacyjnych dostrzeżono, że art. 6 AI Act sam w sobie nie zapewnia wystarczającej precyzji dla prawidłowego zakwalifikowania systemu. Art. 6 ust. 5 AI Act wprost zobowiązał zatem Komisję Europejską do wydania wytycznych dotyczących praktycznego stosowania tego przepisu. Pierwotnie wytyczne miały zostać wydane do 2 lutego 2026 roku; projekt ukazał się dopiero 19 maja 2026 r., a więc z wyraźnym opóźnieniem względem terminu przewidzianego w AI Act. Równocześnie Komisja otworzyła konsultacje publiczne dotyczące projektu, które trwają do 23 czerwca 2026 r. Publikacja wytycznych nastąpiła w bezpośrednim kontekście istotnej zmiany ram czasowych stosowania AI Act: 7 maja 2026 r. Parlament Europejski i Rada osiągnęły porozumienie polityczne w sprawie Digital Omnibus on AI, które przesuwa termin stosowania obowiązków dla samodzielnych systemów AI wysokiego ryzyka z załącznika III z pierwotnego 2 sierpnia 2026 r. na 2 grudnia 2027 r. Dla systemów wysokiego ryzyka wbudowanych w produkty z załącznika I termin wynosi 2 sierpnia 2028 r. Porozumienie nie zostało jeszcze formalnie ratyfikowane, jednak kierunek zmian jest przesądzony. Opóźnienie nie oznacza zawieszenia prac compliance – daje natomiast czas na przeprowadzenie rzetelnej klasyfikacji i wdrożenie wymaganych procedur.

Czym jest system AI wysokiego ryzyka?

AI Act przewiduje dwa główne mechanizmy, w których system może zostać zakwalifikowany jako wysokiego ryzyka:

• gdy jest związanym z bezpieczeństwem elementem produktu objętego unijnym prawodawstwem harmonizacyjnym z załącznika I (lub sam stanowi taki produkt), a produkt ten podlega ocenie zgodności przez stronę trzecią (art. 6 ust. 1), oraz
• gdy należy do któregoś z przypadków użycia wymienionych w załączniku III (art. 6 ust. 2). Jednocześnie art. 6 ust. 3 przewiduje wyjątek: niektóre systemy z załącznika III, które pełnią wyłącznie pomocniczą funkcję proceduralną lub przygotowawczą i nie mają istotnego wpływu na wynik procesu decyzyjnego, nie będą uznane za wysokiego ryzyka.

Oznacza to, że nie każde rozwiązanie AI automatycznie trafia do kategorii high‑risk, ale kwalifikacja wymaga usystematyzowanej analizy prawnej, funkcjonalnej i dokumentacyjnej, w szczególności co do przeznaczenia systemu, jego roli w procesie decyzyjnym oraz sposobu opisania go przez dostawcę. Właśnie te elementy uszczegóławiają wytyczne.

Przykłady z praktyki: Ścieżka art. 6 ust. 1 dotyczy sytuacji, w której AI jest wbudowana w produkt podlegający unijnemu prawu harmonizacyjnemu z załącznika I. Klasycznym przypadkiem jest oprogramowanie diagnostyczne zasilane modelem AI, stanowiące element wyrobu medycznego w rozumieniu rozporządzenia MDR. Podlega ono ocenie zgodności przez jednostkę notyfikowaną. Niezależnie od tego, czy sam model AI byłby oceniany jako ryzykowny, wystarczy, że jest elementem bezpieczeństwa takiego produktu: kwalifikacja high-risk następuje automatycznie, bez możliwości zastosowania filtra z art. 6 ust. 3. Ścieżka art. 6 ust. 2 jest bardziej powszechna w sektorze IT i usługach: obejmuje samodzielne systemy AI mieszczące się w jednej z ośmiu dziedzin załącznika III. Typowy przykład to aplikacja rekrutacyjna automatycznie selekcjonująca i rankingująca CV kandydatów przed rozmową kwalifikacyjną – mieści się ona w pkt 4 załącznika III (zatrudnienie i zarządzanie pracownikami) i podlega pełnemu reżimowi high-risk, chyba że dostawca wykaże, że spełnia jeden z warunków filtra.

Mechanizm „filtra” z art. 6 ust. 3 AI Act

AI Act przewiduje również wyjątek od automatycznej kwalifikacji niektórych systemów z załącznika III klasyfikowanych jako systemy wysokiego ryzyka. Co do zasady każdy system z tej listy jest systemem wysokiego ryzyka, jeżeli jednak dany system nie stwarza znaczącego ryzyka dla zdrowia, bezpieczeństwa lub praw podstawowych i nie ma istotnego wpływu na wynik procesu decyzyjnego, a przy tym spełnia jedną z czterech enumeratywnie wyliczonych w art. 6 ust. 3 przesłanek: (a) wykonuje wyłącznie wąskie zadanie proceduralne, (b) poprawia wynik uprzednio zakończonej czynności człowieka, (c) wykrywa wzorce decyzyjne lub odchylenia bez zastępowania oceny ludzkiej, albo (d) pełni zadanie przygotowawcze wobec właściwej oceny, może zostać wyłączony z kategorii systemów wysokiego ryzyka. Wyjątek przewidziany w art. 6 ust. 3 powinien być poparty rzetelną dokumentacją i wymaga rejestracji systemu w unijnej bazie danych nawet gdy dostawca uznaje go za niebędący systemem wysokiego ryzyka, dodatkowo nie znajduje on zastosowania w sytuacjach, w których dany system AI wywiera istotny wpływ na wynik procesu decyzyjnego. Szczególne znaczenie praktyczne ma bezwzględna reguła dotycząca profilowania: jeżeli system z załącznika III dokonuje profilowania osób fizycznych w rozumieniu art. 4 pkt 4 RODO, jest on zawsze kwalifikowany jako system wysokiego ryzyka – bez możliwości skorzystania z jakiegokolwiek warunku filtra. Reguła ta ma charakter bezwyjątkowy. Prawidłowa klasyfikacja systemu na gruncie AI Act powinna być poprzedzona analizą RODO co do charakteru przetwarzanych danych. Wytyczne wskazują ponadto zasadę przeciwdziałania obejściu (anti-circumvention) skierowaną do dostawców systemów modularnych i agentycznych: rozbicie systemu na osobne moduły, z których każdy indywidualnie mógłby spełniać warunek filtra, nie zapobiega kwalifikacji całości jako systemu wysokiego ryzyka, jeżeli łączna konfiguracja modułów realizuje zastosowanie z załącznika III.

W konsekwencji, w odniesieniu do większości narzędzi AI wykorzystywanych w procesach rekrutacyjnych, ocenie zdolności kredytowej lub zaawansowanej segmentacji klientów, istnieje wysokie prawdopodobieństwo konieczności objęcia ich pełnym reżimem regulacyjnym właściwym dla systemów wysokiego ryzyka.

Przykłady z praktyki kiedy filtr działa, a kiedy nie. Wyobraźmy sobie system AI stosowany przez urząd administracji publicznej, który skanuje wpływające wnioski, konwertuje zeskanowane dokumenty do tekstu i automatycznie przypisuje je do właściwych folderów według predefiniowanych kategorii (np. „dokumenty tożsamości”, „zaświadczenia”, „korespondencja”), nie dokonując przy tym żadnej oceny ich treści ani wartości dla postępowania. Taki system mieści się w warunku (a) filtra – wykonuje wąskie zadanie proceduralne i może zostać wyłączony z reżimu „high-risk” pod warunkiem właściwej dokumentacji i rejestracji w unijnej bazie danych. Inaczej sytuacja wygląda, gdy bank wdraża system AI w procesie oceny wniosków o kredyt. Nawet jeśli system ten pełni formalnie „pomocniczą” rolę, dostarcza spersonalizowanego scoring’u wyliczonego na podstawie danych o historii płatniczej, zachowaniach zakupowych i innych cechach wnioskodawcy. Takie przetwarzanie stanowi profilowanie w rozumieniu art. 4 pkt 4 RODO, a wytyczne wykluczają w takiej sytuacji możliwość zastosowania jakiegokolwiek warunku filtra. System jest bezwzględnie kwalifikowany jako system wysokiego ryzyka. Warto przy tym pamiętać o zasadzie „anti-circumvention”: bank, który podzieli taki system na kilka osobnych modułów (np. moduł pobierania danych, moduł wyliczania scoring’u i moduł prezentacji rekomendacji) nie uniknie kwalifikacji, jeżeli łącznie realizują one ten sam cel decyzyjny.

Dlaczego to ważne dla przedsiębiorców?

Uznanie systemu za wysokiego ryzyka wiąże się z obowiązkiem spełnienia szeregu obowiązków regulacyjnych, przede wszystkim po stronie dostawcy, ale także po stronie podmiotu stosującego system. Obejmuje to w szczególności obowiązek ustanowienia systemu zarządzania ryzykiem, który identyfikuje, analizuje i ogranicza ryzyka dla zdrowia, bezpieczeństwa i praw podstawowych na wszystkich etapach cyklu życia systemu.

Systemy wysokiego ryzyka muszą być rozwijane i testowane w oparciu o odpowiedniej jakości zbiory danych adekwatne, reprezentatywne, możliwie wolne od błędów oraz zarządzane w sposób ograniczający stronniczość mogącą prowadzić do dyskryminacji. Dostawca jest zobowiązany do sporządzenia dokumentacji technicznej wyjaśniającej sposób działania systemu, jego przeznaczenie, główne parametry oraz wyniki testów, a także do zapewnienia możliwości rejestrowania kluczowych zdarzeń na potrzeby późniejszej analizy i nadzoru.

Istotną grupę wymogów regulacyjnych dotyczących systemów wysokiego ryzyka stanowią obowiązki dotyczące przejrzystości i nadzoru człowieka: system powinien być zaprojektowany tak, aby uprawniony personel rozumiał jego przeznaczenie i ograniczenia oraz mógł skutecznie ingerować w jego działanie, w szczególności korygować lub kwestionować wyniki, gdy jest to konieczne dla ochrony osób, których dotyczą decyzje wspierane przez AI. Równolegle system wysokiego ryzyka musi spełniać wymagania w zakresie dokładności, niezawodności, odporności na błędy oraz cyberbezpieczeństwa.

W wielu przypadkach uznanie systemu za system wysokiego ryzyka wiąże się ponadto z koniecznością przeprowadzenia formalnej oceny zgodności przed wprowadzeniem systemu do obrotu lub oddaniem do użytku, sporządzenia unijnej deklaracji zgodności, umieszczenia oznakowania CE oraz – dla wybranych kategorii – rejestracji systemu w odpowiednim rejestrze. W praktyce oznacza to, że status systemu wysokiego ryzyka pociąga za sobą obowiązek wdrożenia spójnego zestawu środków organizacyjnych, technicznych i dokumentacyjnych, a nie tylko zmianę klasyfikacji na gruncie przepisów.

Ryzyko regulacyjne nie dotyczy przy tym wyłącznie pierwotnego twórcy systemu. AI Act przewiduje sytuacje, w których obowiązki dostawcy mogą obciążać również integratora, dystrybutora, resellera albo podmiot wdrażający system pod własną marką lub zmieniający jego przeznaczenie. Wytyczne wskazują ponadto wyraźnie, że zamieszczenie w regulaminie lub warunkach korzystania z usługi klauzuli wyłączającej zastosowania wysokiego ryzyka nie jest wystarczające, jeżeli jednocześnie materiały marketingowe, dokumentacja produktu lub przykłady użycia sugerują lub promują takie zastosowania. Klasyfikacja systemu opiera się na faktycznym przeznaczeniu, nie na formalnych zastrzeżeniach umownych.

Przykład z praktyki: łańcuch dostaw i odpowiedzialność integratora. Polska spółka IT integruje zagraniczną platformę SaaS do automatycznej oceny wydajności pracowników i oferuje ją polskim klientom korporacyjnym pod własną marką jako produkt „white label”. Z perspektywy AI Act, spółka ta, jako podmiot wprowadzający system na rynek UE pod własną nazwą, przejmuje obowiązki dostawcy w rozumieniu rozporządzenia, niezależnie od tego, kto jest pierwotnym twórcą algorytmu. Jeżeli platforma mieści się w obszarze zatrudnienia z załącznika III i nie spełnia warunków filtra, spółka odpowiada za spełnienie pełnych wymogów high-risk, (system zarządzania ryzykiem, dokumentacja techniczna, rejestracja, oznakowanie CE). Ryzyko się podwaja, gdy w warunkach korzystania producent zastrzegł, że system „nie służy do oceny pracowniczej”, lecz materiały sprzedażowe polskiej spółki reklamują go wprost jako narzędzie do oceny efektywności i zarządzania zasobami ludzkimi. Takie rozbieżności stanowić będą sygnał ostrzegawczy dla organów nadzoru przy dokonywanej przerz nie ocenie faktycznego przeznaczenia systemu.

Z perspektywy biznesu publikacja projektu wytycznych to dobry moment, aby już teraz zinwentaryzować wykorzystywane systemy AI, przeanalizować ich przeznaczenie oraz uporządkować role i odpowiedzialność w łańcuchu dostaw. Choć dokument ma na razie charakter roboczy, zasadniczy kierunek regulacyjny i logika klasyfikacji nie ulegną istotnym zmianom – dlatego już teraz warto zapoznać się z wytycznymi i traktować je jako praktyczny punkt odniesienia przy projektowaniu działań dotyczących systemów AI i zarządzaniu ryzykiem regulacyjnym w organizacji.

Zachęcamy do zapoznania się z materiałami:

• Projekt wytycznych Komisji Europejskiej: Draft Commission guidelines on the classification of high-risk AI systems
• Konsultacje Komisji Europejskiej: Targeted consultation on the draft guidelines for the classification of high-risk artificial intelligence systems
• Strona Komisji poświęcona wytycznym dla dostawców i podmiotów stosujących: Guidelines for providers and deployers of AI high-risk systems
• Interaktywna wersja wytycznych: AI Act Service Desk – Guideline Explorer

Jeżeli mają Państwo wątpliwości dotyczące klasyfikacji systemów AI, zakresu obowiązków wynikających z AI Act lub przygotowania do audytu zgodności – zapraszamy do kontaktu z kancelarią. Doradzamy zarówno dostawcom, jak i podmiotom stosującym systemy AI, wspierając ich na każdym etapie: od wstępnej oceny kwalifikacji systemu, przez opracowanie dokumentacji technicznej i procedur zarządzania ryzykiem, aż po weryfikację kontraktów w łańcuchu dostaw AI.