Kategorie i poziomy ryzyka w akcie UE w sprawie AI
Rozporządzenie (UE) 2024/1689 przypisuje każdy system AI do jednej z czterech kategorii ryzyka. Kategoria decyduje o tym, które obowiązki mają zastosowanie, ile kosztuje pomyłka i od której daty przepisy zaczynają wiązać.
Akt UE w sprawie AI nie reguluje „AI” jako jednej całości. Przypisuje każdy system AI, który Państwa firma dostarcza lub stosuje, do jednego z czterech poziomów ryzyka, w oparciu o to, do czego system służy, a nie o technologię, która za nim stoi. Dwie firmy korzystające z tego samego oprogramowania chatbota mogą trafić do różnych klas ryzyka, w zależności od celu, w jakim go stosują.
Uwaga terminologiczna, bo właśnie na niej ludzie się potykają przy wyszukiwaniu: samo rozporządzenie nigdy nie posługuje się pojęciem „stopnia” ryzyka. Stopnie ryzyka, poziomy ryzyka, kategorie ryzyka i klasy ryzyka to cztery nazwy tego samego podziału na cztery części. Rozporządzenie zawiera w rzeczywistości zakaz w art. 5, reżim wysokiego ryzyka w rozdziale III, zestaw obowiązków w zakresie przejrzystości w art. 50 oraz milczenie na temat wszystkiego pozostałego. Ta strona używa tych określeń wymiennie, ponieważ tak samo robią wyniki wyszukiwania, prasa branżowa i organy krajowe.
Porównanie czterech poziomów ryzyka
| Kategoria ryzyka | Podstawa prawna | Kogo wiąże | Podstawowy obowiązek | Obowiązuje od | Maksymalna kara |
|---|---|---|---|---|---|
| Zakazane (niedopuszczalne ryzyko) |
art. 5 | Każdy, kto wprowadza system do obrotu, oddaje go do użytku lub go stosuje | Nie robić tego w ogóle | 2 lut 2025 (zakazy generowania NCII i CSAM: 2 gru 2026) |
35 mln EUR albo 7% światowego obrotu, w zależności od tego, która kwota jest wyższa |
| Wysokie ryzyko | art. 6, załącznik I i załącznik III | Mocno dostawców, lżej podmioty stosujące, a także importerów i dystrybutorów | Zarządzanie ryzykiem, zarządzanie danymi, dokumentacja techniczna, rejestrowanie zdarzeń, nadzór ze strony człowieka, ocena zgodności | 2 gru 2027 (załącznik III) 2 sie 2028 (załącznik I) |
15 mln EUR albo 3%, w zależności od tego, która kwota jest wyższa |
| Ograniczone ryzyko (przejrzystość) |
art. 50 | Dostawców w zakresie ust. 1 i 2, podmioty stosujące w zakresie ust. 3 i 4 | Informować ludzi, że mają do czynienia z AI, i oznaczać treści wygenerowane przez AI | 2 sie 2026 (oznaczanie systemów istniejących wcześniej: 2 gru 2026) |
15 mln EUR albo 3%, w zależności od tego, która kwota jest wyższa |
| Minimalne ryzyko | Brak przepisu szczególnego | Brak obowiązków właściwych dla kategorii; kompetencje z art. 4 nadal obowiązują | Żaden poza kompetencjami w zakresie AI z art. 4 | Nie dotyczy | Brak kary właściwej dla kategorii |
Dwie rzeczy w tej tabeli zaskakują większość MŚP. Po pierwsze, poziomem ryzyka, który dotyczy prawie wszystkich, jest ograniczone ryzyko, a jego termin już minął. Po drugie, kary są pułapami tego, co organ krajowy może nałożyć, a nie taryfą, a dla mniejszych firm pułap liczy się odwrotnie. Oba punkty są rozpisane poniżej.
Kategoria ryzyka 1: zakazane praktyki w zakresie AI (art. 5)
Zamknięta lista praktyk w zakresie AI zakazanych bezwzględnie, niezależnie od zabezpieczeń, jakimi się je otoczy. Nie istnieje ocena zgodności, która czyni zakazaną praktykę legalną.
Art. 5 ust. 1 zakazuje między innymi:
- technik podprogowych, celowo manipulacyjnych lub wprowadzających w błąd, które istotnie zniekształcają zachowanie i powodują lub mogą powodować poważną szkodę;
- wykorzystywania słabości wynikających z wieku, niepełnosprawności lub szczególnej sytuacji społecznej albo ekonomicznej, przy tym samym teście szkody;
- scoringu społecznego, czyli oceniania lub klasyfikowania osób w pewnym okresie na podstawie ich zachowania społecznego lub cech osobistych, gdy ocena prowadzi do niekorzystnego traktowania w niepowiązanym kontekście albo do traktowania nieproporcjonalnego do zachowania;
- przewidywania popełnienia przestępstwa wyłącznie na podstawie profilowania lub cech osobowości;
- tworzenia lub rozbudowywania baz danych służących rozpoznawaniu twarzy przez nieukierunkowane pozyskiwanie wizerunków twarzy z internetu lub z monitoringu;
- wnioskowania o emocjach w miejscu pracy lub w placówkach edukacyjnych, poza względami medycznymi lub bezpieczeństwa;
- kategoryzacji biometrycznej służącej wywnioskowaniu rasy, poglądów politycznych, przynależności do związku zawodowego, przekonań religijnych lub światopoglądowych, życia seksualnego lub orientacji seksualnej;
- zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej na potrzeby ścigania przestępstw, poza wąskim zestawem dozwolonych celów.
Omnibus cyfrowy (rozporządzenie (UE) 2026/1744) dodał dwa kolejne zakazy jako art. 5 ust. 1 lit. ba) i bb): systemy AI, które generują lub przetwarzają intymne materiały bez zgody osoby możliwej do zidentyfikowania, oraz systemy AI, które generują lub przetwarzają materiały przedstawiające seksualne wykorzystywanie dzieci. Nowy art. 5 ust. 1a zawęża oba te zakazy w odniesieniu do dostawców do systemów, których przeznaczeniem jest takie generowanie albo których konstrukcja czyni je racjonalnie przewidywalnym i powtarzalnym skutkiem przy braku odpowiednich zabezpieczeń; w odniesieniu do podmiotów stosujących zakaz działa dopiero wtedy, gdy faktycznie używają one systemu w tym celu. Te dwa zakazy obowiązują od 2 grudnia 2026 r., a nie od lutego 2025 r. jak reszta art. 5.
Przykład. Firma logistyczna instaluje narzędzie kamerowe, które na podstawie wyrazu twarzy ocenia „zaangażowanie” i „frustrację” pracowników magazynu, a wyniki zasilają przydział zmian. To wnioskowanie o emocjach w miejscu pracy w rozumieniu art. 5 ust. 1 lit. f) i nie ratuje go ani zgoda, ani anonimizacja, ani wewnętrzna polityka. Prawidłowym działaniem jest wyłączenie narzędzia, a nie jego udokumentowanie.
Kategoria ryzyka 2: systemy wysokiego ryzyka (art. 6, załącznik I i załącznik III)
Dwie odrębne drogi do tej klasy ryzyka, z różnymi terminami i różnym mechanizmem oceny zgodności.
Droga A: samodzielne przypadki użycia z załącznika III
Art. 6 ust. 2 czyni systemem wysokiego ryzyka każdy system wymieniony w załączniku III. Osiem obszarów załącznika III to: biometria; infrastruktura krytyczna; kształcenie i szkolenie zawodowe; zatrudnienie i zarządzanie pracownikami; dostęp do podstawowych usług prywatnych i publicznych; ściganie przestępstw; migracja, azyl i kontrola graniczna; oraz sprawowanie wymiaru sprawiedliwości i procesy demokratyczne. Dla firmy spoza sektora publicznego w praktyce liczą się pozycje dotyczące rekrutacji i oceny kandydatów, decyzji o awansie lub zwolnieniu oraz przydziale zadań, oceny zdolności kredytowej i scoringu kredytowego, a także oceny ryzyka i ustalania cen w ubezpieczeniach na życie i zdrowotnych.
Art. 6 ust. 3 zawiera filtr, który rutynowo umyka uwadze. System należący do obszaru z załącznika III nie jest systemem wysokiego ryzyka, jeżeli nie stwarza znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych, w tym przez to, że nie wpływa istotnie na wynik podejmowania decyzji, i spełnia jeden z czterech warunków: wykonuje wąskie zadanie proceduralne, poprawia wynik wcześniej zakończonej czynności człowieka, wykrywa schematy decyzyjne lub odstępstwa od nich bez zastępowania lub wpływania na wcześniejszą ocenę człowieka, albo wykonuje zadanie przygotowawcze. Ta furtka zamyka się w chwili, gdy system profiluje osoby fizyczne: taki system jest zawsze systemem wysokiego ryzyka. Dostawca powołujący się na art. 6 ust. 3 musi udokumentować ocenę przed wprowadzeniem systemu do obrotu i zarejestrować go zgodnie z art. 49 ust. 2.
Droga B: elementy bezpieczeństwa z załącznika I
Art. 6 ust. 1 obejmuje AI wykorzystywaną jako element bezpieczeństwa produktu albo jako produkt objęty unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I i podlegający ocenie zgodności przez stronę trzecią: maszyny, wyroby medyczne, pojazdy, zabawki, dźwigi, urządzenia radiowe i podobne. Omnibus cyfrowy dodał art. 6 ust. 1a do 1c, które wyjaśniają, że AI wykorzystywana wyłącznie do aspektów niezwiązanych z bezpieczeństwem, takich jak wsparcie użytkownika, optymalizacja wydajności, efektywność usług, automatyzacja, wygoda czy kontrola jakości, nie jest elementem bezpieczeństwa, natomiast AI, której awaria zagrażałaby zdrowiu i bezpieczeństwu, nim jest.
Czego kategoria wysokiego ryzyka faktycznie wymaga
| Rola | Obowiązki | Gdzie |
|---|---|---|
| Dostawca | System zarządzania ryzykiem, zarządzanie danymi, dokumentacja techniczna, automatyczne rejestrowanie zdarzeń, przejrzystość i instrukcja obsługi, projektowanie nadzoru ze strony człowieka, dokładność, solidność i cyberbezpieczeństwo, system zarządzania jakością, ocena zgodności, deklaracja zgodności UE, oznakowanie CE, rejestracja, działania naprawcze | art. 16 do 21, 43, 47 do 49 |
| Podmiot stosujący | Stosowanie zgodnie z instrukcją obsługi, powierzenie nadzoru ze strony człowieka osobom kompetentnym i przeszkolonym, mającym uprawnienia i wsparcie, zapewnienie adekwatnych i reprezentatywnych danych wejściowych tam, gdzie sprawują nad nimi kontrolę, monitorowanie działania oraz wstrzymanie i zgłoszenie w razie pojawienia się ryzyka, przechowywanie rejestrów zdarzeń przez co najmniej sześć miesięcy, poinformowanie przedstawicieli pracowników i pracowników, których to dotyczy, przed zastosowaniem w miejscu pracy | art. 26 |
| Importer, dystrybutor | Weryfikacja oceny zgodności, dokumentacji i oznakowania przed wprowadzeniem do obrotu lub udostępnieniem | art. 23, 24 |
Przykład. Agencja rekrutacyjna zatrudniająca 40 osób kupuje narzędzie do rankingowania kandydatów i używa go do tworzenia krótkiej listy. Agencja jest podmiotem stosującym, a nie dostawcą, więc jej obowiązki to lista z art. 26: stosować się do instrukcji obsługi, wyznaczyć imiennie wskazaną, przeszkoloną osobę odpowiedzialną za nadzór, mającą realne uprawnienie do odrzucenia rankingu, przechowywać rejestry zdarzeń i poinformować pracowników, których to dotyczy. Ciężar obowiązków dostawcy z art. 16 spoczywa na producencie narzędzia. Ponieważ narzędzie mieści się w obszarze 4 załącznika III, obowiązki mają zastosowanie od 2 grudnia 2027 r., więc realnym zadaniem agencji w 2026 r. jest kwestia umowna: uzyskać od dostawcy pisemne zobowiązanie do przeprowadzenia oceny zgodności na czas.
Kategoria ryzyka 3: ograniczone ryzyko i obowiązki w zakresie przejrzystości z art. 50
Poziom ryzyka, który obejmuje niemal każde MŚP korzystające z generatywnej AI lub chatbota. Bez oceny zgodności, bez oznakowania CE, bez jednostki notyfikowanej. Zamiast tego cztery konkretne obowiązki informacyjne.
| Obowiązek | Kogo obciąża | Co oznacza |
|---|---|---|
| art. 50 ust. 1 | Dostawcę | Systemy przeznaczone do bezpośredniej interakcji z ludźmi muszą być zaprojektowane tak, aby osoby były informowane, że mają do czynienia z systemem AI, chyba że jest to oczywiste dla osoby dostatecznie poinformowanej, uważnej i ostrożnej. Jak wygląda ujawnienie w chatbocie spełniające art. 50 ust. 1. |
| art. 50 ust. 2 | Dostawcę | Systemy generujące syntetyczne treści dźwiękowe, obrazy, wideo lub tekst muszą oznaczać wynik w formacie nadającym się do odczytu maszynowego i umożliwiającym wykrycie, że został wygenerowany lub zmanipulowany sztucznie, przy użyciu rozwiązań skutecznych, interoperacyjnych, solidnych i niezawodnych w zakresie technicznie wykonalnym. Nie ma zastosowania, gdy system pełni funkcję pomocniczą przy standardowej edycji albo nie zmienia istotnie danych wejściowych ani ich znaczenia. Jak znakowanie wodne odnosi się do tego obowiązku. |
| art. 50 ust. 3 | Podmiot stosujący | Osoby, wobec których stosowany jest system rozpoznawania emocji lub kategoryzacji biometrycznej, muszą zostać poinformowane o jego działaniu, a dane osobowe muszą być przetwarzane zgodnie z RODO. |
| art. 50 ust. 4 | Podmiot stosujący | Deepfake musi zostać ujawniony jako treść wygenerowana lub zmanipulowana sztucznie. W przypadku dzieł wyraźnie artystycznych, twórczych, satyrycznych lub fikcyjnych obowiązek ogranicza się do ujawnienia istnienia takich treści w sposób, który nie utrudnia odbioru dzieła. Tekst publikowany w celu informowania opinii publicznej o sprawach leżących w interesie publicznym również musi zostać ujawniony, chyba że przeszedł weryfikację przez człowieka, a odpowiedzialność redakcyjną ponosi imiennie wskazana osoba. |
Art. 50 ust. 5 określa moment i formę: informacja musi dotrzeć do osoby, której dotyczy, w sposób jasny i wyraźny, najpóźniej w chwili pierwszej interakcji lub pierwszego zetknięcia z systemem, i musi spełniać obowiązujące wymogi dostępności. Ujawnienie ukryte w regulaminie tego nie spełnia.
Przykład. Czeski e-sklep prowadzi chatbota wsparcia na stronach produktowych i publikuje wpisy blogowe przygotowane przez AI, które redaktor weryfikuje i zatwierdza. Chatbot wymaga ujawnienia przy pierwszym kontakcie na podstawie art. 50 ust. 1, co w praktyce sprowadza się do jednego zdania w wiadomości powitalnej. Wpisy blogowe pozostają poza obowiązkiem ujawnienia tekstu z art. 50 ust. 4, ponieważ po weryfikacji przez człowieka odpowiedzialność redakcyjną ponosi imiennie wskazana osoba. Obowiązek oznaczania do odczytu maszynowego z art. 50 ust. 2 spoczywa na dostawcy narzędzia piszącego, a nie na e-sklepie. Wszystko to obowiązuje już teraz: termin upłynął 2 sierpnia 2026 r.
Kategoria ryzyka 4: minimalne ryzyko
Wszystko, czego nie obejmują trzy pozostałe klasy ryzyka: filtry antyspamowe, gry wideo z funkcjami AI, prognozowanie stanów magazynowych, większość wewnętrznych narzędzi zwiększających produktywność. Bez obowiązków szczególnych wynikających z aktu o AI.
Minimalne ryzyko to kategoria rezydualna. Akt o AI nie nakłada na te systemy obowiązków właściwych dla kategorii, ale RODO, prawo pracy, prawo konsumenckie i przepisy sektorowe obowiązują dokładnie tak jak wcześniej, a kompetencje w zakresie AI z art. 4 nadal wiążą osoby, które te systemy obsługują.
Obowiązek, który całkowicie ignoruje klasy ryzyka
Art. 4 (kompetencje w zakresie AI) obowiązuje od 2 lutego 2025 r. i stoi poza strukturą czterech kategorii: wiąże każdego dostawcę i każdy podmiot stosujący dowolny system AI, na dowolnym poziomie ryzyka, w tym system o minimalnym ryzyku. W brzmieniu nadanym przez omnibus cyfrowy wymaga on od dostawców i podmiotów stosujących podejmowania środków wspierających rozwój kompetencji w zakresie AI u ich personelu i innych osób zajmujących się w ich imieniu działaniem i stosowaniem systemów AI, z uwzględnieniem ich wiedzy technicznej, doświadczenia, wykształcenia i przeszkolenia, kontekstu stosowania oraz osób, wobec których systemy są stosowane. Ten sam ustęp stanowi, że obowiązek nie wymaga zagwarantowania jakiegokolwiek określonego poziomu kompetencji w zakresie AI u konkretnej osoby.
Do której kategorii ryzyka należy mój system? Przykłady
| Co Państwo robią | Kategoria ryzyka | Dlaczego |
|---|---|---|
| Chatbot wsparcia na Państwa stronie | Ograniczone ryzyko | Wchodzi w bezpośrednią interakcję z ludźmi, więc stosuje się art. 50 ust. 1. Brak celu z załącznika III. |
| Generatywna AI tworząca teksty marketingowe, redagowane przez człowieka przed publikacją | Ograniczone ryzyko | Oznaczanie z art. 50 ust. 2 spoczywa na dostawcy narzędzia. Ujawnienie tekstu z art. 50 ust. 4 wypiera odpowiedzialność redakcyjna. |
| Selekcja CV lub rankingowanie kandydatów | Wysokie ryzyko | Obszar 4 lit. a) załącznika III. Art. 6 ust. 3 rzadko to ratuje, a nigdy wtedy, gdy system profiluje kandydatów. |
| Scoring kredytowy w kredytach konsumenckich | Wysokie ryzyko | Obszar 5 lit. b) załącznika III. Wykrywanie oszustw jest z tej pozycji wyraźnie wyłączone. |
| Sprawdzanie pisowni lub przeformatowanie istniejącego dokumentu | Minimalne ryzyko | Funkcja pomocnicza przy standardowej edycji, wyraźnie poza art. 50 ust. 2. |
| Analiza emocji pracowników lub uczniów | Zakazane | Art. 5 ust. 1 lit. f), poza celami medycznymi lub bezpieczeństwa. |
| Deepfake z wizerunkiem rzeczywistej osoby w reklamie | Ograniczone ryzyko, wymagane ujawnienie | Oznaczanie deepfake z art. 50 ust. 4. Staje się zakazane, jeżeli materiał ma charakter intymny i powstał bez zgody, od 2 gru 2026. |
Kary według kategorii ryzyka oraz pułap dla MŚP z art. 99 ust. 6
Art. 99 ustala trzy pułapy, które podążają za kategoriami ryzyka:
| Naruszenie | Pułap ogólny | Podstawa |
|---|---|---|
| Zakazane praktyki (art. 5) | Do 35 000 000 EUR albo, jeżeli naruszający jest przedsiębiorstwem, do 7% całkowitego rocznego światowego obrotu za poprzedni rok obrotowy, w zależności od tego, która kwota jest wyższa | art. 99 ust. 3 |
| Przejrzystość z art. 50, obowiązki dostawcy (art. 16), obowiązki podmiotu stosującego (art. 26), obowiązki importera, dystrybutora, upoważnionego przedstawiciela i jednostki notyfikowanej | Do 15 000 000 EUR albo 3% całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa | art. 99 ust. 4 |
| Przekazanie jednostkom notyfikowanym lub właściwym organom krajowym nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji | Do 7 500 000 EUR albo 1% całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa | art. 99 ust. 5 |
Art. 99 ust. 6: w przypadku MŚP reguła jest odwrócona
Dla mniejszej firmy ten przepis zmienia praktyczne ryzyko bardziej niż jakiekolwiek inne zdanie art. 99. Art. 99 ust. 6 stanowi, że w przypadku MŚP, w tym przedsiębiorstw typu start-up, każda kara, o której mowa w art. 99, nie może przekroczyć wartości procentowych lub kwot, o których mowa w ust. 3, 4 i 5, w zależności od tego, która z nich jest niższa. Reguła ogólna bierze wyższą z dwóch wartości: kwoty stałej i wartości procentowej; dla MŚP pułapem jest niższa z nich.
MŚP oznacza tu mikroprzedsiębiorstwo, małe lub średnie przedsiębiorstwo w rozumieniu zalecenia 2003/361/WE, które omnibus cyfrowy wpisał do aktu o AI jako art. 3 pkt 14a: w uproszczeniu mniej niż 250 pracowników oraz roczny obrót nieprzekraczający 50 mln EUR albo suma bilansowa nieprzekraczająca 43 mln EUR.
Przykład. Polskie MŚP o rocznym obrocie 4 mln EUR uruchamia chatbota bez ujawnienia AI i zostaje uznane za naruszające art. 50. Zgodnie z ogólną regułą z art. 99 ust. 4 pułapem byłaby wyższa z wartości: 15 mln EUR albo 3% obrotu (120 000 EUR), a więc 15 mln EUR. Zgodnie z art. 99 ust. 6 pułapem jest niższa z nich, a zatem 120 000 EUR. Ta sama firma naruszająca zakaz z art. 5: pułap ogólny wyniósłby 35 mln EUR, a pułap dla MŚP to 7% z 4 mln EUR, czyli 280 000 EUR.
To są wartości maksymalne, a nie kary spodziewane. Art. 99 ust. 7 nakazuje organowi wyważyć wagę i czas trwania naruszenia, współpracę, to, czy podmiot sam je zgłosił, oraz wszelkie okoliczności łagodzące, a art. 99 ust. 1 w brzmieniu zmienionym nakazuje państwom członkowskim uwzględniać interesy MŚP, w tym przedsiębiorstw typu start-up, oraz małych spółek o średniej kapitalizacji i ich rentowność przy nakładaniu kar.
Warto znać jedno rozgraniczenie: omnibus cyfrowy dodał art. 99 ust. 6a, który przyznaje małym spółkom o średniej kapitalizacji to samo traktowanie według niższej wartości, ale wyłącznie w odniesieniu do ust. 4 i 5. Pułap za zakazane praktyki z ust. 3 zachowuje dla małych spółek o średniej kapitalizacji obliczenie według wyższej wartości. Pełne wyłączenie dla MŚP z ust. 6 pozostaje szersze.
Co należy zrobić i do kiedy
Termin już minął
- Od 2 lut 2025: zaprzestać wszelkich praktyk z art. 5. Potwierdzić na piśmie, że żadne używane narzędzie nie prowadzi wnioskowania o emocjach w miejscu pracy, scoringu społecznego ani nieukierunkowanego pozyskiwania wizerunków twarzy.
- Od 2 lut 2025: mieć wdrożone środki dotyczące kompetencji w zakresie AI z art. 4 wraz z zapisem potwierdzającym, że szkolenie się odbyło.
- Od 2 sie 2026: ujawnienia z art. 50 działające przy każdej interakcji AI z klientem, przy pierwszym kontakcie.
Najbliższe terminy
- 2 gru 2026: systemy generujące treści syntetyczne, które znajdowały się na rynku przed 2 sierpnia 2026 r., muszą spełnić obowiązek oznaczania do odczytu maszynowego z art. 50 ust. 2 (art. 111 ust. 4). Zaczynają też obowiązywać zakazy z art. 5 ust. 1 lit. ba) i bb).
- 2 gru 2027: pełny reżim wysokiego ryzyka dla systemów z załącznika III. Jeżeli stosują Państwo taki system, prace umowne z dostawcą zaczynają się na długo przed tą datą.
- 2 sie 2028: reżim wysokiego ryzyka dla wbudowanych elementów bezpieczeństwa z załącznika I.
Jak sklasyfikować własny system
- Ustalić cel, a nie technologię. Proszę zapytać, jaką decyzję zasila wynik, kogo ta decyzja dotyczy i jakie niesie konsekwencje. Architektura modelu nie ma znaczenia dla kategorii ryzyka.
- Najpierw sprawdzić art. 5. To krótka zamknięta lista, która ma pierwszeństwo przed wszystkim poniżej.
- Zestawić załącznik III z rzeczywistym przypadkiem użycia, następnie zastosować filtr z art. 6 ust. 3 i zatrzymać się, jeżeli system profiluje osoby fizyczne.
- Sprawdzić załącznik I, jeżeli AI znajduje się wewnątrz produktu fizycznego wymagającego oceny zgodności przez stronę trzecią.
- Sprawdzić art. 50 niezależnie od powyższych odpowiedzi: obowiązki w zakresie przejrzystości mogą nakładać się na klasyfikację jako system wysokiego ryzyka.
- Zapisać uzasadnienie. Art. 6 ust. 4 wymaga udokumentowanej oceny, gdy dostawca uzna, że system z załącznika III nie jest systemem wysokiego ryzyka, a udokumentowana klasyfikacja to właśnie to, co przekazuje się organowi lub klientowi korporacyjnemu, gdy o nią zapyta.
Większość firm korzystających z AI okazuje się podmiotami stosującymi systemy o ograniczonym lub minimalnym ryzyku, a nie dostawcami systemów wysokiego ryzyka. Bezpłatny klasyfikator Klariq zadaje krótki zestaw pytań o to, jak stosują Państwo AI, i wskazuje, która kategoria ryzyka i które obowiązki mają zastosowanie, wraz z prawidłowymi datami po omnibusie.
Częste pytania
Ile kategorii ryzyka przewiduje akt UE w sprawie AI?
Cztery: zakazane praktyki (art. 5), wysokie ryzyko (art. 6 wraz z załącznikiem I i załącznikiem III), ograniczone ryzyko czyli przejrzystość (art. 50) oraz minimalne ryzyko (bez obowiązków szczególnych wynikających z aktu o AI). Samo rozporządzenie nigdy nie posługuje się pojęciem stopnia ryzyka; stopnie ryzyka, poziomy ryzyka, kategorie ryzyka i klasy ryzyka opisują ten sam podział na cztery części.
Czym różnią się poziomy ryzyka od kategorii ryzyka w akcie UE w sprawie AI?
Prawnie niczym. Obie nazwy są nieformalnymi określeniami tej samej struktury rozporządzenia (UE) 2024/1689: zakazu praktyk o niedopuszczalnym ryzyku w art. 5, reżimu wysokiego ryzyka w rozdziale III, obowiązków w zakresie przejrzystości w art. 50 oraz wszystkiego pozostałego, czego akt o AI nie reguluje.
Do której kategorii ryzyka należy chatbot obsługujący klientów?
Prawie zawsze do ograniczonego ryzyka. Musi spełniać obowiązki w zakresie przejrzystości z art. 50, w szczególności poinformować użytkowników, że mają do czynienia z systemem AI, a nie cięższy reżim wysokiego ryzyka. Wyjątkiem jest sytuacja, w której ten sam system służy również celowi z załącznika III, takiemu jak ocena zdolności kredytowej, ustalanie składek ubezpieczeniowych czy rekrutacja, co przenosi go do kategorii wysokiego ryzyka.
Czy obowiązki dla systemów wysokiego ryzyka obowiązują już teraz?
Nie. Omnibus cyfrowy, rozporządzenie (UE) 2026/1744, obowiązujący od 27 lipca 2026 r., zmienił art. 113 w ten sposób, że rozdział III sekcje 1 do 3 stosuje się od 2 grudnia 2027 r. do systemów z załącznika III i od 2 sierpnia 2028 r. do systemów z załącznika I. Przejrzystość z art. 50 nie została odroczona i obowiązuje od 2 sierpnia 2026 r.
Jakie kary grożą w poszczególnych kategoriach ryzyka aktu UE w sprawie AI?
Art. 99 ust. 3 ustala pułap kar za zakazane praktyki na 35 000 000 EUR albo 7 procent całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa. Art. 99 ust. 4 ustala pułap kar za naruszenie obowiązków w zakresie przejrzystości z art. 50 oraz obowiązków podmiotów działających w reżimie wysokiego ryzyka na 15 000 000 EUR albo 3 procent, w zależności od tego, która kwota jest wyższa. Art. 99 ust. 5 ustala pułap kar za przekazanie organom nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji na 7 500 000 EUR albo 1 procent, w zależności od tego, która kwota jest wyższa.
Czy dla MŚP obowiązuje niższy pułap kar?
Tak. Art. 99 ust. 6 odwraca regułę w przypadku MŚP, w tym przedsiębiorstw typu start-up: każda kara, o której mowa w art. 99, nie może przekroczyć wartości procentowych lub kwot, o których mowa w ust. 3, 4 i 5, w zależności od tego, która z nich jest niższa. Dla firmy poniżej progu kwotowego pułapem staje się zatem wartość procentowa obrotu. Art. 99 ust. 6a, dodany przez omnibus cyfrowy, przyznaje małym spółkom o średniej kapitalizacji tę samą regułę niższej wartości, ale wyłącznie w odniesieniu do ust. 4 i 5.
Czy obowiązek kompetencji w zakresie AI zależy od kategorii ryzyka?
Nie. Art. 4 stoi poza czterema klasami ryzyka i wiąże każdego dostawcę i każdy podmiot stosujący dowolny system AI, w tym system o minimalnym ryzyku. Obowiązuje od 2 lutego 2025 r.