Kwalifikacja systemów zgodnie z AI Act

Konieczność dokonywania klasyfikacji systemów AI to kluczowy obowiązek wprowadzany przez AI Act (Rozporządzenie Parlamentu Europejskiego i Rady UE 2024/1689 z dnia 13 czerwca 2024 r.). Klasyfikacja ta opiera się na użyciu systemów AI w określonym celu, a nie na ich funkcjonalnościach. Od klasyfikacji systemu do danej kategorii systemów AI zależeć będzie możliwość wprowadzenia systemu do obrotu lub oddania do użytku na rynku europejskim, zakres obowiązków ewidencyjnych, dokumentacyjnych i raportowych, a także zakres odpowiedzialności karnej. 
 
Już w tym momencie obowiązują pierwsze zakazy nałożone przez AI Act w zakresie tzw. systemów AI zakazanych. Od 2 sierpnia 2025 r. zaczną obowiązywać kolejne regulacje AI Act nakładające nowe obowiązki (w tym wdrażające kary za nieprzestrzeganie chociażby zakazu wprowadzania do użytku systemów AI zakazanych, czy przepisy dotyczące modeli AI ogólnego przeznaczenia).

2 sierpnia 2026 r. stosowanie AI Act obejmie kolejne przepisy (nakaz przejrzystości systemów AI, użytkowanie piaskownic regulacyjnych, czy bazy danych systemów AI wysokiego ryzyka). Ostatnie, w zasadzie najważniejsze przepisy, zaczną obowiązywać 2 sierpnia 2027 r. (klasyfikacja systemów AI do wysokiego ryzyka i związane z tym obowiązki). W tej dacie AI Act będzie obowiązywał kompletnie.

Czym jest system AI?

W interpretacji definicji systemu AI kluczowym jest odróżnienie systemów AI od prostych i tradycyjnych systemów oprogramowania (czy założeń programistycznych). Przechodząc jednak do sedna, zgodnie z definicją systemu AI zawartą w AI Act jest to system maszynowy (a więc system oparty lub powiązany z maszynami, w tym komputerowymi lub elektronicznymi), który:

• został zaprojektowany do działania autonomicznie (może przejawiać różne poziomy autonomii), oraz
• po wdrożeniu może wykazywać zdolności adaptacyjne, oraz
• wnioskuje jak generować wyniki na podstawie otrzymanych danych wejściowych (takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne), a także
• wnioskowanie dokonane przez system może być prowadzone zarówno dla wyraźnych jak i dorozumianych celów.

Angielska wersja definicji jest w tym wypadku bardzo zbliżona do polskiej wersji (tłumaczenie w tym zakresie zostało więc dosyć wiernie dokonane).

A więc pierwszą cechą funkcjonalną, systemów AI objętych regulacjami AI Act, jest jego działanie autonomiczne (możliwe na różnym poziomie). To oznacza, że system AI powinien działać w pewnym stopniu niezależne od zaangażowania czy interwencji człowieka.

Drugą ze wskazanych cech funkcjonalnych jest zdolność adaptacji, jaką system AI może wykazać po jego wdrożeniu (a więc zdolność do samouczenia się, pozwalająca na zmianę systemu w czasie jego użytkowania). Kluczowym jest tu użyty zwrot „może” (zarówno w angielskiej, jak i polskiej wersji językowej). Oznacza to, że system AI może przejawiać tę cechę, ale nie musi, aby zostać uznanym za system AI zgodnie z AI Act (a więc systemem AI może być system, którego zdolność do nauki po wprowadzeniu do użytku została wyłączona).

Trzecią kluczową cechą funkcjonalną jest zdolność do wnioskowania. Pojęcie to wykracza poza podstawowe przetwarzanie danych i odnosi się do procesu uzyskiwania wyników (takich jak predykcje, treści, zalecenia lub decyzje), które mogą wpływać na środowisko fizyczne i wirtualne. Ponadto pojęcie to należy odnosić do zdolności systemów AI do tworzenia modeli lub algorytmów na podstawie informacji lub danych wejściowych.

Techniki, które umożliwiają wnioskowanie podczas tworzenia systemu AI, obejmują mechanizmy uczenia maszynowego wskazujące jak osiągnąć określone cele (na podstawie udostępnianych do nauki danych), a także podejścia oparte na logice i wiedzy, które polegają na wnioskowaniu na podstawie zakodowanej wiedzy lub schematu przedstawienia zadania (nawet symbolicznego), które należy rozwiązać.

Czwartą cechą funkcjonalną jest wnioskowanie dla wyraźnych lub dorozumianych celów. To oznacza, że systemy AI mogą działać zarówno według jasno określonych, jak i  dorozumianych celów (które mogą różnić się od przeznaczenia systemu AI w określonym kontekście).

Co bardzo istotne systemy AI mogą być wykorzystywane jako samodzielne rozwiązania lub jako element produktu, niezależnie od tego, czy system jest fizycznie zintegrowany z produktem (wbudowany), czy też służy realizacji funkcji produktu, choć nie jest z nim zintegrowany (niewbudowany).
 

Jakie są podstawowe kategorie systemów AI?

AI Act wyróżnia cztery podstawowe kategorie systemów AI.

1. Systemy AI zakazane
2. Systemy AI wysokiego ryzyka
3. Systemy AI ograniczonego ryzyka
4. Systemy AI minimalnego ryzyka

Obraz wygenerowany przy użyciu ChatGPT
 

Systemy AI zakazane

AI Act wprowadza całkowity zakaz wprowadzania do obrotu, oddawania do użytku lub wykorzystywania na terenie Unii Europejskiej tzw. systemów zakazanych, których katalog jest wskazany w słynnym już art. 5 AI Act. Do systemów mieszczących się w tej kategorii należą systemy:

• stosujące techniki podprogowe będące poza świadomością danej osoby,
• stosujące celowe techniki manipulacyjne lub wprowadzające w błąd,
• wykorzystujące słabości danej osoby z uwagi na jej wiek, niepełnosprawność lub szczególną sytuację społeczną czy ekonomiczną,
• do oceny lub klasyfikacji osób na podstawie zachowania społecznego lub cech osobowości (ang. social scoring),
• do oceny ryzyka popełnienia przestępstwa (na podstawie profilowania lub oceny cech osobowości i cech charakterystycznych),
• do tworzenia lub rozbudowywania baz danych do rozpoznawania twarzy poprzez pozyskiwanie wizerunków z internetu lub telewizji (ang. untargeted scrping),
• analizy emocji w miejscu pracy lub instytucjach edukacyjnych,
• kategoryzacji biometrycznej (kategoryzacja osób w oparciu o dane biometryczne) mającej na celu wnioskowanie o rasie, poglądach politycznych, przynależności do związków zawodowych, przekonaniach religijnych lub światopoglądowych, czy seksualności lub orientacji seksualnej,
• identyfikacji biometrycznej w czasie rzeczywistym (identyfikacja osób w oparciu o dane biometryczne) w przestrzeni publicznej do celów ścigania przestępstw.

Od powyższych kategoryzacji istnieją pewne wyjątki.

1. W przypadku systemów rozpoznawania emocji w miejscy pracy lub instytucjach edukacyjnych zakaz nie obejmuje systemów służących celom medycznym (np. systemy przeznaczone do użytku terapeutycznego) lub bezpieczeństwa (dot. wyłącznie ochrony życia i zdrowia, a nie np. ochrony innych interesów, jak mienia przed kradzieżą lub oszustwem).
2. W przypadku kategoryzacji biometrycznej zakaz nie obejmuje etykietowania i filtrowania danych pozyskanych zgodnie z prawem, takich jak obrazy, w oparciu o dane biometryczne, ani kategoryzacji danych biometrycznych w obszarze ścigania przestępstw (np. sortowanie obrazów według koloru włosów lub koloru oczu, które można na przykład wykorzystać w obszarze ścigania przestępstw).
3. W przypadku identyfikacji biometrycznej zakaz nie obejmuje użycia systemów AI w celu ścigania niektórych poważnych przestępstw:

• ukierunkowanego poszukiwania konkretnych ofiar uprowadzeń, handlu ludźmi lub wykorzystywania seksualnego, a także poszukiwania osób zaginionych,
• zapobiegania konkretnemu, istotnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa osób fizycznych lub rzeczywistemu i aktualnemu lub rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym,
• lokalizowaniu lub identyfikowaniu osoby podejrzanej o popełnienie przestępstwa w postępowaniu przygotowawczym lub ścigania lub wykonywania kar w odniesieniu do przestępstw podlegających karom pozbawienia wolności (lub, w zależności od Państwa unijnego, środkom polegającym na pozbawieniu wolności, którego górna granica to co najmniej 4 lata), np. terroryzm, handel ludźmi, wykorzystywanie seksualne dzieci i pornografia dziecięca, handel narkotykami, handel bronią, zabójstwo lub ciężkie uszkodzenie ciała, uprowadzenie i przetrzymywanie zakładników, przestępstwa podlegające pod Międzynarodowy Trybunał Karny, zgwałcenie, przestępstwa środowiskowe, rozboje, sabotaże czy udział w organizacji przestępczej.

Systemy AI wysokiego ryzyka

Systemy AI wysokiego ryzyka to systemy, którym poświęcone jest najwięcej przepisów AI Act. Wprowadzanie do użytku tych systemów jest objęte najszerszym katalogiem obowiązków dokumentacyjnych i raportowych.

Do systemów mieszczących się w tej kategorii należą systemy AI stanowiące elementy produktu objętego unijnym prawodawstwem harmonizacyjnym oraz przeznaczenie takich systemów jest związane z bezpieczeństwem produktu (lub gdy sam system AI jest takim produktem), np.:

• wyrobem medycznym (Rozporządzenie z dnia 5 kwietnia 2017 r., nr 2017/745),
• wyrobem medycznym do diagnostyki in vitro (Rozporządzenie z dnia 5 kwietnia 2017 r., nr 2017/746),
• maszyną (Dyrektywa z dnia 17 maja 2006 r., nr 2006/42/WE),
• dźwigiem lub elementem bezpieczeństwa do dźwigów (Dyrektywa z dnia 26 lutego 2014 r., nr 2014/33/UE),
• rekreacyjną jednostką pływającą lub skuterem wodnym (Dyrektywa z dnia 20 listopada 2013 r., nr 2013/53/UE),
• zabawką (Dyrektywa z dnia 18 czerwca 2009 r., nr 2009/48/WE),
• urządzeniem ciśnieniowym (Dyrektywa z dnia 15 maja 2014 r. , nr 2014/68/UE),
• urządzeniem lub systemem ochronnym przeznaczonym do użytku w atmosferze potencjalnie wybuchowej (Dyrektywa z dnia 26 lutego 2014 r., nr 2014/34/UE),
• urządzeniem radiowym (Dyrektywa z dnia 16 kwietnia 2014 r. , nr 2014/53/UE),
• środkiem ochrony indywidualnej (Rozporządzenie z dnia 9 marca 2016 r., nr 2016/425),
• urządzeniem spalających paliwa gazowe (Rozporządzenie z dnia 9 marca 2016 r., nr 2016/426), czy
• urządzeniem kolei linowych (Rozporządzenie z dnia 9 marca 2016 r., nr 2016/424).

Dodatkowo takie systemy muszą podlegać ocenie zgodności przez stronę trzecią w związku z wprowadzeniem tego produktu do obrotu lub oddaniem go do użytku. Oba powyższe warunki (objęcie unijnym prawodawstwem harmonizacyjnym oraz podleganie ocenie zgodności przez stronę trzecią) muszą być spełnione łącznie aby AI Act miał zastosowanie.

Oprócz tego systemami AI wysokiego ryzyka będą następujące systemy (wskazane szczegółowo w załączniku 3 do AI Act)

1. Systemy biometryczne, w zakresie, w jakim ich stosowanie jest dozwolone na podstawie odpowiednich przepisów prawa unijnego lub prawa krajowego i obejmują:

• systemy zdalnej identyfikacji biometrycznej,
• systemy AI przeznaczone do wykorzystania przy kategoryzacji biometrycznej, według wrażliwych lub chronionych atrybutów lub cech na podstawie wywnioskowania tych atrybutów lub cech,
• systemy AI przeznaczone do rozpoznawania emocji.

2. Systemy infrastruktury krytycznej,czyli związane z bezpieczeństwem systemy stanowiące elementy procesów zarządzania krytyczną infrastrukturą cyfrową, ruchem drogowym i procesami ich działania lub zaopatrzenia w wodę, gaz, ciepło lub energię elektryczną.

3. Systemy do kształcenia i szkolenia zawodowego służące do:

• podejmowania decyzji w zakresie dostępu, przyjęcia lub przydziału do instytucji edukacyjnej/kształcenia zawodowego,
• oceny efektów uczenia (również gdy efekty są oceniane tylko pod kątem kierowania procesem uczenia),
• oceny odpowiedniego poziomu wykształcenia, jaki można otrzymać lub do jakiego będzie mieć się dostęp dana os. fizyczna,
• monitorowania i wykrywania niedozwolonego zachowania uczniów podczas testów (na wszystkich poziomach).

4. Systemy do zatrudniania, zarządzania pracownikami i dostępu do samozatrudnienia, służące do:

• rekrutacji lub wyboru os. fizycznych (w szczególności umieszczanie ukierunkowanych ogłoszeń o pracę , analizowania/filtrowania CV oraz oceny kandydatów),
• podejmowania decyzji wpływających na warunki stosunków pracy czy rozwiązaniu stosunku pracy, awansach, przydzielania zadań (w oparciu o indywidualne zachowanie/cechy charakteru/cechy osobowości), monitorowania lub oceny wydajności i zachowania.

5. Systemy dostępu do podstawowych usług prywatnych/usług i świadczeń publicznych, a także korzystania z nich, służące do:

• ocena kwalifikowalności osób fizycznych do podstawowych świadczeń i usług publicznych (m.in. opieki zdrowotnej, przyznawania/ograniczania/odwoływania/ żądania zwrotu takich świadczeń lub usług; wykorzystywane przez organy publiczne, jak i w ich imieniu),
• ocena zdolności kredytowej os. fizycznych lub ustalanie ich tzw. scoringu kredytowego,
• ocena i ustalanie cen w odniesieniu do os. fizycznych na potrzeby ubezpieczeń społecznych (ubezpieczenie na życie i zdrowotne),
• ocena i klasyfikacja zgłoszeń alarmowych dokonanych przez os. fizyczne lub określanie priorytetów w wysyłaniu służb pierwszej pomocy (m.in. policji, straży pożarnej, lekarzy), a także oceny stanu zdrowia pacjentów w nagłych wypadkach.

6. Systemy do ścigania przestępstw (dozwolone prawem UE lub krajowym, wykorzystywane przez organy ścigania lub w ich imieniu przez instytucje, organy i jednostki organizacyjne UE), dłużące do:

• oceny czy dana os. fizyczna stanie się ofiarą przestępstwa,
• wsparcia udzielanego ofiarom ścigania,
• oceny wiarygodności dowodów w toku ścigania przestępstw lub prowadzenia postępowań przygotowawczych,
• profilowania os. fizycznych w toku wykrywania i ścigania przestępstw lub prowadzenia postępowań przygotowawczych
• oceny ryzyka, że os. fizyczna popełni (w tym ponownie) przestępstwo lub do oceny cech osobowości/charakteru/uprzedniego zachowania (w tym w ramach grup).

7. Systemy do zarządzania migracją, azylem i kontrolą graniczną (dozwolone prawem UE lub krajowym, wykorzystywane przez organy publiczne lub w ich imieniu przez instytucje, organy i jednostki organizacyjne UE), służące do:

• obsługi wariografów lub podobnych narzędzi
• oceny ryzyka (m.in. bezpieczeństwa, migracji nieuregulowanej, ryzyka dla zdrowia stwarzanego przez os. fizyczną, która zamierza wjechać lub wjechała na terytorium UE)
• rozpatrywania wniosków o udzielenie azylu, wydanie wizy, dokumentów pobytowych, oraz związanych z nimi skarg w odniesieniu do kwalifikowalności os. fizycznych ubiegających się o przyznanie określonego statusu, w tym przy ocenie wiarygodności dowodów
• zarządzanie migracją, azylem, kontrolą graniczną, dla celów wykrywania, rozpoznawania lub identyfikacji os. fizycznych

8. Systemy do sprawowania wymiaru sprawiedliwości i procesów demokratycznych (wykorzystywane przez organy wymiaru sprawiedliwości lub w jego imieniu), służące do:

• wspomagania w badaniu interpretacji stanu faktycznego i przepisów prawa oraz w stosowaniu prawa do konkretnego stanu faktycznego lub do wykorzystywania w podobny sposób w alternatywny metodach rozwiązywania sporów
• wywierania wpływu na wynik wyborów lub referendów lub na zachowanie os. fizycznych podczas głosowania w wyborach lub referendach

Zgodnie z przepisami AI Act do systemów wysokiego ryzyka nie będą się zaliczać jednak:

• systemy służące do wykrywania oszustw finansowych (mogące pierwotnie wpisywać się w systemy do oceny zdolności kredytowej i scoringu kredytowego)
• systemy do weryfikacji dokumentów podróży (mogących pierwotnie wpisywać się w systemy zarządzania migracją, azylem, kontrolą graniczną itp.)
• systemy do m.in. organizacji, optymalizacji lub strukturyzowania kampanii politycznych z administracyjnego lub logistycznego punktu widzenia (czyli takich systemów, które nie wywierają bezpośredniego wpływu na os. fizyczne uczestniczące w kampaniach lub referendach - osoby te nie są narażone na wyniki działania takiego systemu; pierwotnie takie systemy mogą się wpisywać w systemy do sprawowania wymiaru sprawiedliwości i procesów demokratycznych)

Kluczowe jest ryzyko szkody i wpływ na proces decyzyjny. A więc do klasyfikacji systemów AI wysokiego ryzyka kluczowym jest:

• znaczące ryzyko szkody dla interesów prawnie chronionych os. fizycznych (zdrowia, bezpieczeństwa lub praw podstawowych), oraz
• istotność wpływu na wynik procesu decyzyjnego.

Szczególnie ważne jest tutaj wskazanie, że jeżeli system AI nie ma wpływu na istotę, a tym samym na wynik procesu decyzyjnego, zarówno przeprowadzanego przez człowieka, jak i w sposób zautomatyzowany, to nie będzie klasyfikowany jako system AI wysokiego ryzyka.

System AI, który nie ma istotnego wpływu na wynik procesu decyzyjnego, może obejmować systemy, które:

• mają na celu wykonywanie zadań proceduralnych o wąskim i ograniczonym charakterze (np. system, który przekształca nieustrukturyzowane dane w dane ustrukturyzowane, system kategoryzujący przychodzące dokumenty lub system wykorzystywany do wykrywania duplikatów w dużej liczbie zastosowań),
• wykonują zadania mające na celu poprawę wyników już zakończonego działania przeprowadzonego przez człowieka (np. systemy, które mają na celu językową korektę przygotowanych wcześniej dokumentów, na przykład by wprowadzić profesjonalny ton, styl akademicki lub by dostosować tekst do określonego przekazu marki),
• mających na celu wykrywanie wzorców podejmowania decyzji lub odstępstw od wzorców podjętych uprzednio decyzji przez człowieka, a więc ich wykorzystanie następowałoby po przeprowadzeniu oceny przez człowieka (np. systemy, które uwzględniając określony wzorzec oceniania stosowany przez nauczyciela, mogą być wykorzystywane ex post, by sprawdzić, czy nauczyciel nie odszedł od stosowanego wzorca, i w ten sposób wskazać potencjalne niespójności lub nieprawidłowości),
• przeznaczonych jedynie do wykonywania zadań przygotowawczych (np. systemy do zarządzania plikami, które obejmują różne funkcje, takie jak indeksowanie, przeszukiwanie, przetwarzanie tekstów i mowy lub łączenie danych z innymi źródłami danych, lub  systemach wykorzystywanych do tłumaczenia dokumentów wstępnych).

Systemy AI ograniczonego ryzyka

Systemy AI ograniczonego ryzyka, to systemy które nie są w stanie wyrządzić poważnych szkód jak systemy AI wysokiego ryzyka ale mogą stwarzać ryzyko wprowadzenia w błąd, manipulacji lub oszustwa. W przypadku takich systemów kluczowym jest zapewnienie ich przejrzystości działania. Przejrzystość w tym wypadku polega na tym, że jeżeli system AI ma wchodzić w bezpośrednią interakcję z os. fizycznymi, to powinny być one projektowane i rozwijane w taki sposób, aby zainteresowane os. fizyczne były informowane o tym, że prowadzą interakcję z systemem AI.

Chyba że jest to oczywiste z punktu widzenia os. fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu wykorzystywania. W tym wypadku kluczowym jest więc odpowiednia informacja dla użytkownika o interakcji z systemem AI, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania systemu.

W przypadku różnego rodzaju systemów AI ograniczonego ryzyka zastosować można następne rodzaje informacji o interakcji z AI.

1. Systemy AI ogólnego przeznaczenia, generujące teksty, syntetyczne dźwięki, obrazy, wideo lub tekst, np. ChatGPT, Perplexity (odpowiednie oznakowanie w formacie nadającym się do odczytu maszynowego i wykrywalne jako wygenerowane sztucznie lub zmanipulowane).
2. Systemy rozpoznawania emocji lub systemy kategoryzacji biometrycznej, gdzie nie stwarzają ryzyka dla praw podstawowych, np. wykorzystywane w branży rozrywkowej (powinny informować os. fizyczne, wobec których będą stosowane o fakcie ich stosowania  i przetwarzania danych powinno następować zgodnie z obowiązującymi przepisami w tym zakresie).
3. Generatory deepfake, czyli systemy generujące lub manipulujące treścią audio, wideo lub obrazem, które mogą być mylone z rzeczywistością (ujawnienie, że treści zostały sztucznie wygenerowane lub zmanipulowane; w przypadku pracy lub programu o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze obowiązki w zakresie przejrzystości ograniczają się do ujawnienia istnienia takich wygenerowanych lub zmanipulowanych treści w odpowiedni sposób, który nie utrudnia wyświetlania lub korzystania z utworu).
4. Systemy generowania tekstu w celu informowania społeczeństwa o sprawach leżących w interesie publicznym lub manipulujące takim tekstem (ujawnienie, że treści zostały sztucznie wygenerowane lub zmanipulowane).

Powyższa zasada przejrzystości nie ma zastosowania w następujących przypadkach.

• W przypadku systemów AI ogólnego przeznaczenia, obowiązek ten nie ma zastosowania w zakresie, w jakim systemy pełnią funkcję wspomagającą w zakresie standardowej edycji lub nie zmieniają w istotny sposób przekazywanych przez podmiot stosujący danych wejściowych lub ich semantyki, ani w zakresie, w jakim jest to dozwolone na mocy prawa do celów wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców.
• W przypadku systemów do rozpoznawania emocji i kategoryzacji biometrycznej obowiązek ten nie ma zastosowania w przypadkach, w których wykorzystywanie ich jest dozwolone z mocy prawa do celów wykrywania przestępstw, przeciwdziałania im i prowadzenia postępowań przygotowawczych lub ścigania ich sprawców, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich oraz zgodnie z prawem UE.
• W przypadku systemów generujących tzw. deepfake obowiązek ten nie ma zastosowania, w przypadku gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych lub ścigania ich sprawców.
• W przypadku systemów generujących treści społeczne lub w leżące w interesie publiczny, obowiązek ten nie ma zastosowania, w przypadku gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych lub ścigania sprawców lub w przypadku gdy treści wygenerowane przez system zostały poddane weryfikacji przez człowieka lub kontroli redakcyjnej i gdy za publikację treści odpowiedzialność redakcyjną ponosi os. fizyczna lub prawna.

A więc podstawową sytuacją, w której powyższa zasada przejrzystości nie ma zastosowania to sytuacja dot. systemów AI, których wykorzystywanie jest dozwolone na mocy prawa do celów wykrywania przestępstw, przeciwdziałania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców.

Systemy AI minimalnego ryzyka

Systemy AI o minimalnym ryzyku zgodnie z AI Act to systemy, które nie stwarzają istotnego ryzyka dla praw podstawowych, zdrowia publicznego czy bezpieczeństwa. Te systemy są prawie nieuregulowane i nie podlegają specjalnym obowiązkom, z wyjątkiem zalecanej przejrzystości, aby użytkownicy byli świadomi interakcji z systemem AI.

Przykłady systemów AI o minimalnym ryzyku.

• filtry spamu: proste systemy filtrujące niechciane wiadomości e-mail,
• proste systemy rekomendacyjne: systemy sugerujące produkty lub treści na podstawie historii przeglądania,
• gry komputerowe z AI: gry, które wykorzystują AI do generowania poziomów lub przeciwników, ale nie mają wpływu na prawa podstawowe,
• narzędzia do automatyzacji prostych zadań: systemy AI pomagające w zautomatyzowaniu rutynowych czynności, takich jak dostosowanie jasności zdjęć.

Czym są modele AI ogólnego przeznaczenia i systemy AI ogólnego przeznaczenia?

Ostatnią kategorią o której należy pamiętać przy klasyfikacji systemów AI są tzw. modele AI ogólnego przeznaczenia i mogące na ich bazie powstawać systemy AI ogólnego przeznaczenia. Zgodnie z definicją zawartą w AI Act model AI ogólnego przeznaczenia oznacza model AI, w tym model AI trenowany dużą ilością danych z wykorzystaniem nadzoru własnego na dużą skalę, który wykazuje znaczną ogólność i jest w stanie kompetentnie wykonywać szeroki zakres różnych zadań, niezależnie od sposobu, w jaki model ten jest wprowadzany do obrotu, i który można zintegrować z różnymi systemami lub aplikacjami niższego szczebla.

Do modeli AI ogólnego przeznaczenia można zaliczyć modele o co najmniej miliardzie parametrów. Duże generatywne modele AI są typowym przykładem modelu AI ogólnego przeznaczenia, biorąc pod uwagę, że umożliwiają elastyczne generowanie treści, np. w postaci tekstu, dźwięku, obrazów lub materiałów wideo, i mogą z łatwością wykonywać szeroki zakres różnych zadań. Można do nich zaliczyć m.in.: GPT czy DALL-E (OpenAI), Claude (Anthropic), Grok (xAI), Gemini (Google), LLaMA (Meta), czy polski PLLuM.

Modele AI ogólnego przeznaczenia są zazwyczaj trenowane w oparciu o dużą ilość danych za pomocą różnych metod, takich jak uczenie się samodzielnie nadzorowane, nienadzorowane lub uczenie przez wzmacnianie. Modele AI ogólnego przeznaczenia mogą być wprowadzane do obrotu na różne sposoby, w tym za pośrednictwem bibliotek, interfejsów programowania aplikacji (API), przez bezpośrednie pobieranie lub w wersji fizycznej. Modele te mogą być dalej zmieniane lub dostosowywane jako baza do tworzenia nowych modeli.

Chociaż modele AI są zasadniczymi elementami systemów AI, nie stanowią same w sobie systemów AI.

Obraz wygenerowany przy użyciu ChatGPT
 
Aby model AI mógł stać się systemem AI należy dodać do niego dodatkowe elementy, takie jak na przykład interfejs użytkownika. Modele AI są zwykle zintegrowane z systemami AI i stanowią ich część. Jeżeli model AI ogólnego przeznaczenia jest zintegrowany z systemem AI lub stanowi jego część, system ten należy uznać za system AI ogólnego przeznaczenia, jeżeli w wyniku zintegrowania modelu system ten może służyć różnym celom. System AI ogólnego przeznaczenia może być wykorzystywany bezpośrednio lub być zintegrowany z innymi systemami AI. Systemy AI ogólnego przeznaczenia mogą być wykorzystywane jako samodzielne systemy AI wysokiego ryzyka lub stanowić element innych systemów AI wysokiego ryzyka.
 

 
Modele AI ogólnego przeznaczenia mogą wpadać w dodatkową klasyfikację jako modele AI ogólnego przeznaczenia z ryzykiem systemowym. Model AI ogólnego przeznaczenia stwarza ryzyko systemowe, jeżeli wykazuje on zdolności dużego oddziaływania, oceniane na podstawie odpowiednich narzędzi technicznych i metodologii, lub jeżeli ze względu na swój zasięg ma znaczący wpływ na rynek wewnętrzny.

Ryzyko systemowe wzrasta wraz ze zdolnościami i zasięgiem modelu, może wystąpić w całym cyklu życia modelu i jest uzależnione od warunków niewłaściwego wykorzystania, zawodności, stronności i ryzyka dla bezpieczeństwa modelu, poziomu jego autonomii, dostępu do narzędzi, stosowania nowatorskich lub połączonych metod, strategii udostępniania i dystrybucji, możliwości w zakresie usuwania zabezpieczeń i innych czynników.

Model AI ogólnego przeznaczenia jest klasyfikowany jako model AI ogólnego przeznaczenia z ryzykiem systemowym, jeżeli:

• ma zdolności dużego oddziaływania ocenionego w oparciu o odpowiednie narzędzia i metodologie techniczne, w tym wskaźniki i poziomy odniesienia (to m.in. taki system, którego łączna liczba obliczeń wykorzystywanych do trenowania mierzona w operacjach zmiennoprzecinkowych jest większa niż 10),
• w oparciu o decyzję Komisji Europejskiej - z urzędu lub w następstwie ostrzeżenia kwalifikowanego wydanego przez panel naukowy można stwierdzić, że model ma zdolności lub duże oddziaływanie (jak wyżej), przy uwzględnieniu kryteriów określonych w załączniku XIII do AI Act.

Modele AI ogólnego przeznaczenia mogą stwarzać ryzyko systemowe, które obejmuje m.in.:

• wszelkie rzeczywiste lub racjonalnie przewidywalne negatywne skutki poważnych awarii, zakłóceń w sektorach krytycznych oraz poważne konsekwencje dla zdrowia i bezpieczeństwa publicznego (np. kreowanie wydarzeń mogących powodować reakcję łańcuchową o znacznych negatywnych skutkach, które mogą mieć wpływ nawet na całe miasta, na całą działalność w danym obszarze lub na całe społeczności
• wszelkie rzeczywiste lub racjonalnie przewidywalne negatywne skutki dla procesów demokratycznych, bezpieczeństwa publicznego i gospodarczego (np. ułatwianie dezinformacji lub naruszanie prywatności),
• rozpowszechnianie nielegalnych, fałszywych lub dyskryminujących treści,
• opracowywania, projektowania, nabywania lub stosowania broni,
• ofensywne zdolności w zakresie cyberbezpieczeństwa,
• ryzyko związane ze sporządzaniem kopii własnych przez modele lub samoreplikacji lub wynikające z trenowania innych modeli przez dany model.

Kategoria ta nie obejmuje jednak, podobnie jak w przypadku systemów AI, modeli AI wykorzystywanych przed wprowadzeniem ich do obrotu wyłącznie do celów działalności badawczo-rozwojowej i tworzenia prototypów.
 

Gdzie szukać wskazówek?

Przepisy dotyczące klasyfikacji systemów AI zgodnie z kategoriami określonymi w AI Act są długie, skomplikowane i zawierają wiele wariantów kwalifikujących dany system do różnych kategorii. Oczywiście podstawowym aktem stosowanym przy kategoryzacji systemów AI powinien być AI Act (w szczególności preambuła zawiera wile ciekawych wskazówek). Niemniej, wskazówek można szukać również w wydanych niedawno przez Komisję Europejską Wytycznych dotyczących zakazanych praktyk w zakresie sztucznej inteligencji zgodnie z definicją zawartą w akcie w sprawie sztucznej inteligencji.

Wytyczne to ponad 135 stron instrukcji ze szczegółowymi przykładami systemów, które mogą wpadać przede wszystkim w tzw. systemy AI zakazane, ale także sytuacji, kiedy takich systemów nie stanowią, a więc wpadają w inne kategorie wskazane w AI Act.5.

Okresy przejściowe

Generalnie rozpoczęcie stosowania AI Act w pełni będzie miało miejsce 2 sierpnia 2027 r. Niemniej już teraz od 2 lutego 2025 r., w drodze wyjątku, zastosowanie mają przepisy ogólne (Rozdział I) oraz przepisy dotyczące systemów AI zakazanych (Rozdział II).

Kolejna partia przepisów zacznie obowiązywać 2 sierpnia 2025 r. i będzie dotyczyć przepisów dotyczących jednostek notyfikowanych (Rozdział III sekcja 4), przepisów o modelach AI ogólnego przeznaczenia (Rozdział V), przepisów dotyczących organów zajmujących się i egzekwujących prawo AI (Rozdział VII), przepisów karnych (Rozdział XII) i art. 78 AI Act (poufności informacji i danych uzyskanych podczas wykonywania swoich zadań i swojej działalności przez organy zajmujące się prawem AI) z wyjątkiem art. 101 AI Act – dotyczącego kar nakładanych na dostawców modeli AI ogólnego przeznaczenia (dostawcy modeli AI ogólne przeznaczenia, które zostały wprowadzone do obrotu przed 2 sierpnia 2025 r., podejmują niezbędne kroki w celu spełnienia obowiązków wynikających z AI Act do 2 sierpnia 2027 r.).

Następnie 2 sierpnia 2026 r. AI Act zacznie obowiązywać już prawie w całości i będzie dotyczyć większości systemów AI wysokiego ryzyka (tj. w zakresie systemów AI wysokiego ryzyka wskazanych w Załączniku nr III do AI Act), zaczną obowiązywać przepisy dotyczące obowiązku przejrzystości dla dostawców i podmiotów stosujących systemy AI (Rozdział IV), środków wspierających innowacyjność (Rozdział VI), bazy danych unijnej dla systemów AI wysokiego ryzyka (Rozdział VIII), monitoringu po wprowadzeniu systemu AI do obrotu, wymiany informacji oraz nadzoru runku (Rozdział IX), kodeksów postępowania i wytycznych (Rozdział X) oraz przekazania uprawnień Komisji Europejskiej do przyjmowania aktów delegowanych i procedura komitetowa (Rozdział XI).

Jedne z ostatnich przepisów wejdą w życie 2 sierpnia 2027 r. i będą dotyczyć klasyfikacji systemów AI jako systemów wysokiego ryzyka w zakresie w jakim systemy te są elementem produktu objętego unijnym prawodawstwem harmonizacyjnym oraz obowiązków dla tego typu systemów. Wejdą również wymogi dla operatorów systemów AI wysokiego ryzyka, które zostały wprowadzone do obrotu lub oddane do użytku przed 2 sierpnia 2026 r. – tylko w przypadku wprowadzenia istotnych zmian w projektach tych systemów po tej dacie oraz wymogi dla dostawców modeli ogólnego przeznaczenia, które zostały wprowadzone do obrotu przed 2 sierpnia 2025 r.

Ostatecznie 2 sierpnia 2030 r. nastąpi ostateczny termin zapewnienia zgodności z przepisami AI Act dla systemów AI wysokiego ryzyka używanych przez organy publiczne oraz wielkoskalowych systemów informatycznych wymienionych w załączniku X do rozporządzenia, które zostały wprowadzone przed 2 sierpnia 2027 r.

Podsumowanie

Klasyfikacja systemów AI przysporzy niejednej osobie ogromnych trudności. Przepisy AI Act, ustawy krajowe w zakresie systemów sztucznej inteligencji, wytyczne zarówno unijnych, jak i krajowych organów administracyjnych są obszerne i zawiłe. Aby ułatwić proces klasyfikacji z czasem będą wprowadzane różne mechanizmy ułatwiające kategoryzację. Przede wszystkim stworzona zostanie specjalna Baza systemów AI wysokiego ryzyka, w której będą ewidencjonowane systemy uznane za systemy AI wysokiego ryzyka, oraz systemy AI nie uznane za systemy wysokiego ryzyka (baza będzie publicznie dostępna).

Dodatkowo mają powstawać Kodeksy postępowania, których celem ma być propagowanie dobrowolnego stosowania w odniesieniu do systemów AI niebędących systemami wysokiego ryzyka niektórych lub wszystkich wymogów dla systemów AI wysokiego ryzyka. Oprócz tego Komisja Europejska ma tworzyć specjalnego rodzaju Wytyczne dotyczące praktycznego wdrażania AI Act, a więc i klasyfikacji systemów AI (jak wcześniej wskazane wytyczne dot. klasyfikacji systemów AI zakazanych).

Czekamy w tym zakresie na pewno na wytyczne dot. identyfikacji systemów AI, których możemy się spodziewać pewnie w niedługim czasie. Wytyczne dotyczące rozumienia pojęcia systemu AI już zostały wydane.
 

* Zastrzegamy, iż powyższe opracowanie nie stanowi wiążącej oceny czy klasyfikacji jakiegokolwiek systemu AI na potrzeby AI Act. Każda analiza powinna być przeprowadzona w odniesieniu do konkretnego przypadku. CRIDO nie ponosi odpowiedzialności za decyzje i klasyfikacje systemów AI podjęte na podstawie powyższego opracowania.