Art. 3 pkt 1 rozporządzenia 2024/1689 („AI Act”) zawiera definicję legalną systemu sztucznej inteligencji, stanowiąc, że jest nim system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne.

O tym, że powyższa definicja może być mało przejrzysta, unijny prawodawca wiedział już przyjmując AI Act. Stąd też, mocą art. 96 ust. 1 pkt f) AI Act, Komisja Europejska została zobowiązana do opracowania wytycznych dotyczących stosowania definicji systemu AI. Wytyczne te opublikowane zostały przez Komisję Europejską 6 lutego 2025 r. („Wytyczne Komisji”). Pomimo tego, że Wytyczne Komisji nie mają charakteru wiążącego (w sposób wiążący AI Act może być interpretowany wyłącznie przez TSUE), mają one na celu pomóc w ocenie czy projektowany, wdrażany lub wykorzystywany system podlega wymogom AI Act.

Wytyczne AI rozkładają w/w definicję systemu sztucznej inteligencji na 7 następujących składników:

1. system maszynowy – a więc opracowany i działający na maszynie, przy czym maszyna rozumiana może być tu jako zbiór elementów zarówno hardware, jak i software, umożliwiających funkcjonowanie systemu AI, niezależnie od tego czy mówimy o komputerach tradycyjnych, kwantowych, czy też systemach organicznych lub biologicznych posiadających zdolności obliczeniowe. ↓
2. zaprojektowany do działania z różnym poziomem autonomii – co oznacza możliwość działania (w szczególności wnioskowania) w pewnym zakresie autonomicznie w stosunku do człowieka; z definicji systemu AI wyłączone są więc systemy maszynowe, które obsługiwane są w całości przez człowieka – choćby pośrednio, poprzez zautomatyzowaną kontrolę pozwalającą na nadzór człowieka nad operacjami wykonywanymi przez system. ↓
3. mogący wykazywać zdolność adaptacji po jego wdrożeniu – co oznacza umiejętność uczenia się przez system w toku jego funkcjonowania, co może pozwalać mu „nabierać doświadczenia” i generować inne (z założenia lepsze) rezultaty w miarę nauki wynikającej z analizy i interpretacji rosnącej liczby danych wejściowych i generowania na ich podstawie danych wyjściowych (oraz feedbacku otrzymywanego od użytkownika); co istotne, zdolność do adaptacji nie jest warunkiem koniecznym do kwalifikacji systemu maszynowego jako systemu AI. ↓
4. który na potrzeby wyraźnych lub dorozumianych celów – cele systemu AI mogą być w systemie zakodowane (cele wyraźne) lub wynikać z danych wejściowych lub z interakcji systemu AI ze środowiskiem (cele dorozumiane), przy czym cele systemu AI mogą być w danej sytuacji różne od jego przeznaczenia zakładanego przez jego twórców – cele mają charakter wewnętrzny, są celami systemu, podczas gdy jego przeznaczenie ma charakter zewnętrzny, wynika z założeń jego twórców, które mogły uwzględniać osiąganie pewnych celów lub nie, bądź zakładać osiąganie celów w określony sposób (np. poprzez wprowadzanie odpowiednich danych wejściowych i odpowiednie zadawanie pytań); jest to istotne rozróżnienie, gdyż system AI może generować jednocześnie rezultaty zgodne z jego celami, lecz niezgodne z jego przeznaczeniem (gdy np. poprawnie analizuje tendencyjne dane wejściowe). ↓
5. wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki – jest to kluczowa cecha systemów AI; system maszynowy, który nie potrafi wnioskować na podstawie wprowadzonych danych wejściowych, nie jest systemem sztucznej inteligencji; wnioskowanie może następować przy użyciu rozmaitych technik, takich jak np. uczenie maszynowe; Wytyczne Komisji w dość obszerny sposób poruszają zagadnienie różnych technik umożliwiających systemowi AI wnioskowanie, wskazując również dla porównania przykłady systemów maszynowych niebędących systemami sztucznej inteligencji – takich jak np. systemy generujące prognozy bazując wyłącznie na danych statystycznych lub historycznych, systemy wykorzystujące uczenie maszynowe do poprawy własnej wydajności a nie modyfikowania wbudowanych w nie mechanizmów podejmowania decyzji, czy też systemy funkcjonujące wg ściśle rozpisanych instrukcji, bez możliwości samodzielnego modyfikowania procesów prowadzących do generowania wyników. ↓
6. takie jak predykcje, treści, zalecenia lub decyzje – umiejętność generowania przez system maszynowy danych wyjściowych zaliczanych do przynajmniej jednej z w/w kategorii jest warunkiem koniecznym zakwalifikowania go w kategoriach systemu sztucznej inteligencji. ↓
7. które mogą wpływać na środowisko fizyczne lub wirtualne – ten ostatni aspekt definicji systemu sztucznej inteligencji ma na celu podkreślenie skutków jakie może on wywierać zarówno w środowisku fizycznym (np. w przypadku systemu wykorzystywanego w pojazdach autonomicznych), jak i wirtualnym (np. w przypadku generatora treści video mogącego służyć do manipulowania opinią publiczną).

Jak podkreśla Komisja Europejska, przy kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji ważnym jest również by predykcje, treści, zalecenia lub decyzje generowane były przez system przy uwzględnieniu złożonych czynników, powiązań oraz wzorców, za pomocą wnioskowania prowadzonego w pewnym istotnym zakresie autonomicznie przez system. W praktyce, ocena czy dany system maszynowy kwalifikowany jest przez AI Act jako system sztucznej inteligencji, może często nastręczać kłopotów – o czym świadczy już samo opublikowanie Wytycznych Komisji oraz zastrzeżenie takiej konieczności bezpośrednio w treści AI Act. Komisja Europejska podkreśla, że niemożliwym jest automatyczne kwalifikowanie określonego zakresu systemów maszynowych jako systemów sztucznej inteligencji, czy też sporządzenie wyczerpującej listy takich systemów. Każdy przypadek wymaga indywidualnej oceny.

Jeśli już dany system maszynowy zostanie zakwalifikowany jako system AI, kolejnym krokiem powinno być przeprowadzenie oceny dotyczącej charakteru tego systemu, co przesądzać będzie o tym, w jakim zakresie podlega on regulacjom AI Act. Więcej w tym przedmiocie pisaliśmy tutaj.

Wpisy powiązane:

Sztuczna inteligencja okiem UE

Unijna definicja sztucznej inteligencji

Dane w systemach AI

Poziomy ryzyka systemów AI

Obowiązki dostawców systemów AI

Obowiązki importerów systemów AI

Obowiązki dystrybutorów systemów AI

Kary pieniężne za naruszenie AI Act

Sztuczna inteligencja a RODO

🔝Prawo AI - wszystkie wpisy

Data publikacji: 13.02.2025