W jednym z naszych wpisów poświęciliśmy uwagę piaskownicom regulacyjnym w zakresie AI. W ich ramach możliwe będzie przeprowadzanie testów systemów sztucznej inteligencji w warunkach rzeczywistych, a więc poza murami laboratoriów i na żywym organizmie (także z udziałem ludzi), co ma niezwykle istotne znaczenie dla innowacyjnych przedsiębiorstw. AI Act dopuszcza testowanie systemów AI wysokiego ryzyka w warunkach rzeczywistych także poza piaskownicami regulacyjnymi. Niniejszy wpis traktuje o warunkach prawnych, które należy spełnić, by móc testować systemy AI.
W pierwszym rzędzie należy zauważyć, że omawiane wymogi będą dotyczyć tylko systemów AI wysokiego ryzyka, o których mowa w Załączniku III (stosowanych w takich obszarach jak m.in. zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia, infrastruktura krytyczna, kształcenie i szkolenie zawodowe). Stąd też kluczowe jest prawidłowe zidentyfikowanie systemu AI jaki rozwijamy (szerzej o tym piszemy tutaj).
Zważyć należy także należy na obowiązek przestrzegania – podczas prowadzenia testów w warunkach rzeczywistych – zakazów wymienionych w art. 5 AI Act, jak również o dokonywaniu oceny etycznej wymaganej prawem Unii lub prawem unijnym.
Przechodząc wreszcie do sedna, przedstawiamy poniżej wymogi dla przeprowadzenia testów w warunkach rzeczywistych (które muszą być spełnione łącznie):
- sporządzenie planu testów w warunkach rzeczywistych i przedłożenie go organowi nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzane te testy (szczegółowe elementy takiego planu określa Komisja Europejska w drodze aktów wykonawczych);
- zatwierdzenie testów w warunkach rzeczywistych i planu tych testów przez organ nadzoru (przy czym milczenie organu przez okres 30 dni oznacza zatwierdzenie, chyba że prawo krajowe nie przewiduje milczącego zatwierdzenia);
- zarejestrowanie testów w warunkach rzeczywistych w bazie danych UE pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym (rodzaj systemu AI będzie implikował rodzaj bazy, w której testy winny zostać zarejestrowane);
- dostawca przeprowadzający testy w warunkach rzeczywistych ma siedzibę w Unii lub ustanowił przedstawiciela prawnego, który ma siedzibę w Unii;
- dane zebrane i przetwarzane do celów testów w warunkach rzeczywistych przekazuje się do państw trzecich wyłącznie pod warunkiem wdrożenia odpowiednich zabezpieczeń mających zastosowanie na podstawie prawa Unii (w szczególności chodzi tu o dane osobowe transferowane poza EOG);
- ograniczony czas trwania testów, które trwają nie dłużej, niż to konieczne do osiągnięcia ich celów, a w każdym razie nie dłużej niż sześć miesięcy, z możliwością przedłużenia o dodatkowy okres sześciu miesięcy (po uprzednim powiadomieniu organu nadzoru i przedstawieniu mu uzasadnienia konieczności takiego przedłużenia);
- zapewnienie uczestnikom testów należącym do grup szczególnie wrażliwych z uwagi na wiek lub niepełnosprawność odpowiedniej ochrony;
- powiadomienie (potencjalnego) podmiotu stosującego współpracującego podczas testów z dostawcą o wszystkich aspektach testów, które są istotne dla jego decyzji o uczestnictwie, oraz doręczenie mu odpowiedniej instrukcji obsługi systemu AI – co istotne dostawca oraz podmiot stosujący zawierają umowę określającą ich role i zakres odpowiedzialności w celu zapewnienia zgodności z przepisami dotyczącymi testów w warunkach rzeczywistych;
- wyrażenie przez uczestników testów w warunkach rzeczywistych świadomej zgody na udział w testach - zgoda taka nie będzie wymagana w przypadku ścigania przestępstw, gdy uzyskanie zgody uniemożliwiłoby testy systemu AI, same testy w warunkach rzeczywistych oraz ich wynik nie będą mieć negatywnego wpływu na uczestników testów, a ich dane osobowe zostaną usunięte po przeprowadzeniu testów;
- skuteczne nadzorowanie testów w warunkach rzeczywistych przez dostawcę i podmioty stosujące (przy udziale osób posiadających odpowiednie kwalifikacje w danej dziedzinie oraz zdolności, przygotowanie szkoleniowe i uprawnienia niezbędne do wykonywania ich zadań);
- możliwość skutecznego odwrócenia i zignorowania predykcji, zaleceń lub decyzji systemu AI.
Podmioty zainteresowane prowadzeniem testów w warunkach rzeczywistych muszą być także świadome innych uwarunkowań prawnych związanych z prowadzeniem testów, a mianowicie:
- organom nadzoru rynku przysługuje prawo przeprowadzania niezapowiedzianych zdalnych kontroli lub kontroli na miejscu oraz kontroli przeprowadzania testów w warunkach rzeczywistych i powiązanych systemów, a także prawo do zwracania się do dostawców organizujących testy z wnioskiem o przedstawienie informacji;
- każdy poważny incydent stwierdzony w trakcie testów w warunkach rzeczywistych zgłasza się krajowemu organowi nadzoru rynku zgodnie z art. 73 AI Act, a dostawca w takiej sytuacji musi podjąć natychmiastowe środki zaradcze lub, w przypadku gdy jest to niemożliwe, zawiesić testy w warunkach rzeczywistych do czasu zaradzenia incydentowi albo też kończyć testy (i ustanowić procedurę szybkiego wycofania systemu AI z użytku po takim zakończeniu testów);
- uczestnicy testów w warunkach rzeczywistych mogą – bez konsekwencji i bez konieczności przedstawiania jakiegokolwiek uzasadnienia – zdecydować o wycofaniu się w dowolnym momencie z testów poprzez odwołanie świadomej zgody, a ponadto mogą oni również zażądać natychmiastowego i trwałego usunięcia ich danych osobowych;
- dostawcy ponoszą odpowiedzialność za wszelkie szkody spowodowane w trakcie testów w warunkach rzeczywistych.
O zawieszeniu lub zakończeniu testów w warunkach rzeczywistych oraz o ostatecznych ich wynikach dostawcy powiadamiają krajowy organ nadzoru rynku.
Jak widać, istnieje szereg obostrzeń dla prowadzenia testów w warunkach rzeczywistych, które zaczną obowiązywać od 2 sierpnia 2026 r. Jak się jednak wydaje, korzyści płynące z ich prowadzenia skłaniać będą do sprostania wyzwaniom stawianym przez AI Act.
Wpisy powiązane:
Świadoma zgoda na udział w testach AI
Obowiązki dostawców systemów AI
Obowiązki podmiotów stosujących AI
Data publikacji: 26.02.2025