Z punktu widzenia przedsiębiorców stawiających na innowacje w obszarze AI kluczową kwestią jest możliwość legalnego przeprowadzania testów systemów AI w warunkach rzeczywistych, czyli poza realiami laboratoriów (szerzej o tym pisaliśmy tutaj). Wielu organizatorom takich testów może zależeć na udziale w nich człowieka. Na wstępie stwierdzić należy, że osoby fizyczne mogą brać udział w testach systemów AI w warunkach rzeczywistych.  Aby to jednak było legalne, muszą zostać spełnione określone warunki, które stawia AI Act.

Zasadniczym warunkiem udziału w testach systemu AI wysokiego ryzyka w warunkach rzeczywistych jest uzyskanie od uczestnika świadomej zgody. Właśnie instytucji świadomej zgody poświęcamy niniejszy wpis, gdyż jest ona specyficznie uregulowana na gruncie Aktu w sprawie sztucznej inteligencji.

W myśl art. 61 ust. 1 AI Act, aby zgoda była świadoma, konieczne jest uprzednie należyte poinformowanie uczestnika testów „w sposób zwięzły, jasny, adekwatny i zrozumiały” o następujących zagadnieniach:

1. charakterze i celach testów w warunkach rzeczywistych oraz ewentualnych niedogodnościach, które mogą być związane z udziałem w tych testach;
2. warunkach, na jakich mają być prowadzone testy w warunkach rzeczywistych, w tym o przewidywanym czasie trwania udziału danego uczestnika lub uczestników w testach;
3. ich prawach i zabezpieczeniach dotyczących udziału w testach, w szczególności o prawie do odmowy udziału w testach oraz o prawie do wycofania się z testów w warunkach rzeczywistych – w dowolnym momencie, bez konsekwencji i bez konieczności przedstawiania jakiegokolwiek uzasadnienia;
4. zasadach zwracania się o odwrócenie lub zignorowanie predykcji, zaleceń lub decyzji wydanych przez system AI;
5. ogólnounijnym niepowtarzalnym numerze identyfikacyjnym testów w warunkach rzeczywistych i o danych kontaktowych dostawcy lub jego przedstawiciela prawnego, od których można uzyskać dalsze informacje.

Unijny ustawodawca wychodzi z założenia, że jeśli uczestnik testów nie będzie miał wiedzy w powyższym zakresie, to nie będzie w stanie udzielić zgody w sposób świadomy. Oczywiście każdy dostawca organizujący testy winien dysponować stosowną klauzulą informacyjną zawierającą w/w elementy, której doręczenie uczestnikowi testów zostanie odpowiednio udokumentowane.

Jak wyżej wskazano, zgoda – podobnie jak na gruncie GDPR – ma charakter odwoływalny i to w każdej chwili, bez podania przyczyny i co najistotniejsze – bez żadnych konsekwencji. Jednak odwołanie świadomej zgody nie wpływa na już przeprowadzone działania (art. 60 ust. 5 zd. 2 AI Act). Uczestnik będzie miał jednak prawo żądać natychmiastowego i trwałego usunięcia jego danych osobowych, które zgromadzono na potrzeby testów.

Rozporządzenie nr 2024/1689 kreuje także formalne wymogi udzielenia świadomej zgody. Zgoda na udział w testach systemu AI musi być opatrzona datą i udokumentowana. Datowanie służy wykazaniu, że zgody udzielono przed testami, a nie w ich trakcie czy (co gorsza) po ich zakończeniu. Z kolei udokumentowanie zgody to obowiązek wynikający z zasady rozliczalności, której dostawca systemu AI (organizator testów) musi przestrzegać i nie może oprzeć się na żadnym domniemaniu udzielenia zgody. Zgoda nie musi mieć jednak formy pisemnej (tj. z podpisem własnoręcznym), dopuszczalna tutaj bowiem będzie forma dokumentowa (np. skan, e-mail). Dodatkowo, uczestnicy testów (lub ich przedstawiciel prawny) winni otrzymać kopię udzielonej przez siebie zgody.

Dostawca zainteresowany udziałem czynnika ludzkiego w prowadzonych przez siebie testach musi pamiętać o:

• klauzuli informacyjnej dla uczestnika testów w warunkach rzeczywistych doręczanej przed udzieleniem przez tego uczestnika zgody na udział w testach, wraz z dowodem jej doręczenia;
• klauzuli zgody uczestnika na udział w testach, która będzie opatrzona datą (może ona mieć postać papierową lub elektroniczną);
• potwierdzeniu odbioru przez uczestnika (lub jego przedstawiciela) kopii udzielonej przez niego zgody.

Należy pamiętać, iż organom nadzoru rynku przysługuje prawo przeprowadzania niezapowiedzianych zdalnych kontroli lub kontroli na miejscu oraz kontroli przeprowadzania testów w warunkach rzeczywistych, którę będą mogły żądać wykazania faktu odebrania zgody od uczestnika testów.

W przypadku potrzeby sporządzenia odpowiednich dokumentów na potrzeby prowadzenia testów systemów AI wysokiego ryzyka w warunkach rzeczywistych służymy odpowiednim wsparciem.

Zachęcamy do zapoznania się z ofertą świadczonych przez nas usług prawnych w obszarze AI, która dostępna jest tutaj.

Wpisy powiązane:

Piaskownice regulacyjne AI

Testy AI w warunkach rzeczywistych

Kary pieniężne za naruszenie AI Act 

Zakazane praktyki AI

Obowiązki dostawców systemów AI

Obowiązki podmiotów stosujących AI

🔝Prawo AI - wszystkie wpisy

Data publikacji: 26.02.2025