Zgodnie z art. 8 projektu rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (dalej „rozporządzenie AI”), systemy AI wysokiego ryzyka spełniać będą musiały szereg rozbudowanych wymogów, wśród których wymienić należy w szczególności:
- ustanowienie, wdrożenie, dokumentowanie i utrzymanie systemu zarządzania ryzykiem zgodnego z wymaganiami art. 9 rozporządzenia AI;
- zapewnienie należytej jakości danych treningowych, walidacyjnych i testowych dla systemów AI, które wykorzystują techniki obejmujące trenowanie modeli z wykorzystaniem danych – zgodnie z wymaganiami art. 10 rozporządzenia AI; więcej na ten temat piszemy w osobnym wpisie;
- sporządzenie – już przed wprowadzeniem danego systemu AI do obrotu lub oddaniem go do użytku – dokumentacji technicznej systemu oraz późniejsza bieżąca aktualizacja tej dokumentacji; dokumentacja systemu AI wysokiego ryzyka zawierać będzie musiała przy tym co najmniej elementy określone w załączniku IV do rozporządzenia AI;
- takie zaprojektowanie i opracowanie systemu AI by:
- wyposażony był on w funkcję umożliwiającą automatyczne rejestrowanie zdarzeń podczas działania systemu, w zgodzie z art. 12 rozporządzenia AI;
- zapewniał wystarczającą przejrzystość jego działania, umożliwiającą użytkownikom interpretację wyników działania systemu i ich właściwe wykorzystanie – w tym dostarczenie odpowiedniej instrukcji obsługi systemu obejmującą co najmniej informacje wymienione w art. 13 ust. 3 rozporządzenia AI;
- umożliwiał skuteczny nadzór ze strony człowieka;
- osiągał, z uwagi na swoje przeznaczenie, odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa w całym cyklu życia systemu.
Jeśli wczytamy się głębiej w bardziej szczegółowe obowiązki powiązane z każdym z w/w wymogów, przed twórcami i użytkownikami systemów AI wysokiego ryzyka jawi się rozbudowana lista zadań, które wykonać należy, by system AI wysokiego ryzyka był zgodny z prawem.
Aktualizacja: 13 czerwca 2024 r. przyjęte zostało rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 - potocznie zwane aktem w sprawie sztucznej inteligencji albo AI Act, którego przepisy zaczną być stosowane stopniowo na przestrzeni lat 2025-27. Powyższe rozważania, poczynione na bazie projektu AI Act, zachowały aktualność.
Wpisy powiązane:
Kary pieniężne za naruszenie AI Act
Zgłoszenie incydentu systemu AI
Dokumentacja techniczna systemu AI
System zarządzania ryzykiem AI
Obowiązki dostawców systemów AI
Obowiązki importerów systemów AI
Obowiązki dystrybutorów systemów AI
Obowiązki podmiotów stosujących AI
Data publikacji: 11.01.2024
Data aktualizacji: 16.09.2024