Komisja Europejska opublikowała projekt rozporządzenia w sprawie sztucznej inteligencji. W Artificial Inteligence Act ustanowiono zharmonizowane zasady m.in. wprowadzania do obrotu i stosowania systemów sztucznej inteligencji (SI). Celem regulacji jest zapewnienie, aby systemy SI wprowadzane i wykorzystywane na rynku unijnym były bezpieczne i zgodne z obowiązującym prawem dotyczącym praw podstawowych i wartości unijnych.

Projektowana regulacja jest niezwykle istotna dla przedsiębiorców tworzących i korzystających z nowych technologii, które wykorzystują narzędzia sztucznej inteligencji. Próba szczegółowej regulacji tego obszaru jest i będzie z pewnością dużym wyzwaniem dla branży nowych technologii.

 

AI system – jakie generuje ryzyko?

Systemy SI zdefiniowano jako oprogramowanie, które może dla danego celu lub celów – określonego przez człowieka – generować wyniki takie, jak przewidywania, zalecenia, decyzje wpływające na środowiska rzeczywiste lub wirtualne. Jednocześnie chodzi o takie oprogramowanie, które zostało opracowane przy zastosowaniu przynajmniej jednej techniki: uczenia maszynowego, w tym tzw. deep learningu, podejścia opartego na logice i wiedzy, systemu eksperckiego, metod statystycznych.

Komisja przyjęła podejście oparte na ryzyku, jakie generują systemy SI. Rozporządzenie wymienia kategorie ryzyk, od których zależy poziom regulacji: niskie lub minimalne; wysokie oraz nieakceptowalne. W związku z tym, że rozwiązania wiążące się z ryzykiem nieakceptowalnym będą zabronione, rozporządzenie skupia się przede wszystkim na wymogach i wytycznych dla systemów powodujących ryzyka wysokie. Zgodnie z podejściem opartym na ryzyku, te systemy SI mają być dopuszczone na rynku europejskim pod warunkiem spełnienia określonych obowiązkowych wymagań. Dotyczą one przede wszystkim kwestii zarządzania danymi, rejestrowania czynności, odpowiedniej dokumentacji i jej przechowywania, przejrzystości i dostarczania informacji użytkownikom, nadzoru ludzkiego, solidności, dokładności i bezpieczeństwa.

Obowiązki zależą od roli, jaką dany podmiot pełni w łańcuchu sztucznej inteligencji. Rozporządzenie nakłada obowiązki nie tylko na dostawcę systemu SI (wprowadzających system do obrotu), ale także na użytkownika takiego systemu, importera oraz dystrybutora.

 

Co przed nami?

Publikacja projektu rozpoczęła kolejny etap prac nad pakietem regulacyjnym dotyczącym systemów SI. Zajmą one co najmniej 18 miesięcy. Warto ten czas poświęcić na weryfikację, czy już stosowane przez nas technologie lub te planowane, wpisują się w regulowane systemy – szczególnie te „wysokiego ryzyka”.  Jeśli tak – wskazana jest dodatkowa analiza ryzyka stosowanego rozwiązania opartego na SI oraz przygotowanie potencjalnej dokumentacji. Z kolei jeżeli stosujemy praktyki skategoryzowane jako nieakceptowalne – warto poszukać dla nich alternatywy. Za nieprzestrzeganie przepisów wynikających z rozporządzenia przewidziane są bowiem wielomilionowe kary – nawet do 30 mln EUR lub 6 % całkowitego rocznego światowego obrotu.

Projekt rozporządzenia dostępny jest na stronie Komisji Europejskiej pod linkiem.

 

Magdalena Kaleta-Maniak
Manager | Adwokat
magdalena.kaleta@olesinski.com

Mariusz Machowski
Associate | Dział prawny
mariusz.machowski@olesinski.com