Zaawansowane algorytmy AI mogą stwarzać poważne ryzyko w kluczowych dla życia aspektach. Unijne prawo może okazać się bezbronne

Nie jest tajemnicą, że niektóre modele sztucznej inteligencji mogą stwarzać znaczne ryzyko dla zdrowia, bezpieczeństwa i praw podstawowych ludzi. Stąd unijni decydenci wzięli się za dostosowanie ich do rygorystycznego systemu prawnego UE, szczególnie w zakresie zarządzania danymi oraz ryzykiem. Wygląda jednak na to, że próba nawet częściowego okiełznania tej technologii jest trudniejsza, niż można było się spodziewać jeszcze kilka miesięcy temu.

Biuro Prawne Parlamentu Europejskiego wydało właśnie negatywną opinię na temat filtrów klasyfikacji wysokiego ryzyka. Eksperci prawni mają tak dużo zastrzeżeń do kompromisu, nad których pracują europosłowie, że na dziś cały projekt można wrzucić do kosza. Czego obawiają się legislatorzy? Sprawie bliżej przyjrzał się także brukselski serwis Euroactive.

Według ekspertów obecny projekt kompromisu legislacyjnego prowadzi do tego, że twórcy sztucznej inteligencji będą de facto decydować, czy ich system spełnia jeden z warunków filtrowania. Wynika to ze stosunkowo wysokiego poziomu abstrakcyjności i ogólności przepisów, które nie precyzują w wymaganym stopniu, co należy do obowiązków dostawców.

Co ciekawe kompromisowy tekst zobowiązuje Komisję Europejską do opracowania wytycznych dotyczących stosowania filtrów. Tymczasem biuro prawne PE zauważa, że wytyczne są z natury niewiążące. Prawnicy podkreślają też, że pozostawienie tak wysokiego poziomu swobody dostawcom sztucznej inteligencji jest sprzeczne z ogólnym celem aktu w sprawie sztucznej inteligencji, jakim ma być przeciwdziałanie ryzyku szkód stwarzanych przez systemy AI wysokiego ryzyka. A to z kolei prowadzi do niepewności prawa.

Zdaniem prawników obecny system filtrów jest sprzeczny z zasadą równego traktowania, ponieważ może prowadzić do sytuacji, w których modele wysokiego ryzyka są traktowane jako modele niewysokiego ryzyka i odwrotnie. Oznacza to, że jeden dostawca będzie uznany za tego, który dostosowuje się do wytycznych, a inni będzie określony jako ten, który nie spełnia norm.

Prawnicy dostrzegli też na obecnym etapie postępowania ryzyko naruszenia kolejnej reguły unijnej, tj. zasady proporcjonalności. Wynika to z tego, że obecnie procedowane przepisy prawdopodobnie nie będą w stanie osiągnąć celu regulacyjnego aktu w sprawie sztucznej inteligencji.

Biuro prawne Parlamentu Europejskiego dostrzegło jeszcze jeden problem w kwestii powstającego, nowego prawa. Chodzi o zakres kompetencji KE. Zgodnie z powstającymi przepisami, to Bruksela miałaby posiadać specjalne uprawnienie do zaktualizowania warunków filtrowania, i to za pomocą zwykłego aktu delegowanego. Zdaniem prawników, to niedopuszczalne.