Parlament Europejski i Rada Unii Europejskiej przyjęły Europejski akt o sztucznej inteligencji, który wprowadza nowe, konkretne obowiązki certyfikacyjne dla dostawców modeli AI. Zmiany kładą nacisk na ocenę zgodności, dokumentację techniczną i nadzór posprzedażowy dla systemów ocenionych jako wysokiego ryzyka oraz rozszerzają zakres obowiązków wobec twórców dużych modeli i modeli uogólnionych.
Akt ma charakter ustawodawczy i zostanie wdrożony zgodnie z procedurami UE, co oznacza wejście w życie po publikacji w Dzienniku Urzędowym Unii Europejskiej oraz zastosowanie etapów przejściowych przewidzianych w tekście aktu.
Kto odpowiada za nowe obowiązki
Główne obowiązki nałożono na dostawców i producentów systemów AI, w tym na firmy opracowujące modele, integratorów i podmioty wprowadzające systemy na rynek UE.
Dla dostawców spoza Unii przewidziano obowiązek wyznaczenia przedstawiciela w UE, który będzie odpowiadał za kontakt z organami nadzorczymi i realizację wymogów zgodności w imieniu nieeuropejskich podmiotów.
Certyfikacja systemów wysokiego ryzyka
Systemy sklasyfikowane jako wysokiego ryzyka będą wymagać formalnej oceny zgodności przed wprowadzeniem na rynek. Ocena może obejmować obowiązkową weryfikację przez jednostki notyfikowane i prowadzić do oznakowania zgodności.
W zakres oceny będą wchodzić między innymi: dokumentacja techniczna modelu, zarządzanie ryzykiem, testowanie danych i wyników, mechanizmy nadzoru człowieka oraz wymagania dotyczące monitorowania po wprowadzeniu do obrotu.
Nowe obowiązki dla dostawców modeli generatywnych i uogólnionych
Akt wprowadza specyficzne wymogi wobec dostawców dużych modeli i modeli o szerokim zastosowaniu, w tym obowiązek przeprowadzania oceny ryzyka i wdrażania środków ograniczających ryzyka związane z dezinformacją, błędami czy nadużyciami funkcji generatywnych.
Dostawcy takich modeli będą musieli prowadzić dokumentację dotyczącą danych treningowych, wyników testów bezpieczeństwa i mechanizmów ograniczających niezamierzone zachowania modelu oraz zapewnić przejrzystość co do ograniczeń i możliwych błędów modelu.
Utworzenie europejskiego organu nadzorczego
W akcie przewidziano powołanie lub wzmocnienie instytucji odpowiedzialnej za koordynację wdrażania przepisów na poziomie europejskim, w tym nadzór nad systemem certyfikacji i wymianę informacji między państwami członkowskimi.
Ten organ będzie również odpowiedzialny za tworzenie wytycznych, listę jednostek notyfikowanych oraz mechanizmy współpracy przy ocenach transgranicznych i kontroli rynku.
Kogo zmiana dotknie w praktyce
Z obowiązków certyfikacyjnych skorzystają przede wszystkim firmy rozwijające i oferujące modele AI, dostawcy usług chmurowych, integratorzy systemów oraz większe platformy udostępniające modele użytkownikom końcowym.
Wpływ odczują także start-upy i ośrodki badawcze, które będą musiały dostosować procesy rozwoju, dokumentacji i testowania modeli, szczególnie jeśli ich rozwiązania będą wykorzystywane w obszarach uznanych za wysokie ryzyko.
Terminy wejścia w życie i etapy wdrożenia
Po publikacji w Dzienniku Urzędowym UE akt zacznie obowiązywać formalnie, ale wiele obowiązków zostanie wprowadzonych etapami zgodnie z zapisami aktu. Tekst przewiduje okresy przejściowe dające czas na przeprowadzenie ocen zgodności i organizację procesu certyfikacji.
Szczegółowe daty i długości okresów przejściowych wynikają z treści aktu i harmonogramu wdrożeniowego określonego w oficjalnym tekście prawnym.
Główne wyzwania wdrożeniowe dla firm
Firmy staną przed konkretnymi wyzwaniami: dostępnością jednostek notyfikowanych do przeprowadzania ocen, kosztami związanymi z ocenami zewnętrznymi, oraz koniecznością zabezpieczenia poufności danych i własności intelektualnej podczas procesu certyfikacji.
Ponadto będzie wymagana ścisła dokumentacja procesów trenowania i testowania modeli, wdrożenie systemów monitorowania po wdrożeniu oraz przygotowanie struktur organizacyjnych do szybkiego reagowania na incydenty i zapytania regulatorów.
Komentarze