Unijny rejestr modeli wysokiego ryzyka został oficjalnie uruchomiony, a w pierwszym zestawie wpisów znalazły się największe platformy oferujące zaawansowane modele generatywne. Rejestr ma gromadzić informacje o systemach uznanych za wysokie ryzyko zgodnie z przepisami AI Act i ma służyć jawności oraz ułatwieniu nadzoru.
W pierwszym etapie publikacji Komisja Europejska opublikowała listę producentów i konkretnych modeli zgłoszonych lub zidentyfikowanych jako podlegające obowiązkowi rejestracji, wraz z podstawowymi danymi o ich zastosowaniach i zakresie ryzyka.
Co to jest rejestr modeli wysokiego ryzyka
Rejestr to centralne narzędzie administracyjne prowadzone w ramach wdrażania AI Act, przeznaczone do publicznego ujawniania informacji o systemach AI, które stwarzają istotne ryzyko dla praw podstawowych, bezpieczeństwa lub zdrowia.
Wpisy w rejestrze mają obejmować nazwę modelu, producenta, główne zastosowania, ocenę klasyfikującą poziom ryzyka oraz opis stosowanych środków ograniczających ryzyko, co ma ułatwić kontrolę regulatorów i dostępność informacji dla użytkowników.
Kto i jakie modele znalazły się w pierwszych wpisach
Wśród pierwszych wpisów pojawiły się duże komercyjne modele generatywne udostępniane przez międzynarodowych dostawców technologii AI. Komisja opublikowała nazwę producenta, nazwę modelu oraz datę rejestracji każdego z nich.
Dokładne wpisy wskazują na: producentów globalnych działających na rynku unijnym oraz na rozwiązania wykorzystywane szeroko w aplikacjach konsumenckich i korporacyjnych, co uzasadniło ich kwalifikację do rejestru jako systemy wysokiego ryzyka.
Jakie informacje zawierają poszczególne wpisy
Każdy wpis w rejestrze obejmuje co najmniej: nazwę modelu, podmiot odpowiedzialny, opis zamierzonego zastosowania, datę wpisu oraz streszczenie ocen ryzyka i środków łagodzących.
Dodatkowo rejestr zawiera dane kontaktowe podmiotu odpowiedzialnego oraz informacje o kraju, w którym model jest oferowany na rynku UE, co umożliwia szybki kontakt regulatorów i zainteresowanych stron.
Na jakiej podstawie modele zostały zakwalifikowane jako wysokiego ryzyka
Zakwalifikowanie opiera się na kryteriach określonych w AI Act, w tym na przewidywanym wpływie na prawa podstawowe, bezpieczeństwo zdrowia, infrastrukturę krytyczną oraz wykorzystaniu w systemach decyzyjnych o dużym skutku dla osób fizycznych.
W praktyce oznacza to, że modele używane do weryfikacji tożsamości, oceny kredytowej, rekrutacji, opieki zdrowotnej czy systemów nadzorczych są priorytetowo oceniane i rejestrowane.
Komu rejestr ma służyć i kto odczuje zmianę
Rejestr jest narzędziem przede wszystkim dla organów nadzorczych, instytucji publicznych oraz dużych odbiorców korporacyjnych, ale ma też przynieść korzyść użytkownikom końcowym poprzez większą przejrzystość informacji o ryzykach związanych z konkretnymi modelami.
Dostawcy modelów muszą przygotować dokumentację i oświadczenia wymagane do wpisu, co zwiększa ich obowiązki compliance. Firmy korzystające z modeli będą miały łatwiejszy dostęp do informacji o ograniczeniach i wymaganiach nadzorczych dotyczących wykorzystywanych systemów.
Ograniczenia, warunki i zasięg rejestru
Rejestr obejmuje modele wprowadzane na rynek UE lub używane na terenie UE w obszarach objętych AI Act. Nie obejmuje rozwiązań wyraźnie wyłączonych w przepisach ani modeli o niskim ryzyku.
Wpisy mogą być aktualizowane przez podmioty odpowiedzialne, a regulatorzy mogą żądać dodatkowych informacji lub korekt w przypadku niekompletności lub rozbieżności w zgłoszeniach.
Co dalej i czego można oczekiwać w najbliższych miesiącach
Po uruchomieniu rejestru należy spodziewać się rozszerzenia listy wpisów wraz z kolejnymi zgłoszeniami i działaniami nadzorczymi. Regulatorzy zapowiedzieli etapowe weryfikacje danych w rejestrze oraz publikację dodatkowych wytycznych dotyczących klasyfikacji i dokumentacji.
Firmy oferujące modele będą stopniowo dostosowywać procedury zgodności, a użytkownicy powinni obserwować wpisy dla rozwiązań, które wykorzystują w codziennych procesach.
Komentarze