Europejski Urz\u0105d ds. Sztucznej Inteligencji opublikowa\u0142 zestaw kryteri\u00f3w dotycz\u0105cych certyfikacji modeli AI, przedstawiaj\u0105c szczeg\u00f3\u0142owe wymagania techniczne, proceduralne i dokumentacyjne, kt\u00f3re maj\u0105 s\u0142u\u017cy\u0107 ocenie zgodno\u015bci system\u00f3w z przepisami unijnymi. Dokument koncentruje si\u0119 na modelach sklasyfikowanych jako wysokiego ryzyka i wyznacza ramy dla test\u00f3w, audyt\u00f3w oraz monitoringu po wdro\u017ceniu.<\/p>\n
Poni\u017cszy tekst podsumowuje, co dok\u0142adnie zawiera komunikat Urz\u0119du, kto b\u0119dzie obj\u0119ty wymaganiami, jakie konkrety techniczne si\u0119 pojawiaj\u0105 oraz jakie kroki powinni podj\u0105\u0107 dostawcy i organizacje korzystaj\u0105ce z modeli AI.<\/p>\n
Urz\u0105d opublikowa\u0142 formalny dokument okre\u015blaj\u0105cy kryteria certyfikacji modeli AI, kt\u00f3ry zawiera katalog wymog\u00f3w technicznych i proceduralnych maj\u0105cych s\u0142u\u017cy\u0107 ocenie zgodno\u015bci modeli wysokiego ryzyka. W\u015br\u00f3d element\u00f3w znajduj\u0105 si\u0119 wymagania dotycz\u0105ce dokumentacji technicznej, test\u00f3w odporno\u015bci, oceny wp\u0142ywu na prawa podstawowe oraz zasad post-market monitoring.<\/p>\n
Dokument wyr\u00f3\u017cnia te\u017c klas\u0119 modeli, kt\u00f3re b\u0119d\u0105 podlega\u0107 certyfikacji, oraz proponowane metody oceny, w tym zewn\u0119trzne audyty i scenariusze testowe. Oficjalne \u017ar\u00f3d\u0142o publikacji znajduje si\u0119 na stronach instytucji unijnych.<\/p>\n
Kryteria odnosz\u0105 si\u0119 przede wszystkim do dostawc\u00f3w modeli sklasyfikowanych jako wysokiego ryzyka zgodnie z przepisami unijnymi, ale obejmuj\u0105 tak\u017ce podmioty wprowadzaj\u0105ce na rynek, importuj\u0105ce oraz dystrybutor\u00f3w system\u00f3w AI. W praktyce dotyczy to zw\u0142aszcza tw\u00f3rc\u00f3w du\u017cych modeli bazowych, integrator\u00f3w rozwi\u0105za\u0144 AI oraz dostawc\u00f3w us\u0142ug chmurowych oferuj\u0105cych model jako us\u0142ug\u0119.<\/p>\n
Dokument podkre\u015bla, \u017ce obowi\u0105zki mog\u0105 dotyczy\u0107 zar\u00f3wno producent\u00f3w modelu, jak i organizacji wykorzystuj\u0105cych model w kontekstach krytycznych, w kt\u00f3rych wyst\u0119puje bezpo\u015brednie ryzyko dla praw podstawowych, bezpiecze\u0144stwa czy zdrowia.<\/p>\n
W opublikowanych kryteriach pojawiaj\u0105 si\u0119 konkretne kategorie test\u00f3w i dokumentacji, kt\u00f3re maj\u0105 by\u0107 cz\u0119\u015bci\u0105 procesu certyfikacji. Wymagania obejmuj\u0105 mi\u0119dzy innymi:<\/p>\n
Ka\u017cdy z tych punkt\u00f3w jest opisany z odniesieniem do konkretnych metod testowych i wymog\u00f3w raportowych, kt\u00f3re maj\u0105 umo\u017cliwi\u0107 zewn\u0119trznym oceniaj\u0105cym powtarzaln\u0105 i por\u00f3wnywaln\u0105 weryfikacj\u0119.<\/p>\n
Procedura zak\u0142ada ocen\u0119 zgodno\u015bci przeprowadzan\u0105 przez akredytowane jednostki oceniaj\u0105ce. Proces obejmuje przegl\u0105d dokumentacji technicznej, wykonanie test\u00f3w laboratoryjnych i scenariuszy operacyjnych oraz audyt\u00f3w bezpiecze\u0144stwa i zgodno\u015bci z prawami podstawowymi.<\/p>\n
W komunikacie wskazano rol\u0119 jednostek notyfikowanych oraz mechanizmy wsp\u00f3\u0142pracy mi\u0119dzy organami krajowymi a Urz\u0119dem. Certyfikat ma by\u0107 wydawany po pozytywnym przej\u015bciu wszystkich etap\u00f3w oceny, przy jednoczesnym obowi\u0105zku prowadzenia monitoringu po wprowadzeniu modelu do u\u017cycia.<\/p>\n
Publikacja kryteri\u00f3w przez Urz\u0105d stanowi etap wdro\u017ceniowy do akt\u00f3w wykonawczych zwi\u0105zanych z unijn\u0105 regulacj\u0105 AI. Kryteria zosta\u0142y udost\u0119pnione jako dokument, kt\u00f3ry ma zosta\u0107 skonsultowany z interesariuszami i s\u0142u\u017cy\u0107 przygotowaniu ostatecznych przepis\u00f3w wykonawczych.<\/p>\n
Ostateczne terminy wej\u015bcia w \u017cycie zale\u017c\u0105 od procesu legislacyjnego i przyj\u0119cia akt\u00f3w wykonawczych. W praktyce dostawcy modeli powinni traktowa\u0107 dokument jako zapowied\u017a nadchodz\u0105cych obowi\u0105zk\u00f3w i rozpocz\u0105\u0107 przygotowania do audyt\u00f3w oraz uzupe\u0142nienia wymaganej dokumentacji.<\/p>\n
W opublikowanej wersji brak niekt\u00f3rych szczeg\u00f3\u0142owych prog\u00f3w technicznych, na przyk\u0142ad konkretnych warto\u015bci progowych dla metryk odporno\u015bci czy jednoznacznych limit\u00f3w dotycz\u0105cych danych treningowych. Te elementy pozostawiono do dalszego doprecyzowania w aktach wykonawczych lub standardach technicznych.<\/p>\n
Dokument ma charakter unijny i obowi\u0105zuje w obszarze prawnym UE; nie precyzuje natomiast jeszcze kwestii koszt\u00f3w certyfikacji, konkretnego podzia\u0142u odpowiedzialno\u015bci w \u0142a\u0144cuchu dostaw ani sankcji za niezgodno\u015b\u0107 \u2014 te kwestie b\u0119d\u0105 wymaga\u0142y dodatkowych regulacji i wyja\u015bnie\u0144.<\/p>\n
Dostawcy modeli powinni zacz\u0105\u0107 od inwentaryzacji modeli i ocenienia, kt\u00f3re z nich mog\u0105 trafi\u0107 do kategorii wysokiego ryzyka. Kolejne kroki to uzupe\u0142nienie dokumentacji technicznej, przygotowanie model cards, przeprowadzenie wewn\u0119trznych test\u00f3w bezpiecze\u0144stwa oraz zaplanowanie zewn\u0119trznych audyt\u00f3w.<\/p>\n
Organizacje korzystaj\u0105ce z modeli w krytycznych zastosowaniach powinny przegl\u0105dn\u0105\u0107 umowy z dostawcami, wymaga\u0107 udost\u0119pnienia wynik\u00f3w test\u00f3w i certyfikat\u00f3w oraz zaplanowa\u0107 mechanizmy ci\u0105g\u0142ego monitoringu dzia\u0142ania modeli w rzeczywistym u\u017cyciu.<\/p>\n