Komisja Europejska zaproponowała obowiązek oznaczania treści wygenerowanej lub istotnie zmodyfikowanej przez systemy sztucznej inteligencji na platformach online. Zmiana ma na celu zwiększenie przejrzystości dla użytkowników i ograniczenie dezinformacji związanego z automatycznie tworzonymi tekstami, obrazami, audio i wideo.
Nowe zasady nakładają na operatorów platform konkretne wymagania techniczne i informacyjne dotyczące widocznego oznaczania takich materiałów oraz dostarczania maszynowo czytelnych metadanych umożliwiających identyfikację treści wygenerowanej przez AI.
Na czym dokładnie polega obowiązek oznaczania
Zgodnie z projektem obowiązek obejmuje dwa główne elementy: widoczne dla użytkownika oznaczenie treści oraz dostarczenie maszynowo czytelnych metadanych informujących o użyciu AI przy tworzeniu lub modyfikacji materiału.
Widoczne oznaczenie ma mieć formę czytelnej informacji w interfejsie (np. etykieta, napis lub ikona) wskazującej, że dana treść została wygenerowana lub istotnie zmieniona przy użyciu systemów AI. Metadane mają umożliwić wykrycie i filtrowanie takich treści przez narzędzia zewnętrzne oraz instytucje nadzorujące.
Kto będzie odpowiedzialny za oznaczanie treści
Odpowiedzialność spoczywa głównie na operatorach platform udostępniających treści, czyli właścicielach serwisów społecznościowych, agregatorów, hostingodawcach i wyszukiwarek, które prezentują zawartość końcowym użytkownikom.
W praktyce oznacza to, że to platformy będą musiały wprowadzić mechanizmy wykrywające lub wymagające od nadawców deklaracji stosowania AI oraz umieszczać wymagane etykiety i metadane przy publikowanych materiałach.
Jakie rodzaje treści obejmuje obowiązek
Zakres obejmuje treści wytworzone w całości przez modele generatywne oraz te, które zostały istotnie zmodyfikowane przy użyciu AI. Chodzi o teksty, obrazy, nagrania audio i wideo, w tym deepfake’i i syntetyczne prezentacje głosu czy twarzy.
Przykłady objęte obowiązkiem to automatycznie wygenerowane artykuły informacyjne, obrazy stworzone przez modele generatywne, zsyntetyzowane nagrania głosowe wykorzystane w reklamie oraz zmontowane wideo, które przedstawiają osoby w sposób nieautentyczny.
Jak będzie wyglądać egzekwowanie i jakie przewidziano sankcje
Egzekucja nowych wymogów ma należeć do krajowych organów nadzorczych oraz instytucji unijnych przewidzianych w ramach legislacji dotyczącej AI. Naruszenia będą podlegać sankcjom administracyjnym zgodnie z mechanizmami przewidzianymi w akcie prawnym regulującym stosowanie systemów AI.
Co zmienia się względem dotychczasowego stanu
Do tej pory większość oznaczeń treści generowanej przez AI opierała się na zasadach dobrowolnych i wewnętrznych politykach platform. Nowa propozycja przenosi część tych zasad na poziom obowiązującego prawa, czyniąc oznaczanie wymogiem, a nie rekomendacją.
W praktyce platformy będą musiały wdrożyć rozwiązania techniczne i procesowe, które dziś często są realizowane jedynie ad hoc przez wybrane serwisy lub w odpowiedzi na kryzysy medialne.
Kogo bezpośrednio dotknie zmiana
Bezpośrednio dotknięte będą firmy prowadzące platformy i usługi dystrybucji treści, dostawcy narzędzi generatywnych oraz twórcy korzystający z AI w procesie tworzenia materiałów. Użytkownicy otrzymają dodatkową informację kontekstową przy konsumowaniu treści.
Co dalej i czego można oczekiwać w praktyce
Propozycja wymaga procesu legislacyjnego na poziomie unijnym, a następnie zastosowania mechanizmów wdrożeniowych i technicznych. W kolejnych etapach spodziewane jest doprecyzowanie standardów oznaczania i specyfikacji metadanych, które umożliwią interoperacyjność między platformami i narzędziami wykrywania.
W ciągu najbliższych miesięcy operatorzy platform będą musieli ocenić swoje systemy publikacji i moderacji treści oraz zaplanować integrację mechanizmów deklaracji i oznaczania. Deweloperzy narzędzi AI otrzymają wymóg wsparcia takich funkcji na poziomie technicznym, aby ułatwić platformom stosowanie etykiet i metadanych.
Wdrożenie przepisów oznacza, że transparentność automatycznie wytwarzanych treści stanie się elementem zgodności regulacyjnej dla firm działających na rynku unijnym, co może wymusić szybkie zmiany w procesach publikacji i kontroli jakości materiałów.
Komentarze