Kolejna wersja Kodeksu postępowania dotyczącego oznaczania deepfake’ów – czego może spodziewać się branża kreatywna?

AI Act[1] stanowi pierwsze kompleksowe unijne uregulowanie funkcjonowania sztucznej inteligencji na rynku UE, obowiązując bezpośrednio we wszystkich państwach członkowskich. Jego celem jest zapewnienie bezpiecznego i odpowiedzialnego rozwoju AI przy jednoczesnym poszanowaniu praw podstawowych oraz wartości Unii. Jednym z aspektów, które zostały uregulowane, jest obowiązek oznaczania treści typu deepfake.  Aby ułatwić rozumienie i stosowanie tych przepisów na szczeblu unijnym powstaje Kodeks postępowania, którego druga wersja pojawiła się jakiś czas temu na stronie Komisji Europejskiej. Co to oznacza dla podmiotów z branży kreatywnej?

Deepfake w AI ACT

Art. 50 AI Act ustanawia obowiązki przejrzystości po stronie dostawców systemów AI oraz podmiotów, które je wdrażają, a także z nich korzystają. Dotyczy to w szczególności przypadków, w których systemy AI są wykorzystywane do generowania i manipulowania obrazami, dźwiękiem lub materiałami wideo w sposób mogący sprawiać wrażenie autentyczności, czyli tzw. deepfake’ów. Co do zasady w takich sytuacjach podmioty stosujące AI są zobowiązane do jasnego i wyraźnego ujawnienia, że dana treść została sztucznie wygenerowana lub zmodyfikowana za pomocą sztucznej inteligencji.

Powyższy obowiązek doznaje jednak w pewnym stopniu ograniczeń. AI Act podkreśla, że obowiązki dot. oznaczania deepfake’ów muszą być realizowane z poszanowaniem wolności wypowiedzi, a także wolności sztuki i nauki. W odniesieniu więc do treści o charakterze artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym wymóg przejrzystości ograniczono do ujawnienia faktu wykorzystania AI w sposób adekwatny i nienaruszający odbioru dzieła ani jego jakości. Podobne obowiązki ujawniania dotyczą treści tekstowych generowanych lub modyfikowanych przez AI, gdy są one publikowane w celu informowania opinii publicznej, chyba że zostały poddane ludzkiej weryfikacji lub kontroli redakcyjnej i objęte odpowiedzialnością redakcyjną. Tyle wiemy z samego AI ACT. Aby więc ułatwić rozumienie art. 50 AI ACT, tworzony Kodeks postępowania ma pełnić funkcję praktycznego narzędzia wspierającego dostawców i podmioty korzystające z narzędzi AI w wykazywaniu zgodności z obowiązkami wynikającymi z art. 50 AI Act.

Pierwsza wersja Kodeksu

Pierwszy projekt Kodeksu Postępowania dotyczącego przejrzystości treści generowanych przez AI został opublikowany pod koniec 2025 r. jako rezultat szerokiej współpracy przedstawicieli przemysłu, środowiska akademickiego, społeczeństwa obywatelskiego oraz państw członkowskich UE.

Po opublikowaniu pierwszego projektu Kodeksu postępowania pojawiły się liczne głosy wskazujące na potrzebę jego istotnej rewizji. Analizy ekspertów oraz badania prowadzone przez specjalistów z różnych dziedzin wykazały, że pierwotna wersja była niewystarczająco przejrzysta, zbyt skomplikowana i mało praktyczna dla podmiotów zobowiązanych do jej stosowania. W szczególności podnoszono brak jasności co do zakresu obowiązków oraz trudności w przełożeniu ogólnych wytycznych na realne działania.

Druga wersja Kodeksu

W odpowiedzi na zgłaszane problemy opracowano drugą wersję Kodeksu, która w znacznie większym stopniu odpowiada na potrzeby praktyki. Wprowadzono uproszczenia, uporządkowano strukturę dokumentu, rezygnując z nadmiernie rozbudowanych i trudnych do stosowania podziałów treści AI. W ich miejsce zaproponowano jasne i praktyczne wskazówki, zwłaszcza w zakresie oznaczania treści, stosowania ikon i etykiet oraz realizacji obowiązków przejrzystości.

Wśród dalszych działań przewidzianych w Kodeksie istotne miejsce zajmuje opracowanie jednolitej ikony służącej do oznaczania treści generowanych przez AI. W tym celu planowane jest powołanie zespołu ekspertów, którego zadaniem będzie stworzenie ujednoliconego znaku obowiązującego w całej Unii Europejskiej. Projektowana ikona ma mieć charakter interaktywny oraz zapewniać spójność i rozpoznawalność oznaczeń, niezależnie od państwa członkowskiego czy rodzaju podmiotu stosującego AI.

Na ten moment zaproponowano stosowanie następujących ikon, ewentualnie z uzupełnieniem stopnia wykorzystania AI (np. „Generated with AI”, „Manipulated with AI”):

W przypadku treści dźwiękowych Kodeks proponuje krótkie, słyszalne zastrzeżenie, dźwięk lub sygnał w prostym i zrozumiałym języku, ujawniające sztuczne pochodzenie audio. Jeżeli byłaby to dłuższa forma audio, taka informacja powinna pojawić się również kilkukrotnie w trakcie odtwarzania treści. W przypadku transmitowanych na żywo treści wideo o charakterze deepfake zastrzeżenie powinno być widoczne przez cały czas transmisji lub alternatywnie pokazywane na ekranie na początku oraz w regularnych odstępach czasu w trakcie.

Stosowna ikona lub zastrzeżenie powinny być umieszczone w odpowiednim i widocznym miejscu, zgodnie z charakterem treści i kontekstem jej rozpowszechniania.

Treści o charakterze artystycznym

Kodeks postępowania, w oparciu o wyjątek wskazany w art. 50 AI ACT, przewiduje jednocześnie szczególne podejście do artystów i twórców dzieł artystycznych, których utwory zawierają elementy generowane lub modyfikowane przez AI. Właśnie ta regulacja będzie miała najpewniej zastosowanie dla większości podmiotów z branży kreatywnej. W takich przypadkach obowiązek przejrzystości ograniczono do ujawnienia faktu wykorzystania AI. Jednocześnie Kodeks precyzuje, że takie ujawnienie powinno być dostrzegalne najpóźniej w momencie pierwszego kontaktu odbiorcy z treścią, spełniać wymogi dostępności oraz być adekwatne do medium i kontekstu, tak aby informacja o użyciu AI była realnie zauważalna, a nie jedynie symboliczna. Kodeks podkreśla, że stosowane oznaczenia nie mogą mimo wszystko zakłócać odbioru dzieła, walorów estetycznych ani swobody twórczej, ani utrudniać normalnego korzystania z utworu. Informacja o użyciu AI powinna być nieinwazyjna i dostosowana do formy dzieła, jak i kontekstu jego prezentacji. Na ten moment Kodeks proponuje podejść do oznaczeń deepfake’ów w ten sposób:

• Wideo w czasie rzeczywistym: oznaczenie pokazane najpóźniej w momencie pierwszego wyświetlenia w górnym lub dolnym rogu przez co najmniej pięć sekund bez dalszych ostrzeżeń w trakcie wyświetlania (np. podczas napisów początkowych);
• Wideo (nie w czasie rzeczywistym): informacja zostanie umieszczona na czas wystarczający do poinformowania widza najpóźniej w momencie pierwszego wyświetlenia, bez zakłócania wrażeń (np. podczas napisów początkowych);
• Obraz: oznaczenie pokazane najpóźniej w momencie pierwszego wyświetlenia w odpowiednim miejscu, z możliwością wkomponowania go w obraz lub tło obrazu, przy zachowaniu możliwości rozpoznania oznaczenia przez odbiorcę;
• Dźwięk: najpóźniej w momencie pierwszego wyświetlenia należy umieścić słowne zastrzeżenie.

Dopuszczalne są oznaczenia „kontekstowe”, jeżeli powyższe sposoby nie byłyby możliwe lub wpływałyby na odbiór utworu. Jako przykład Kodeks podaje umieszczenie etykiety AI poza ramką wideo lub obrazu, czy też treści audio, ale w ich pobliżu, jeżeli np. takie treści wyświetlane są na stronach internetowych, czy aplikacjach. W przypadku treści prezentowanych w formie analogowej np. na wystawach, w galeriach sztuki, podczas festiwali, informacje o treściach typu deepfake można przekazać np. przy wejściu, podczas sprzedaży biletów lub w ramach informacji przekazanych fizycznie.

Dodatkowo zgodnie z Kodeksem u podmiotów regularnie publikujących treści generowane przez AI powinny funkcjonować mechanizmy weryfikujące poprawności oznaczeń. Istotnym elementem compliance jest również zapewnienie odpowiednich szkoleń i świadomości personelu zaangażowanego w tworzenie, modyfikowanie lub publikowanie treści AI.

Co dalej?

Kodeks Postępowania traktuje deepfake’i jako szczególnie wrażliwą kategorię treści generowanych lub modyfikowanych przez AI, ze względu na ich potencjał wprowadzania odbiorców w błąd oraz ryzyko naruszenia dóbr osobistych i zaufania publicznego.

Finalna wersja Kodeksu postępowania planowana jest na maj-czerwiec 2026 r., czyli jeszcze przed obowiązkiem stosowania art. 50 AI ACT. Przepis ten będzie miał bowiem zastosowanie od 2 sierpnia 2026 r.

Źródło: https://digital-strategy.ec.europa.eu/en/library/commission-publishes-second-draft-code-practice-marking-and-labelling-ai-generated-content

[1] Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji).