Sztuczna inteligencja coraz częściej uczestniczy w przygotowywaniu reklam, zdjęć produktowych, filmów promocyjnych i materiałów publikowanych w mediach społecznościowych, w tym także materiałów typu deepfake. Powstaje więc praktyczne pytanie: czy każdą grafikę albo nagranie stworzone z wykorzystaniem AI trzeba oznaczyć?
Odpowiedź brzmi: nie. AI Act nie wprowadza ogólnego obowiązku umieszczania napisu „wygenerowano przez AI” na każdym materiale, przy którego tworzeniu użyto sztucznej inteligencji. Obowiązki zależą m.in. od rodzaju treści, sposobu jej przygotowania, roli danego przedsiębiorcy oraz tego, czy odbiorca może uznać materiał za autentyczny.
Od kiedy obowiązują zasady oznaczania treści AI?
Obowiązki dotyczące przejrzystości wynikające z art. 50 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, czyli AI Act, stosuje się od 2 sierpnia 2026 r.
Komisja Europejska wyjaśniła, że materiałów wygenerowanych przed tą datą nie trzeba oznaczać wstecznie. Zachęca jednak do dobrowolnego informowania o ich sztucznym pochodzeniu, jeżeli jest to możliwe i pomaga odbiorcom prawidłowo ocenić treść.
Ograniczony okres przejściowy do 2 grudnia 2026 r. dotyczy wyłącznie określonych obowiązków dostawców systemów wprowadzonych do obrotu przed 2 sierpnia 2026 r. Nie jest to ogólne odroczenie obowiązków dla firm publikujących deepfake’i.
Dwa różne obowiązki: oznakowanie techniczne i informacja dla odbiorcy
AI Act rozróżnia obowiązki dostawców systemów AI od obowiązków podmiotów stosujących takie systemy. Ma to duże znaczenie praktyczne, ponieważ widoczny napis na zdjęciu nie jest tym samym co techniczne oznakowanie pliku.
1. Oznakowanie możliwe do odczytu maszynowego
Dostawcy systemów generujących syntetyczne obrazy, nagrania, dźwięk lub tekst powinni co do zasady zapewnić, aby rezultaty działania AI były:
- oznakowane w formacie nadającym się do odczytu maszynowego;
- możliwe do wykrycia jako treści sztucznie wygenerowane lub zmanipulowane;
- oznakowane za pomocą rozwiązań skutecznych, interoperacyjnych, solidnych i niezawodnych w zakresie, w jakim jest to technicznie wykonalne.
Może chodzić m.in. o odpowiednie metadane, cyfrowe dane o pochodzeniu materiału lub inne rozwiązania pozwalające systemom informatycznym rozpoznać udział AI.
Ten obowiązek spoczywa przede wszystkim na dostawcy narzędzia. Nie ma zastosowania w takim zakresie, w jakim system wykonuje jedynie funkcję pomocniczą przy standardowej edycji albo nie zmienia istotnie danych wejściowych lub ich znaczenia.
2. Informacja widoczna dla człowieka
Odrębny obowiązek może dotyczyć przedsiębiorcy, agencji, twórcy lub innego podmiotu stosującego system AI. Jeżeli wykorzystuje on system do wygenerowania albo zmodyfikowania obrazu, dźwięku lub filmu stanowiących deepfake, powinien ujawnić, że treść została sztucznie wygenerowana lub zmanipulowana.
Informacja musi być jasna i wyraźna oraz przekazana najpóźniej w chwili pierwszego kontaktu odbiorcy z materiałem. Powinna również spełniać wymagania dostępności.
Samo pozostawienie technicznego oznakowania w pliku nie zawsze zastąpi czytelny komunikat skierowany do odbiorcy. Z drugiej strony usunięcie metadanych nie zwalnia podmiotu publikującego deepfake z jego własnego obowiązku informacyjnego.
Czym jest deepfake?
AI Act definiuje deepfake jako wygenerowany lub zmanipulowany przez AI obraz, dźwięk albo film, który przypomina istniejące osoby, przedmioty, miejsca, podmioty lub wydarzenia i może zostać błędnie uznany za autentyczny lub prawdziwy.
Nie chodzi więc wyłącznie o fałszywe nagrania polityków lub celebrytów. Deepfake’iem może być również materiał wykorzystywany w zwykłej działalności gospodarczej, np.:
- film przedstawiający członka zarządu wypowiadającego słowa, których nigdy nie powiedział;
- reklama wykorzystująca wygenerowany głos konkretnej osoby;
- sztucznie zmodyfikowane zdjęcie istniejącego lokalu, produktu lub nieruchomości, które wygląda jak autentyczna fotografia;
- realistyczne nagranie wydarzenia firmowego, które w rzeczywistości się nie odbyło;
- materiał przedstawiający rzekomego klienta rekomendującego produkt lub usługę;
- zamiana twarzy w autentycznym filmie albo fotografii.
Decydujące jest ryzyko pomylenia materiału z rzeczywistością. Sam fakt, że treść jest atrakcyjna wizualnie albo powstała w generatorze obrazów, jeszcze nie przesądza o uznaniu jej za deepfake.
Czy każda grafika przygotowana przez AI wymaga widocznego oznaczenia?
Nie. Widocznego oznaczenia nie wymaga automatycznie każda:
- fantastyczna lub abstrakcyjna ilustracja;
- grafika, której rozsądny odbiorca nie uzna za prawdziwą fotografię;
- korekta kolorystyczna;
- zmiana kadru;
- standardowy retusz;
- redukcja szumu albo poprawa ostrości;
- operacja polegająca wyłącznie na usunięciu tła.
Każdy przypadek trzeba jednak oceniać według końcowego rezultatu. Usunięcie drobnego elementu z fotografii może być zwykłą edycją, ale cyfrowe „wyposażenie” zdjęcia rzeczywistego, pustego mieszkania może już tworzyć fałszywe wrażenie co do wyglądu istniejącego miejsca. Podobnie poprawienie oświetlenia zdjęcia produktu różni się od wygenerowania rezultatów jego użycia, których produkt w rzeczywistości nie zapewnia.
Brak obowiązku oznaczenia na podstawie art. 50 AI Act nie oznacza jeszcze, że publikacja jest prawnie obojętna. Nadal mogą znaleźć zastosowanie przepisy o ochronie konsumentów, zwalczaniu nieuczciwej konkurencji, reklamie, dobrach osobistych, prawie do wizerunku, prawie autorskim oraz ochronie danych osobowych.
Treści artystyczne, twórcze i satyryczne
AI Act przewiduje szczególne rozwiązanie dla materiałów stanowiących część utworu lub programu o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub podobnym charakterze.
Nie jest to całkowite zwolnienie z obowiązku informacyjnego. Sztuczne wygenerowanie lub zmodyfikowanie treści należy ujawnić, ale można zrobić to w sposób, który nie zakłóca wyświetlania ani odbioru utworu. Informacja może znaleźć się np. w opisie publikacji, czołówce, napisach końcowych albo informacjach o produkcji.
Jak prawidłowo oznaczyć zdjęcie lub film?
AI Act nie narzuca jednego obowiązkowego zdania, które trzeba umieszczać na wszystkich materiałach. Informacja powinna być przede wszystkim jasna, wyraźna, zrozumiała i dostępna już przy pierwszym kontakcie odbiorcy z treścią.
W zależności od rodzaju materiału można zastosować np. komunikat:
„Materiał został wygenerowany z wykorzystaniem sztucznej inteligencji”.
albo:
„Materiał został częściowo zmodyfikowany z wykorzystaniem sztucznej inteligencji”.
Warto doprecyzować zakres modyfikacji, jeżeli ma to znaczenie dla odbiorcy, np. „głos wygenerowany przez AI”, „wirtualna aranżacja wnętrza” lub „scena fikcyjna wygenerowana przez AI”. Taka informacja jest bardziej użyteczna niż ogólny i niejasny skrót.
Komisja Europejska udostępniła również dobrowolne ikony pozwalające rozróżnić materiały w całości wygenerowane przez AI od treści częściowo zmodyfikowanych. Użycie ikon nie jest obowiązkowe i samo w sobie nie gwarantuje zgodności z przepisami. Jeżeli firma z nich korzysta, ikona powinna być widoczna przy pierwszym kontakcie z treścią, niezasłonięta innymi elementami i – co do zasady – zachowana również po pobraniu lub dalszym udostępnieniu materiału.
Oznaczenie AI nie zastępuje zgody na wykorzystanie wizerunku lub głosu
Umieszczenie informacji „wygenerowano przez AI” nie legalizuje samego sposobu przygotowania albo wykorzystania materiału.
Jeżeli treść wykorzystuje wizerunek, głos lub inne rozpoznawalne cechy konkretnej osoby, konieczna jest odrębna analiza podstawy prawnej. Należy uwzględnić m.in. przepisy o rozpowszechnianiu wizerunku, ochronie dóbr osobistych, danych osobowych oraz nieuczciwych praktykach rynkowych.
Oznaczony deepfake może zatem nadal naruszać prawo. Dotyczy to zwłaszcza reklam sugerujących, że znana osoba, ekspert albo klient rekomenduje produkt, chociaż nigdy nie wyraził na to zgody.
Szczególne ryzyko w reklamie i sprzedaży
W materiałach marketingowych trzeba ocenić nie tylko to, czy treść jest deepfake’iem w rozumieniu AI Act, lecz także czy nie wprowadza odbiorców w błąd.
Ryzyko może powstać m.in. wtedy, gdy AI:
- pokazuje właściwości produktu, których produkt rzeczywiście nie posiada;
- generuje fikcyjne rekomendacje klientów;
- tworzy nieprawdziwy efekt „przed i po”;
- przedstawia wirtualną aranżację nieruchomości jako jej aktualny stan;
- sugeruje udział eksperta, influencera lub ambasadora marki;
- generuje fotografie osób mających uchodzić za prawdziwy personel albo klientów firmy.
Nawet jeżeli materiał nie spełnia definicji deepfake’u, może naruszać zakaz wprowadzania konsumentów w błąd. Dlatego samo ustalenie, że widoczne oznaczenie nie jest wymagane przez art. 50 AI Act, nie kończy analizy prawnej kampanii.
Kto odpowiada: firma, agencja czy dostawca narzędzia?
Odpowiedzialności nie można ustalić wyłącznie na podstawie tego, kto technicznie opublikował post. Znaczenie ma m.in. to, kto korzystał z systemu AI, pod czyją kontrolą powstał materiał, kto podejmował decyzję o jego treści oraz kto odpowiada za kampanię.
W umowach z agencjami marketingowymi, studiami produkcyjnymi i freelancerami warto uregulować:
- obowiązek informowania o wykorzystaniu AI;
- sposób kwalifikowania materiału jako wygenerowanego lub zmodyfikowanego;
- odpowiedzialność za umieszczenie właściwego oznaczenia;
- zakaz usuwania technicznych danych o pochodzeniu treści;
- uzyskanie wymaganych zgód na wykorzystanie wizerunku i głosu;
- odpowiedzialność za naruszenie praw osób trzecich;
- archiwizowanie promptów, wersji plików, zgód i historii modyfikacji.
Wewnętrzna procedura zatwierdzania materiałów AI powinna obejmować współpracę marketingu, działu prawnego i – w zależności od treści – osoby odpowiedzialnej za ochronę danych.
Kary za naruszenie obowiązków
Zgodnie z informacją Komisji Europejskiej maksymalna administracyjna kara za naruszenie obowiązków z art. 50 AI Act może sięgnąć 15 mln euro albo 3% całkowitego rocznego światowego obrotu przedsiębiorstwa z poprzedniego roku obrotowego – zależnie od tego, która wartość jest wyższa. Przy ocenie sankcji uwzględnia się proporcjonalność, w tym sytuację małych i średnich przedsiębiorstw.
Nie oznacza to, że każdy błąd w podpisie pod grafiką będzie automatycznie prowadził do maksymalnej kary. Pokazuje jednak, że zarządzanie treściami AI powinno być elementem firmowego compliance, a nie wyłącznie decyzją estetyczną działu marketingu.
Checklista przed publikacją materiału stworzonego przez AI
Przed opublikowaniem zdjęcia, filmu albo nagrania warto sprawdzić:
- Czy w przygotowaniu materiału wykorzystano system AI, a jeżeli tak – w jakim zakresie?
- Czy materiał przypomina istniejącą osobę, przedmiot, miejsce, podmiot lub wydarzenie?
- Czy odbiorca może błędnie uznać treść za autentyczną?
- Czy materiał stanowi deepfake i wymaga widocznego ujawnienia sztucznego pochodzenia?
- Czy wystarczy informacja w opisie, czy powinna zostać umieszczona bezpośrednio na obrazie lub nagraniu?
- Czy zachowano techniczne oznakowanie i dane dotyczące pochodzenia pliku?
- Czy wykorzystano cudzy wizerunek, głos, znak towarowy albo chroniony utwór?
- Czy treść reklamowa może wprowadzać klientów w błąd?
- Czy regulamin platformy przewiduje własne oznaczenie treści AI?
- Czy firma potrafi udokumentować proces powstania i akceptacji materiału?
Podsumowanie
Nie istnieje zasada, zgodnie z którą każda fotografia lub każdy film przygotowane przy udziale AI muszą otrzymać widoczną etykietę. Obowiązek informacyjny dotyczy przede wszystkim deepfake’ów, czyli treści przypominających istniejące osoby, miejsca, przedmioty, podmioty lub wydarzenia, które mogą zostać błędnie uznane za autentyczne.
Jednocześnie przedsiębiorca nie powinien ograniczać analizy do AI Act. Istotne pozostają również prawo do wizerunku, ochrona dóbr osobistych, prawo autorskie, RODO oraz zasady uczciwej reklamy. Najbezpieczniejszym rozwiązaniem jest wdrożenie krótkiej procedury oceny i oznaczania materiałów AI jeszcze przed ich publikacją.
RPR LEGAL Radcowie Prawni i Adwokaci wspiera przedsiębiorców, agencje marketingowe oraz twórców w ocenie materiałów generowanych przez AI, przygotowaniu regulaminów kampanii, zabezpieczeniu praw do wizerunku i głosu oraz wdrażaniu obowiązków wynikających z AI Act.