Od dnia 2 sierpnia 2026 roku grafika, film lub dźwięk wygenerowany lub zmanipulowany przy użyciu sztucznej inteligencji musi posiadać widoczne oznaczenie informujące o tym fakcie.
Powyższe regulacje wynikają z unijnego rozporządzenia AI Act, którego przepisy dotyczące systemów wysokiego ryzyka wchodzą w życie później, niż pierwotnie zakładano. Jednak część regulacji dotyczących oznaczania sztucznie wygenerowanych lub zmanipulowanych treści wchodzi w życie już 2 sierpnia – zgodnie z art. 50 ust. 4 AI Act. Artykuł ten stanowi, że “Podmioty stosujące system AI, który generuje obrazy, treści audio lub wideo stanowiące treści deepfake lub który manipuluje takimi obrazami lub treściami, ujawniają, że treści te zostały sztucznie wygenerowane lub zmanipulowane. Obowiązek ten nie ma zastosowania, w przypadku gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. W przypadku gdy treść stanowi część pracy lub programu o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze obowiązki w zakresie przejrzystości określone w niniejszym ustępie ograniczają się do ujawnienia istnienia takich wygenerowanych lub zmanipulowanych treści w odpowiedni sposób, który nie utrudnia wyświetlania lub korzystania z utworu.
Podmioty stosujące system AI, który generuje tekst publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym lub manipuluje takim tekstem, ujawniają, że tekst został sztucznie wygenerowany lub zmanipulowany. Obowiązek ten nie ma zastosowania, w przypadku gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców lub w przypadku gdy treści wygenerowane przez AI zostały poddane weryfikacji przez człowieka lub kontroli redakcyjnej i gdy za publikację treści odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna.”
Nowy obowiązek dotyczy zarówno osoby fizycznej jak i prawnej wykorzystującej system AI, przy czym dotyczy on podmiotu stosującego AI do tworzenia treści, a nie podmiotu udostępniającego je dalej. Informacja taka musi być podana w jasny i wyraźny sposób, najpóźniej w momencie pierwszego stosowania lub pierwszej interakcji z odbiorcą. Kary za naruszenie przepisów mogą wynieść do 15 mln euro lub 3% rocznego obrotu. W gestii państw członkowskich jest wyznaczenie organu uprawnionego do ich nakładania. Polska ustawa o systemach sztucznej inteligencji zakłada, że będzie nim Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji.
