Akt o umjetnoj inteligenciji: nema više neoznačenih deepfakeova ni skrivenih chatbotova

Akt o umjetnoj inteligenciji od 2. kolovoza 2026. obvezuje tvrtke da jasno označe svaki sadržaj koji je generirala ili izmijenila umjetna inteligencija te da korisnicima kažu kada razgovaraju s chatbotom, a ne s čovjekom. Riječ je o europskoj uredbi koja umjetnu inteligenciju dijeli u četiri razine rizika i za svaku propisuje drukčija ograničenja — od potpune zabrane do nikakvih obveza. Kazne za kršenje idu do 35 milijuna eura ili 7 % svjetskog godišnjeg prometa.

Akt od kolovoza 2026. traži vidljivu oznaku na svakom sadržaju koji je stvorila umjetna inteligencija.

Ako do sada nismo uvijek bili sigurni da li komuniciramo s osobom ili chatbotom, gledamo li influencera na jahti, Eiffelovu tornju ili umjetno generiranu sliku, ili smo brinuli može li nas policija kontrolirati na ulici korištenjem sustava za prepoznavanje lica — to se mijenja. Kako bi se povećala razina transparentnosti u primjeni umjetne inteligencije, zaštitili građani od obmana i smanjili rizici koje donose ti sustavi, uvedena su pravila koja obvezuju tvrtke i organizacije koje ih kreiraju i primjenjuju, a nepoštivanje donosi rigorozne kazne. Time se nastoji postaviti globalni standard kako bi umjetna inteligencija bila pouzdana i što sigurnija te u skladu s etičkim načelima.

Što se konkretno mijenja od 2. kolovoza 2026.?

Od 2. kolovoza 2026. na snagu su stupile obveze transparentnosti iz članka 50. Akta o umjetnoj inteligenciji. Tvrtke koje razvijaju ili koriste generativnu umjetnu inteligenciju moraju označiti sadržaj koji ona proizvede i jasno obavijestiti korisnika kad komunicira sa strojem. Istoga dana Europska komisija i nacionalna tijela za nadzor tržišta dobili su ovlasti za provedbu tih pravila.

Do tog datuma tržište je funkcioniralo na dobrovoljnoj osnovi. Sada su oznake pravna obveza, a nadzorna tijela mogu izreći kaznu.

Kako se označava sadržaj generiran umjetnom inteligencijom?

Slike, videozapisi i audiosadržaji uređeni ili generirani umjetnom inteligencijom, uključujući duboke krivotvorine (deep fake), moraju nositi oznaku vidljivu korisniku i dodatnu strojno čitljivu oznaku ugrađenu u samu datoteku. Vidljiva oznaka služi čovjeku, strojno čitljiva platformama i regulatorima za automatsko otkrivanje. Ista obveza vrijedi i za tekstove generirane umjetnom inteligencijom koji se objavljuju radi informiranja javnosti o temama od javnog interesa.

Cilj je smanjiti mogućnosti obmane i manipulacije te pomoći građanima da donose informirane odluke. Više od 180 organizacija — od IT-a i telekoma do obrazovanja i maloprodaje — potpisalo je Kodeks dobre prakse za transparentnost sadržaja generiranog umjetnom inteligencijom, dokument koji te obveze razrađuje u konkretne tehničke mjere. Otprilike polovica potpisnika su male i nedavno osnovane tvrtke.

Četiri razine rizika Akta o umjetnoj inteligenciji

Korisnik mora biti obaviješten da razgovara s chatbotom, a ne s čovjekom.

Akt o umjetnoj inteligenciji sve AI sustave razvrstava u četiri razine rizika i za svaku propisuje drukčiji režim: minimalni rizik nema nikakvih obveza, ograničeni rizik traži transparentnost, visoki rizik traži strogu prethodnu provjeru, a neprihvatljivi rizik znači potpunu zabranu. Što je veći potencijal štete za ljude, to su stroža pravila.

S obzirom na različitu razinu rizika, pravila i ograničenja uvode se u skladu s rizicima koje primjena umjetne inteligencije ima za ljude. Videoigre i filteri za neželjene e-mailove spadaju u najnižu, minimalnu razinu rizika. Tu spada većina sustava umjetne inteligencije i na toj razini se ne uvode ograničenja — sve ostaje kao i do sada.

Tablica: 4 razine rizika i pripadajuće obveze

Razina rizika	Primjeri sustava	Što je obvezno	Od kada
Minimalni	videoigre, filteri za neželjenu poštu, preporuke sadržaja	ništa — dobrovoljni kodeksi	—
Ograničeni	chatbotovi, generatori slika i videa, deepfake alati	obavijest korisniku o interakciji s AI-jem; vidljiva i strojno čitljiva oznaka sadržaja	2. kolovoza 2026.
Visoki	odobravanje zajmova, zapošljavanje, ocjenjivanje ispita, dijagnostika bolesti, promet, biometrijska identifikacija u istragama	procjena sukladnosti, upravljanje rizikom, ljudski nadzor, dokumentacija prije izlaska na tržište EU	2. prosinca 2027. (2. kolovoza 2028. za regulirane proizvode)
Neprihvatljivi	društveno vrednovanje, prepoznavanje emocija na radnom mjestu i u školama, daljinska biometrijska identifikacija u realnom vremenu na javnim mjestima	potpuna zabrana	2. veljače 2025.

Moraju li chatbotovi reći da nisu ljudi?

Da. Chatbotovi spadaju u sustave s ograničenom razinom rizika i ostaju dopušteni, ali korisnik mora biti jasno obaviješten da je u interakciji s umjetnom inteligencijom, a ne s čovjekom. Obavijest mora biti vidljiva prije ili na početku razgovora, a ne skrivena u uvjetima korištenja.

Korištenje umjetne inteligencije u prometu, pri odobravanju zajmova, ocjenjivanju ispita i zapošljavanju, dijagnosticiranju bolesti te biometrijskoj identifikaciji pojedinaca uključenih u kriminalne aktivnosti ili istrage predstavlja visoku razinu rizika, pa će takvi sustavi morati ispuniti stroge kriterije prije nego se pojave na tržištu EU.

Što je zabranjeno, a što samo ograničeno?

Daljinska biometrijska identifikacija u realnom vremenu na javnim mjestima zabranjena je u EU od veljače 2025.

Neprihvatljivom razinom rizika smatraju se sustavi za društveno vrednovanje građana, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama te daljinska biometrijska identifikacija u realnom vremenu na javnim mjestima. Oni nisu tek ograničeni — zabranjeni su u Europskoj uniji od 2. veljače 2025. Ocijenjeni su kao prijetnja sigurnosti ljudi, sredstvima za život i pravima pojedinaca. To znači da, na primjer, ni policija ne smije koristiti sustave za prognostičke aktivnosti (predviđanje kriminala) ni prepoznavanje lica u realnom vremenu, osim uz usko definirane iznimke poput potrage za žrtvom otmice ili sprječavanja neposredne terorističke prijetnje, i to uz prethodno sudsko odobrenje.

Obveze za modele umjetne inteligencije opće namjene

Modeli opće namjene (GPAI) — poput velikih jezičnih modela koji generiraju tekst ili prepoznaju slike u nizu različitih primjena — imaju vlastiti režim obveza. Svi pružatelji moraju dokumentirati određene informacije i dostaviti ih nadležnim tijelima ili drugim pružateljima, uspostaviti politiku zaštite autorskih prava i objaviti dovoljno detaljan sažetak sadržaja korištenog za treniranje modela.

Za modele koji ne predstavljaju sistemske rizike primjenjuju se ograničeni zahtjevi, pri čemu je prvenstvena obveza transparentnost. Pružatelji najnaprednijih modela koji mogu predstavljati sistemske rizike moraju ispunjavati posebne, strože obaveze. One se odnose na opasnosti povezane s kemijskim, biološkim, radiološkim i nuklearnim incidentima, gubitkom kontrole nad modelom, kibernetičkim kriminalom, štetnim manipulacijama i ugrožavanjem temeljnih ljudskih prava.

Koje su kazne za nepoštivanje Akta o umjetnoj inteligenciji?

Najviša kazna propisana Aktom o umjetnoj inteligenciji iznosi 35 milijuna eura ili 7 % ukupnog svjetskog godišnjeg prometa tvrtke, ovisno o tome koji je iznos veći, a izriče se za korištenje zabranjenih sustava neprihvatljivog rizika. Za povredu ostalih obveza, uključujući obveze transparentnosti, kazne su niže, ali i dalje značajne.

Provedbu nadziru nacionalna tijela za nadzor tržišta, a za modele opće namjene nadležan je Ured EU-a za umjetnu inteligenciju.

Rokovi primjene: što vrijedi od kada

Akt o umjetnoj inteligenciji ne primjenjuje se odjednom, nego u fazama koje traju od 2025. do 2028. godine. Zabrane su već na snazi, obveze transparentnosti počele su se primjenjivati u kolovozu 2026., a najstroža pravila za visokorizične sustave odgođena su izmjenama iz svibnja 2026. godine.

Tablica: Vremenski slijed primjene

Datum	Što stupa na snagu
2. veljače 2025.	Zabrana sustava neprihvatljivog rizika
2. kolovoza 2026.	Obveze transparentnosti (članak 50.); ovlasti provedbe za Komisiju i nacionalna tijela
2. prosinca 2026.	Zabrana sustava koji bez pristanka generiraju seksualno eksplicitan sadržaj i materijale sa seksualnim zlostavljanjem djece
2. prosinca 2027.	Pravila za visokorizične sustave
2. kolovoza 2028.	Pravila za visokorizične sustave ugrađene u regulirane proizvode

Primjena pravila za visokorizične sustave umjetne inteligencije odgođena je do 2. prosinca 2027., a za takve sustave integrirane u regulirane proizvode do 2. kolovoza 2028. Nove zabrane za sustave koji bez pristanka generiraju seksualno eksplicitan sadržaj i materijale koji sadržavaju seksualno zlostavljanje djece počet će se primjenjivati 2. prosinca 2026.

Nije riječ samo o ograničenjima

Akt o umjetnoj inteligenciji nije zamišljen kao kočnica, nego kao okvir koji istovremeno štiti građane i otvara jedinstveno tržište za AI rješenja. Uz obveze, propis sadrži i odredbe za poticanje ulaganja i inovacija — među njima regulatorne pjeskovnike u kojima tvrtke mogu testirati rješenja pod nadzorom prije izlaska na tržište.

Cilj Akta nije samo poboljšanje učinkovite provedbe postojećeg zakonodavstva o temeljnim pravima i sigurnosti. Njime se također želi promicati ulaganja i inovacije u području umjetne inteligencije u EU-u te olakšati razvoj jedinstvenog tržišta za primjene umjetne inteligencije. Akt je usko povezan i s drugim inicijativama, među ostalim s EU-ovim Koordiniranim planom o umjetnoj inteligenciji, čiji je cilj ubrzati ulaganja u umjetnu inteligenciju u Europi.

Najčešća pitanja i odgovori

Zabranjuje li se Aktom o umjetnoj inteligenciji korištenje sustava umjetne inteligencije?

Ne. Riječ je o uvođenju ograničenja ovisno o razini rizika koju sustav predstavlja za ljude. Zabranjena je samo najviša, neprihvatljiva razina rizika, dok većina sustava spada u minimalni rizik i nema nikakvih dodatnih obveza.

Uvode li se Aktom o umjetnoj inteligenciji samo ograničenja?

Ne. Akt istovremeno nastoji promicati ulaganja i inovacije u području umjetne inteligencije u EU-u te olakšati razvoj jedinstvenog tržišta za primjene umjetne inteligencije, uz odredbe za potporu inovacijama.

Koliko razina rizika postoji u Aktu o umjetnoj inteligenciji?

Postoje četiri razine: minimalni rizik (videoigre, filteri za neželjenu poštu — bez ograničenja), ograničeni rizik (chatbotovi i generativni AI — obveza transparentnosti i označavanja), visoki rizik (zapošljavanje, zajmovi, zdravstvo, promet — stroga prethodna provjera) i neprihvatljivi rizik (društveno vrednovanje, prepoznavanje lica u realnom vremenu — potpuna zabrana).

Mora li svaka fotografija generirana umjetnom inteligencijom biti označena?

Obveza označavanja odnosi se na sadržaj koji je objavljen i može obmanuti — prije svega deepfake sadržaj koji prikazuje stvarne osobe, događaje ili mjesta. Sadržaj koji je očito umjetnički, satiričan ili fikcionalan ima blaže zahtjeve, ali oznaka mora biti prisutna na način koji ne narušava djelo.

Odnosi li se Akt o umjetnoj inteligenciji i na tvrtke izvan EU-a?

Da. Akt se primjenjuje na svakog pružatelja ili korisnika AI sustava čiji se rezultati koriste unutar Europske unije, bez obzira na to gdje je tvrtka registrirana.

Jesu li ograničenja za sve modele umjetne inteligencije već stupila na snagu?

Ne. Zabrane vrijede od 2. veljače 2025., a obveze transparentnosti od 2. kolovoza 2026. Primjena pravila za visokorizične sustave odgođena je do 2. prosinca 2027., a za takve sustave integrirane u regulirane proizvode do 2. kolovoza 2028. Nove zabrane za sustave koji bez pristanka generiraju seksualno eksplicitan sadržaj i materijale sa seksualnim zlostavljanjem djece počinju se primjenjivati 2. prosinca 2026.

Koliko iznose kazne za kršenje Akta o umjetnoj inteligenciji?

Najviša kazna iznosi 35 milijuna eura ili 7 % ukupnog svjetskog godišnjeg prometa, ovisno o tome koji je iznos veći, i izriče se za korištenje zabranjenih sustava. Za povrede ostalih obveza predviđene su niže kazne.

---

Za više informacija obratite se na: info@logickamatrica.eu Pratite nas na Facebooku i LinkedInu.