Umjetna inteligencija (UI) sve brže prelazi iz faze eksperimentiranja u ključni dio svakodnevnog života. U središtu ovog prijelaza nalazi se pitanje kako osigurati da razvoj UI ostane u skladu s ljudskim vrijednostima i da se rizici minimiziraju. U ožujku 2026. godine, koalicija vlada, istraživačkih laboratorija i tehnoloških tvrtki predstavila je koordinirani plan koji detaljno opisuje konkretne korake za postizanje sigurnijeg i pouzdanijeg razvoja UI. U nastavku razlažemo najvažnije dijelove tog plana, objasnjavajući zašto su ključni i koje praktične promjene možemo očekivati u sljedećih dvanaest mjeseci.
Regulatorni okvir: promjene u ranoj 2026. godini
Jedan od temelja plana je skup regulatornih ciljeva koji pretvaraju općenite principe u primjenjivu zakonodavnu praksu. Europska unija u veljači 2026. godine dovršila je zakonodavni proces Ugovora o umjetnoj inteligenciji, uvodeći tri nova razreda rizika: neprimjereni, visoki i ograničeni. Do 31. ožujka, države članice morat će objaviti smjernice za usklađenost s visokorizičnim sustavima, što će programerima zahtijevati integraciju transparentnih zapisa, provjere podataka i nadzora u stvarnom vremenu.
U Sjedinjenim Američkim Državama, objavljen je Nacionalni okvir za sigurnost UI (NASF), bipartisani projekt vođen od strane Ureda za znanost i tehnologiju. NASF propisuje da svi projekti financirani od strane vlade moraju proći nezavisnu reviziju rizika prije puštanja u rad, a također uspostavlja javni registar visokovrijednih modela. Uz to, NASF financira program grantova za istraživanje sigurnosti UI, dodjeljujući 250 milijuna dolara u naredna dva godine univerzitetima koji se bave usklađenošću, interpretabilnošću i robusnošću.
U Aziji, japanska Ministarstvo gospodarstva, trgovine i industrije (METI) objavilo je Plan odgovorne UI, naglašavajući standarde za međudržavni dijeljenje podataka i obaveznu klauzulu „čovjek u petlji“ za autonomne sustave odlučivanja u kritičnoj infrastrukturi. Plan je usklađen s pozivom na „globalnu usklađenost“ i „čovjekovnu nadzornost“ iz glavnog plana.
Sigurnost UI u praksi
Plan se ne fokusira samo na razvoj, već i na primjenu UI u stvarnom svijetu. U 2025. godini, istraživači su objavili seriju studija koje pokazuju kako se rizici mogu smanjiti kroz kontinuirani nadzor i prilagodbu modela. Ključni elementi uključuju:
- Transparentnost: Obavezno dokumentiranje odluka modela i objava izvješća o performansama.
- Interpretabilnost: Razvoj alata koji omogućuju korisnicima da razumiju razloge odluka UI sustava.
- Robusnost: Testiranje modela na različitim skupovima podataka kako bi se osiguralo pouzdano funkcioniranje u realnim uvjetima.
- Kontinuirani nadzor: Uvođenje sustava za praćenje ponašanja UI u stvarnom vremenu i automatsko otkrivanje anomalija.
Ovi koraci će se primjenjivati u različitim sektorima, od zdravstvene skrbi do financijskih usluga, čime se smanjuje mogućnost neželjenih posljedica i povećava povjerenje javnosti u tehnologiju.
Praktične promjene za krajnje korisnike
Što to znači za vas? U sljedećih godinu dana možete očekivati:
- Jasnije informacije o privatnosti: Tvrtke će morati objaviti detaljne uvjete korištenja podataka i pružiti mogućnost jednostavnog uklanjanja podataka.
- Sigurnosne provjere: