Agentska umjetna inteligencija i pristup temeljen na ulogama: novi sigurnosni model

Uspon agentske umjetne inteligencije u tvrtkama ruši mnoge pretpostavke koje smo uzimali zdravo za gotovo u kibernetičkoj sigurnosti i upravljanju pristupom. Do sada je gotovo sve bilo organizirano oko organizacijske sheme: uloga, manje-više stabilan skup dozvola i to je to. Ali u svijetu u kojem korisnici više nisu samo ljudi, već i agenti umjetne inteligencije koji djeluju samostalno, taj se model počinje raspadati.

U međuvremenu, tradicionalna kontrola pristupa temeljena na ulogama (RBAC) ostaje ključna za zaštitu osjetljivih podataka i provedbu načela najmanjih privilegija, ali ne uspijeva kada se u igru ​​uključe autonomni agenti koji prebacuju zadatke, sustave i kontekste u nekoliko sekundi. Izazov više nije samo tko ste u organizacijskoj shemi, već što trebate učiniti upravo sada, koliko dugo i pod kojim rizičnim uvjetima.

Što je agentna umjetna inteligencija i zašto mijenja pravila igre?

Kada govorimo o agentnoj umjetnoj inteligenciji, mislimo na sustave umjetne inteligencije sposobne djelovati kao autonomni agenti koji interpretiraju ciljeve, dizajniraju planove i izvršavaju zadatke iz stvarnog svijeta u ime ljudi, aplikacija ili procesa. Oni ne samo da sudjeluju u razgovoru; oni donose odluke, pozivaju API-je, mijenjaju podatke, integriraju informacije i dovršavaju end-to-end tijekove rada.

Za razliku od tradicionalnijih AI sustava, koji se usredotočuju na vrlo specifične zadatke, agentska AI djeluje na ciljno orijentiran način : korisnik navodi što želi postići (na primjer, pokrenuti kampanju, ažurirati web stranicu ili riješiti problem), a agenti su odgovorni za raščlanjivanje problema na podzadatke, međusobnu koordinaciju i provedbu uz minimalnu potrebnu ljudsku intervenciju.

Ovaj pristup oslanja se na napredne jezične modele (LLM), mehanizme raspoređivanja, memoriju za očuvanje konteksta i veze s korporativnim alatima i podacima . Rezultat je nešto vrlo moćno: sustavi koji ne samo da reagiraju, već i djeluju unutar vaših poslovnih procesa i kritičnih sustava.

Izravna posljedica je da se pojam "korisnika" širi: više ne govorimo samo o zaposlenicima i dobavljačima, već o desecima ili stotinama AI agenata s vlastitim identitetima, kojima je potrebno dopuštenje za dodirivanje proizvodnih sustava, repozitorija koda, ERP-ova, CRM-ova, analitičkih platformi ili hibridnih okruženja u oblaku.

Od generativne umjetne inteligencije do agentne umjetne inteligencije: od reagiranja do izvršavanja

Većina ljudi upoznala se s umjetnom inteligencijom putem generativnih alata koji proizvode tekst, slike, kod ili zvuk kao odgovor na upit. Vrlo su korisni za pisanje e-poruka, sažimanje dokumenata ili generiranje ideja, ali ovise o osobi koja ih izričito zamoli da obave svaki zadatak.

Agentska umjetna inteligencija ide korak dalje i mijenja model interakcije : umjesto da uvijek "čeka upit", radi na temelju ciljeva i tijekova rada. Može podijeliti zadatak na korake, odabrati koji alat koristiti u svakoj fazi, izvršiti radnje i procijeniti ispunjava li rezultat očekivanja. Razlika se često sažima u jednoj rečenici: generativna umjetna inteligencija odgovara; agentska umjetna inteligencija djeluje.

U praksi to znači da agenti ne samo generiraju sadržaj, već i orkestriraju cijele procese : prikupljaju informacije iz različitih izvora, analiziraju ih, donose uvjetne odluke i pišu u korporativne sustave. Nadalje, mogu se međusobno koordinirati u višeagentskim arhitekturama, gdje svaki agent preuzima specijaliziranu ulogu.

Ovaj skok je moguć zahvaljujući trima ključnim napretcima: zrelosti LLM-ova s ​​mogućnostima zaključivanja, porastu agentskih okvira kao što su LangChain, CrewAI, Semantic Kernel i OpenAI Agents te dubokoj integraciji s poslovnim API-jima, internim podacima i SaaS alatima. Sve to čini agente središnjim komponentama novog "operativnog sustava" tvrtke.

Kako rade AI agenti: operativni ciklus i suradnja

Iza svakog agenta stoji relativno stabilan operativni ciklus koji objašnjava kako se kreću od nejasnog cilja do dovršenog zadatka. Ovaj ciklus se obično može sažeti u pet faza u kojima je ključna kombinacija razmišljanja i djelovanja .

Prvo se interpretira cilj . Agent prima zahtjev na prirodnom jeziku ili putem drugog sustava: za pripremu izvješća, rješavanje incidenta, analizu konkurencije ili koordinaciju ažuriranja softvera. Iz ovog ulaza generira strukturirani prikaz onoga što treba postići.

Sljedeće dolazi planiranje . Agent rastavlja cilj na podzadatke, uspostavlja redoslijed izvršenja i određuje koji su mu alati, podaci i sustavi potrebni u svakom koraku. Ovdje razlika s čisto generativnim modelima postaje jasna; ovi modeli su ograničeni na proizvodnju rezultata, dok agenti konstruiraju slijed tijeka rada.

U trećoj fazi, agent koristi vanjske alate i API-je . Može pretraživati ​​baze podataka, pozivati ​​interne servise, pretraživati ​​dokumente u repozitorijima, komunicirati s platformama za suradnju ili pokretati skripte na IT infrastrukturi. Ovaj dio je osjetljiv sa sigurnosnog stajališta jer je to mjesto gdje agenti zapravo koriste svoje privilegije pristupa.

Četvrta faza je izvršavanje radnji : agent ne samo da upituje, već i stvara ili mijenja informacije, ažurira sustave, pokreće operativne procese, otvara ili zatvara zahtjeve, implementira promjene ili aktivira automatizirane tijekove rada. Ovdje umjetna inteligencija prestaje biti pasivni kopilot i postaje izvršitelj unutar korporativnog okruženja.

Konačno, rezultat se evaluira . Agent pregledava što je učinio, uspoređuje to s izvornim ciljem, otkriva pogreške ili nedosljednosti i odlučuje treba li ponoviti neke korake, zatražiti ljudsku validaciju ili završiti zadatak. Ovaj se ciklus kontinuirano ponavlja sve dok agent ne smatra da je dosegao očekivanu razinu kvalitete.

U višeagentnim arhitekturama, ovaj se ciklus replicira na nekoliko specijaliziranih agenata koji međusobno surađuju . Na primjer, jedan agent može biti odgovoran za istraživanje informacija, drugi za analizu podataka, treći za generiranje dokumentacije, a treći za koordinaciju implementacije promjena. Orkestracijski sustav distribuira zadatke, upravlja ovisnostima i osigurava da cijeli tijek ima poslovnog smisla.

Autonomija, vrste agenata i višeagentski sustavi

Nisu svi agenti isti, niti im je potrebna ista razina autonomije. Na visokoj razini možemo razlikovati različite vrste agenata umjetne inteligencije na temelju njihovog ponašanja i složenosti, što izravno utječe na to kako bismo trebali dizajnirati njihova dopuštenja i kontrole.

Na najjednostavnijem kraju spektra su reaktivni agenti , koji reagiraju na specifične podražaje iz okoliša bez opsežnog planiranja. Brzi su i pouzdani u vrlo ograničenim kontekstima, na primjer, za automatizaciju odgovora na dobro definirane tehničke događaje ili za izvršavanje jednostavnih radnji kada se aktivira upozorenje.

Jedan korak iznad njih su deliberativni agenti , koji uključuju rasuđivanje i planiranje. Oni analiziraju različite opcije, procjenjuju alternative i biraju najprikladniju strategiju za postizanje cilja. Ova vrsta agenta bolje je prilagođena scenarijima s neizvjesnošću i složenijim procesima, tipičnim za poslovno okruženje.

Postoje i višeagentski sustavi , gdje nekoliko specijaliziranih agenata surađuje na istom tijeku rada. Svaki agent preuzima ulogu - istraživanje, analizu, generiranje rezultata, validaciju, implementaciju itd. - i međusobno komuniciraju kako bi riješili zadatke koji bi, izolirano, bili previše složeni ili spori.

Konačno, napredak u jezičnim modelima omogućio je razvoj autonomnih agenata temeljenih na LLM-u , sposobnih za rasuđivanje, planiranje i djelovanje sa znatnom fleksibilnošću. Okviri poput LangChaina, CrewAI-a, Semantic Kernela i OpenAI Agentsa olakšavaju izgradnju ovih sustava, iako se u poslovnoj praksi općenito preferira ograničena autonomija s jasnim pravilima, mogućnošću promatranja i ljudskim nadzorom.

Umjetna inteligencija agenta i RBAC: zašto pristup temeljen na ulogama više nije dovoljan

Tradicionalni model kontrole pristupa temeljene na ulogama (RBAC) bio je dizajniran za relativno statične organizacije: stabilne timove, definirane pozicije i predvidljive potrebe za pristupom. Svaka uloga imala je skup dopuštenja koji odgovaraju tipičnim odgovornostima tog profila unutar organizacijske sheme.

Taj pristup funkcionira prilično dobro kada postoji odnos jedan-na-jedan između identiteta i osobe, ali u agentskom AI okruženju ravnoteža je narušena. Sada imamo više tehničkih identiteta agenata koji preuzimaju promjenjive zadatke, prelaze s jednog tijeka rada na drugi i moraju komunicirati s podacima i sustavima koji ne odgovaraju jednoj, tradicionalnoj radnoj ulozi.

Nadalje, mijenja se i način na koji se sustavi napadaju. Zlouporaba legitimnih računa i problemi s lozinkama u doba umjetne inteligencije među su najčešćim vektorima napada: kibernetički kriminalci iskorištavaju legitimne identitete s prekomjernim dopuštenjima kako bi proširili svoj doseg lateralno preko mreže. U tom kontekstu, dodjeljivanje agentu široke i statične uloge gotovo je poziv na masovni utjecaj u slučaju kršenja sigurnosti.

RBAC ostaje koristan za provođenje načela najmanjih privilegija (PoLP), što znači da svaki identitet treba imati samo dopuštenja potrebna za obavljanje svog posla. Ali kada govorimo o agentima koji mijenjaju kontekst svakih nekoliko sekundi, "posao" više nije stabilna pozicija, već niz dinamičkih zadataka s različitim razinama osjetljivosti i rizika.

Za tvrtke, to ih prisiljava da preispitaju pristup iz detaljnije i dinamičnije perspektive, gdje je uloga samo jedna komponenta odluke. Pitanje više nije samo "koju ulogu ima ovaj agent", već "što namjeravaju sada učiniti, s kojim podacima, iz kojeg okruženja i pod kojim uvjetima rizika djeluju?"

Od statičke uloge do nule i dinamičkog pristupa

Suočen s ovim novim scenarijem, radikalno drugačiji model dobiva na snazi: započinjanje svake sesije s nultim pristupom i dodjeljivanje dozvola ad hoc, u stvarnom vremenu i prema riziku. Nema više "zadanih" privilegija ili pristupa koji se održava godinama jer "bi jednog dana mogao biti koristan".

U ovom pristupu, ni pojedinci ni agenti nemaju trajna dopuštenja. Na početku dana, identiteti počinju s nula aktivnih privilegija . Svaki pristup se traži i odobrava točno kada je potreban za izvršavanje određenog zadatka, a automatski se opoziva kada više nije potreban.

Da bi ovaj model funkcionirao, pristup mora biti pravovremen (JIT) : aktivira se samo kada je zadatak u tijeku i istječe kada je završen, smanjujući time prozor mogućnosti za potencijalne napade. To se obično kombinira s dodatnim uvjetima, kao što su postojanje otvorene prijave ili izričito odobrenje nadzornika za osjetljive operacije.

Odluke o pristupu donose se kontinuirano i na temelju rizika , procjenjujući identitet, status uređaja, nedavno ponašanje, lokaciju, aktivnost agenta, trenutne politike i sigurnosne pokazatelje. To nije statična autorizacija dodijeljena jednom, a zatim zaboravljena, već dinamičan proces koji se može promijeniti u trenutku ako se promijeni razina rizika.

Rezultat je da kada nešto pođe po zlu - pogrešno konfiguriran agent, nekontrolirani tijek rada ili kompromitirane vjerodajnice - potencijalna šteta je puno ograničenija. Postoji manje latentnih privilegija koje se mogu iskoristiti, manje mogućih lateralnih kretanja i, prije svega, puno jasnija sljedivost onoga što je bilo dopušteno u bilo kojem trenutku i pod kojim uvjetima.

Kako ostvariti dinamičan i siguran model pristupa

Implementacija ovakvog pristupa nije jednostavna kao prebacivanje prekidača. Zahtijeva ulaganje u inženjering, automatizaciju i koordinaciju između sigurnosti, proizvoda i razvoja. No, postoji nekoliko ključnih elemenata koji vas mogu voditi u izgradnji mehanizma za pristup spremnog za agentsku umjetnu inteligenciju.

Prvi stup je kontinuirana vidljivost agenata i dozvola . Mnoge organizacije ne znaju ni koliko su agenata njihovi timovi kreirali, što točno rade ili kojim sustavima mogu pristupiti. Bez jasnog popisa identiteta, pristupa i tijekova rada nemoguće je učinkovito upravljati rizikom.

Drugi stup je donošenje odluka u stvarnom vremenu . Tromjesečni pregledi dozvola više nisu dovoljni kada se zahtjevi za pristup mijenjaju svakodnevno i agenti mogu eskalirati zadatke u sekundama. Mehanizam za pristup mora obrađivati ​​signale identiteta, ponašanja i konteksta u hodu, svaki put kada se zatraži dozvola.

Treće, potrebne su dinamičke politike i kontrole temeljene na atributima (ABAC), ne samo kontrole temeljene na ulogama. Na taj način isti agent može dobiti različite razine pristupa ovisno o vrsti zadatka, vrsti podataka, okruženju (produkcija, predprodukcija, testiranje), kritičnosti sustava ili trenutnoj sigurnosnoj situaciji.

Konačno, automatizacija brzinom stroja je ključna. Nema smisla da odbor za ljudsko upravljanje ručno odobrava svaki zahtjev za pristup kada govorimo o tisućama transakcija u minuti u automatiziranim ekosustavima. Tijekovi rada odobravanja moraju biti kodirani, revidirani i, kada je to potrebno, uključivati ​​ljudske kontrolne točke u petlju za donošenje odluka s velikim utjecajem.

Sigurnost, politike i prijetnje u doba agenata umjetne inteligencije

Načelo najmanjih privilegija (PoLP) ostaje temelj kibernetičke sigurnosti, a RBAC se povijesno pokazao kao dobar način za njegovu provedbu. Dodjeljivanjem svakoj ulozi minimalnog skupa potrebnih dozvola smanjuje se i rizik od slučajnog curenja podataka i rizik od zlonamjernih napada, bilo unutarnjih ili vanjskih.

Međutim, s ekspanzijom generativne i agentne umjetne inteligencije, pojavljuju se novi rizici. Korisnici mogu unositi osjetljive informacije u alate umjetne inteligencije bez odgovarajućih kontrola, agenti mogu pristupiti podacima izvan onoga što je potrebno, a napadači već istražuju kako preoteti agente kako bi izvršili kompletne lance napada.

Nedavne studije pokazuju da je zlouporaba valjanih računa jedan od najčešćih vektora napada: ako napadač dobije vjerodajnice korisnika ili visoko privilegiranog agenta, lateralno kretanje kroz mrežu gotovo je neizbježno. Pažljivim ograničavanjem dopuštenja svakog identiteta i minimiziranjem trajanja tih dopuštenja, površina napada drastično se smanjuje.

Unutarnje prijetnje također se ne mogu zanemariti. Incidenti uzrokovani nemarnima ili zlonamjernima zaposlenicima i dalje nose puno veći prosječni trošak od mnogih drugih povreda. Previše slab model pristupa olakšava jednostavan propust, nesavjesno postupanje ili namjerni čin da imaju razoran utjecaj na organizaciju.

Stoga, kombinacija agentske umjetne inteligencije s dinamičkim modelom pristupa, dobro primijenjenim PoLP-om i robusnim kontrolama identiteta, uređaja i ponašanja postaje novi standard za održavanje sigurnosti bez ometanja inovacija.

Poslovni slučajevi upotrebe za agentsku umjetnu inteligenciju

Osim teorije, agentska umjetna inteligencija već transformira vrlo specifične procese unutar tvrtki . Neki od najzanimljivijih primjera uključuju automatizaciju složenih zadataka, analizu podataka, razvoj softvera i istraživanje.

U automatizaciji procesa, agenti mogu upravljati višestepenim internim tijekovima rada : primanjem zahtjeva, prikupljanjem informacija, provjerom pravila, izvršavanjem radnji u korporativnim sustavima i generiranjem izvješća za zatvaranje. To smanjuje operativne troškove, poboljšava vrijeme odziva i oslobađa ljudske timove od rutinskih zadataka.

U području analize podataka, agenti djeluju kao virtualni analitičari , prikupljajući informacije iz više izvora, provodeći istraživačke ili statističke analize i generirajući preporuke. To ubrzava i demokratizira donošenje odluka temeljenih na podacima unutar organizacije.

U razvoju softvera, AI agenti se već koriste za generiranje koda, provjeru repozitorija , pokretanje automatiziranih testnih paketa i gotovo kontinuirano ažuriranje dokumentacije. Ti agenti dijele radno opterećenje s ljudskim programerima i preuzimaju neke od zadataka koji su im prije oduzimali velik dio vremena.

Konačno, u istraživanju i strategiji, agenti mogu biti odgovorni za prikupljanje konkurentskih obavještajnih podataka , sintetiziranje tržišnih trendova ili pripremu izvršnih izvješća. Ovdje oni ne zamjenjuju prosudbu menadžerskog tima, ali uvelike poboljšavaju njegovu sposobnost analize okruženja i identificiranja prilika ili rizika.

Agent AI u ITSM-u: od reaktivnog servisnog stola do autonomnih operacija

Jedno od područja gdje agentska umjetna inteligencija pokazuje najmjerljiviji utjecaj je upravljanje IT uslugama (ITSM) . U tom kontekstu, agenti omogućuju prelazak s reaktivnog modela podrške, temeljenog na tiketima i redovima čekanja, na mnogo proaktivniji i autonomniji sustav, gdje se značajan dio rutinskog posla rješava bez ljudske intervencije.

Organizacije koje su započele s implementacijom agenata u ITSM-u izvještavaju o poboljšanjima produktivnosti od 40-60% , smanjenju vremena rješavanja problema od 50-70%, smanjenju cijene po zahtjevu od 25-40% i stopama samoposluživanja koje mogu premašiti 60-80%. Ovo nisu teorijski pokazatelji, već opažanja iz stvarnih projekata.

Slučajevi upotrebe prvenstveno su grupirani u pet područja: samoposluživanje zaposlenika, potpomognuti servisni stol, analitika i uvidi, autonomna infrastruktura i operacije te upravljanje imovinom. U svakom od ovih područja, agenti preuzimaju dio posla, od odgovaranja na jednostavna pitanja do izvođenja složenih sanacija na kritičnim sustavima.

Međutim, uspjeh ne dolazi besplatno: potrebni su visokokvalitetni podaci, dobro definirani procesi, mogućnosti integracije i organizacija spremna promijeniti svoj način rada. Mnoge tvrtke su još uvijek u ranijim fazama (osnovna automatizacija, kopiloti itd.) i trebaju ojačati te temelje prije nego što se upuste u masovno usvajanje agentskih rješenja.

Model zrelosti prema agentnoj umjetnoj inteligenciji u IT uslugama

Kako biste izbjegli da vas preplavi ambicija, najbolje je shvatiti usvajanje agentske umjetne inteligencije kao fazno putovanje , a ne kao skok u prazninu. Tipičan model zrelosti uključuje četiri razine: temelje, inteligentnu pomoć, selektivnu autonomiju i istinski agentske operacije.

U prvoj fazi cilj je očistiti podatke i standardizirati procese : konsolidirati CMDB, dokumentirati tijekove rada službe za podršku, poboljšati bazu znanja i uspostaviti osnovno upravljanje. U ovoj fazi još uvijek više govorimo o tradicionalnoj automatizaciji nego o autonomnim agentima, ali temelji se postavljaju.

U drugoj fazi uvode se kopiloti i asistenti s umjetnom inteligencijom , što proširuje ljudski rad: inteligentna kategorizacija karata, prijedlozi rješenja, odgovori generirani umjetnom inteligencijom za pregled ljudskih agenata, napredno pretraživanje baze znanja i još mnogo toga. Produktivnost se povećava bez žrtvovanja visoke razine autonomije.

U trećoj fazi, selektivna autonomija je omogućena za vrlo specifične slučajeve upotrebe: resetiranje lozinke, standardne zahtjeve za pristup, sanaciju poznatih incidenata ili proaktivno praćenje s kontroliranim automatiziranim radnjama. Umjetna inteligencija počinje samostalno zatvarati zahtjeve u dobro definiranim scenarijima.

Konačno, u četvrtoj fazi, pojavljuje se agentska umjetna inteligencija poduzeća s višeagentskom orkestracijom, autonomnim tijekovima rada od početka do kraja i gotovo samoobnavljajućom infrastrukturom. Ovdje agenti djeluju kao "digitalni zaposlenici" s jasno definiranim ulogama (agent službe za korisnike, operativni inženjer, voditelj samoposluživanja) i surađuju kako bi održali usluge na optimalnim performansama.

Upravljanje, zaštitne mjere i ljudski nadzor

Što je umjetna inteligencija autonomnija, to je upravljanje kritičnije. Ozbiljna primjena agentne umjetne inteligencije mora uključivati ​​tehničke i organizacijske mjere zaštite koje ograničavaju rizik, osiguravaju sljedivost i uvijek održavaju jasan put za ljudsku intervenciju.

Među tim zaštitnim mjerama su automatski mehanizmi za poništavanje , sposobni vratiti sustav u sigurno stanje ako se otkrije anomalno ponašanje ili kršenje pravila; centralizirani prekidači za naglo zaustavljanje opasnog ponašanja; i kontrolne točke gdje čovjek mora pregledati i odobriti odluke s velikim utjecajem.

Mogućnost revizije je još jedan ključni stup: sve radnje agenata, odluke o pristupu, korištenje alata i tokovi podataka moraju se zabilježiti i pratiti . To omogućuje istragu incidenata, demonstraciju usklađenosti s propisima i poboljšanje modela na temelju iskustva iz stvarnog svijeta.

U reguliranim sektorima - financijama, zdravstvu i javnoj upravi - ovi su zahtjevi još stroži. Mnoge organizacije u tim područjima odlučuju se dulje ostati u modelima "čovjek u petlji" , gdje umjetna inteligencija pomaže i automatizira dijelove procesa, ali konačna odluka (osobito ako utječe na ljude) ostaje na stručnjaku.

Sveukupno, agentska umjetna inteligencija nameće novi pakt između autonomije, sigurnosti i kontrole. Pravilno osmišljavanje ove ravnoteže - zajedno s dinamičnim, na rizik usmjerenim i s pravilima usklađenim modelom pristupa - bit će ono što će razlikovati tvrtke koje koriste umjetnu inteligenciju samo kao poticaj produktivnosti od onih koje je uspiju transformirati u pravi operativni motor bez gubitka kontrole nad svojim sustavima ili podacima.