Izrada AI agenta u Srbiji: kako proceniti izvođača

Ako vam neko na prvom razgovoru pokaže chatbota koji lepo odgovara na pitanja, još ne znate da li ume da napravi sistem koji bezbedno radi sa vašim podacima. Prava provera počinje kada pitate šta se dešava ako odgovor nije u dokumentaciji, korisnik traži tuđe podatke ili agent pokuša da izmeni pogrešan zapis. Izvođača bih birao po tome kako rešava te situacije, ne po kvalitetu demonstracije.
Ja sam Lazar Milićević, AI inženjer i osnivač BizFlowAI. Gradim automatizovane sisteme, ali ne mislim da je autonomni agent podrazumevani odgovor na svaki poslovni problem. Nekad je ograničen chatbot bolji proizvod.
Prvo odlučite da li vam treba chatbot ili agent
Chatbot je dovoljan kada treba da pronađe i objasni informaciju; agent je potreban tek kada sistem mora da vodi zadatak kroz korake i koristi alate za rad sa drugim sistemima. Ta razlika određuje cenu, rizik, način testiranja i profil izvođača koji vam treba.
Na primer, firma u Srbiji može želeti pomoćnika koji zaposlenima odgovara na pitanja iz interne dokumentacije. Ako pomoćnik pronalazi relevantan dokument, prikazuje izvor i kaže da ne zna kada odgovor ne postoji, razgovaramo o ograničenom sistemu za pretragu i odgovaranje. Tu bih pre autonomije proverio kvalitet dokumenata, pristup po korisničkim ulogama i način na koji se izvor prikazuje uz odgovor.
Drugi zahtev zvuči slično, ali je tehnički drugačiji: „Neka pomoćnik proveri status zahteva, dopuni CRM i obavesti korisnika.“ Sada sistem čita poslovne podatke i preduzima radnje. Mora da zna čiji zahtev sme da vidi, koje polje sme da promeni, kada traži potvrdu i kako prijavljuje neuspeh. OpenAI u vodiču za agente upravo razlikuje asistenta koji odgovara od agenta koji upravlja tokom zadatka i bira alate, poput ažuriranja CRM zapisa ili predaje zahteva čoveku.
Na prvom razgovoru zato ne bih pitao „Koji model koristite?“, već: Šta tačno sistem treba da uradi posle korisničke poruke? Ako je odgovor „da pruži informaciju“, tražite ponudu za to. Nemojte plaćati složenost agenta samo zato što naziv zvuči naprednije.
Ako je odgovor „da izvrši radnju“, razdvojite radnje po posledici. Čitanje statusa zahteva, priprema nacrta odgovora i slanje poruke nisu isto ovlašćenje. Dobar izvođač će to razdvojiti pre nego što napiše prompt.
Ponudu procenjujte po isporuci, ne po demonstraciji
Upotrebljiva ponuda opisuje granice sistema, izvore podataka, dozvoljene radnje, testiranje i održavanje. Ako dokument kaže samo „AI chatbot integrisan sa vašim podacima“, ne znate ni šta kupujete ni šta će se smatrati završenim poslom.
Saradnju bih podelio na sledeće faze. Za svaku bih tražio vidljiv rezultat koji mogu da pregledaju i poslovni vlasnik procesa i tehnički tim.
| Faza | Šta vi obezbeđujete | Šta izvođač isporučuje |
|---|---|---|
| Definisanje zadatka i granica | Primere stvarnih zahteva, vlasnika procesa, opis onoga što sistem ne sme da radi | Opis slučajeva upotrebe, dozvoljenih radnji, izuzetaka i uslova za predaju čoveku |
| Pregled podataka i integracija | Pristup relevantnim dokumentima i opis postojećih sistema, uz odgovarajuća odobrenja | Mapu izvora, procenu kvaliteta podataka, plan pristupa i spisak potrebnih integracija |
| Prototip | Ljude koji poznaju proces i mogu da kažu da li je odgovor zaista koristan | Prototip na ograničenom skupu podataka, sa jasno navedenim ograničenjima |
| Testiranje | Stvarne upite, problematične slučajeve i osobe koje mogu da potvrde ishod | Zabeležene rezultate testova, poznate greške i kriterijume za puštanje u rad |
| Puštanje u rad | Odgovornu osobu za odobrenje, pravila pristupa i put za eskalaciju | Podešen sistem, uputstvo za rad, evidenciju događaja i postupak za zaustavljanje problematičnih radnji |
| Nadzor i izmene | Povratne informacije zaposlenih i vlasnika procesa | Dogovor o praćenju neuspeha, ispravkama, promenama podataka i odgovornosti posle isporuke |
Ova tabela nije zamena za specifikaciju. Ona je način da prepoznate praznine. Ako, recimo, dokumentacija ima različite verzije iste procedure, prototip može izgledati uverljivo dok odgovara na laka pitanja. Tek test sa suprotstavljenim izvorima pokazuje da li sistem zna koji dokument ima prednost ili treba da prepusti odluku čoveku.
Insistirao bih i na test primerima koji nisu samo „srećan put“: pitanje bez odgovora u bazi, zahtev za podatke drugog korisnika, zastareo dokument, nedostupna integracija i ponovljen zahtev za istu radnju. Izvođač ne mora unapred da obeća da se greške nikad neće desiti. Treba da pokaže kako će ih otkriti, ograničiti i ispraviti.
Bezbednost se proverava na mestu gde se radnja izvršava
Nije dovoljno napisati u promptu da agent ne sme da otkriva podatke ili menja zapise bez dozvole. Pravilo pristupa mora da važi kada sistem čita podatke ili poziva alat, bez obzira na to šta je korisnik napisao i šta model „misli“ da treba da uradi.
Za chatbot nad internim dokumentima pitajte kako se filtriraju rezultati pretrage. Ako zaposleni nema pravo da otvori dokument, ne treba ni da dobije njegov sadržaj kroz odgovor modela. Za agenta koji radi sa CRM-om pitajte šta se proverava neposredno pre izmene zapisa: identitet korisnika, njegovo ovlašćenje, identitet ciljnog zapisa i dozvoljena vrsta izmene.
Razlog je praktičan. Tekst koji agent pročita nije nužno pouzdano uputstvo. U dokumentu ili korisničkoj poruci može se naći zahtev da ignoriše pravila i pošalje privatne podatke kroz alat. OpenAI upozorava na prompt injection upravo kao put do neželjenih radnji ili iznošenja podataka. Njihova dokumentacija o guardrails i ljudskoj proveri takođe pravi važnu razliku: provera ulaza i izlaza agenta ne mora obuhvatiti svaki poziv alata. Radnju sa posledicama treba proveriti na granici tog alata.
U praksi bih za osetljivu radnju tražio tok u kome agent pripremi predlog, ali se izvršenje zaustavlja dok ga ovlašćena osoba ne odobri ili odbije. I kada je radnja automatski dozvoljena, trebalo bi da ostane zapis o tome ko ju je pokrenuo, koji je zapis pogođen i kakav je bio ishod. „Model je zaključio da je u redu“ nije kontrola pristupa.
Za firme koje obrađuju podatke o ličnosti postoji i ugovorni deo koji ne bih ostavljao za kraj projekta. Poverenik objašnjava razliku između rukovaoca, koji određuje svrhu i način obrade, i obrađivača, koji obrađuje podatke u njegovo ime i po njegovom nalogu. Uloga izvođača zavisi od konkretnog odnosa; ne treba je pretpostaviti. Kada izvođač nastupa kao obrađivač, praksa Poverenika za član 45 Zakona o zaštiti podataka o ličnosti ukazuje na potrebu da obrada bude uređena pisanim ugovorom ili drugim pravno obavezujućim aktom, uključujući postupanje sa podacima po završetku saradnje. Za konkretan ugovor proverite obaveze sa pravnikom i nadležnim izvorom.
Cena i rok zavise od onoga što demonstracija ne pokazuje
Ponude za „AI chatbota“ nisu uporedive dok ne uporedite podatke, integracije, ovlašćenja i način testiranja. Isti izgled prozora za razgovor može stajati ispred jednostavne pretrage dokumenata ili ispred sistema koji čita privatne zapise i menja ih.
Na procenu najviše utiču pitanja koja bih postavio pre izrade ponude:
- Kakvi su podaci? Uređena i važeća dokumentacija skraćuje posao. Rasuti fajlovi, zastarele procedure i različita pravila u različitim timovima prvo traže uređivanje izvora.
- Koliko sistema treba povezati? Čitanje iz jednog izvora nije isto što i usklađivanje korisnika i dozvola kroz više aplikacija. Svaka integracija ima sopstvene greške, ograničenja i način oporavka.
- Šta agent sme da uradi? Odgovor sa izvorom, nacrt za ljudsku proveru i samostalna izmena zapisa zahtevaju različite kontrole.
- Koji su bezbednosni zahtevi? Pristup po ulozi, zapisivanje radnji, obrada podataka i odobravanje osetljivih operacija nisu detalji koje treba dodati posle lansiranja.
- Kako dokazujete da radi? Ručni pregled nekoliko lepih razgovora nije zamena za testove na stvarnim upitima, izuzecima i neuspešnim radnjama.
Ne bih prihvatio jedinstvenu cenu ili obećani rok samo na osnovu rečenice „treba nam agent za podršku“. Prvo bih dogovorio ograničen zadatak i kriterijum uspeha, pa tek onda procenjivao obim. Ako izvođač odmah daje preciznu ponudu bez uvida u izvore podataka i poslovni proces, tražio bih da jasno napiše svoje pretpostavke i šta nije uključeno.
Vlasništvo je deo te procene. Pitajte ko kontroliše naloge, podatke, konfiguraciju, dokumentaciju i pristup integracijama ako promenite izvođača. Sistem koji radi samo dok originalni autor ručno interveniše nije završen proizvod, čak i ako danas odgovara tačno.
Posle puštanja u rad merite i ono što nije uspelo
Broj razgovora i broj uspešnih odgovora ne govore da li su poslovne radnje zaista završene. Nadzor mora da obuhvati pokušane, odbijene i neuspešne radnje, kao i tokove u kojima korisnik nije stigao do očekivanog ishoda.
Kvar se može sakriti iza metrika koje izgledaju normalno: saobraćaj postoji, stranice se otvaraju, ali korisnik ne može da završi ključnu radnju. Zato pri proveri sistema ne bih stao na metrikama korišćenja. Pogledao bih i ishod u sistemu u kome se radnja izvršava, kao i prijave korisnika i zapise o greškama.
Zato bih uz metrike razgovora ugovorio i proveru ishoda: da li je registracija završena, da li je poruka zaista poslata, da li je CRM zapis ažuriran ili je pokušaj odbijen. Analitički događaji mogu pomoći, ali ni oni nisu sami po sebi dokaz. PostHog podržava prilagođene događaje sa svojstvima, dok njegova dokumentacija za otklanjanje problema upozorava da događaji mogu izostati zbog konfiguracije ili filtriranja. Odsustvo zabeležene greške nije potvrda uspeha. Za kritične radnje bih uporedio analitički događaj sa stanjem u sistemu u kome se radnja stvarno izvršava.
Moje iskustvo sa autonomnim sadržajnim sistemom u BizFlowAI ContentStudio jeste relevantno za zakazane poslove, podatke, objavljivanje i praćenje rezultata na više sajtova. Nije dokaz da svaki tip chatbota ima iste zahteve. Na primer, Google Search Console URL Inspection API daje podatke o verziji URL-a u Google indeksu; ne potvrđuje da trenutno dostupna stranica radi, niti da će se prikazivati u pretrazi. Kada merim sistem, prvo razjasnim šta signal zaista dokazuje, a šta ne dokazuje. Isti princip važi za AI agenta: zapis „alat je pozvan“ nije isto što i potvrda da je poslovna radnja uspela.
U ponudi bih zato tražio odgovor na jednostavno pitanje: Ko prvi saznaje da je sistem prestao da završava posao? Ako je odgovor „korisnik će nam javiti“, nadzor nije definisan.
Šta bih ja uradio
Počeo bih od jednog ograničenog procesa i pre ugovaranja tražio dokaz da izvođač razume njegove neuspehe. Dobar prvi korak nije široka lista mogućnosti, već stvaran primer zahteva, izvor podataka, dozvoljena radnja i jasan uslov pod kojim sistem staje i predaje posao čoveku.
Na prvom razgovoru bih izvođaču postavio ova pitanja:
- Kojim podacima će sistem pristupati i kako se proverava pravo pristupa za konkretnog korisnika?
- Koje odgovore ili radnje čovek mora da proveri pre izvršenja?
- Šta se beleži kada alat vrati grešku ili radnja ne proizvede očekivani rezultat?
- Ko poseduje naloge, podatke, konfiguraciju i dokumentaciju po završetku saradnje?
- Ko prati sistem nakon puštanja u rad i kako se odobravaju izmene?
Tražio bih konkretne odgovore vezane za svoj proces, ne opšta uveravanja o bezbednosti. Ako je zadatak samo odgovaranje iz dokumentacije, izabrao bih jednostavnije rešenje. Agenta bih uveo tek kada postoji jasan razlog da sistem preduzima radnje i jasan način da se te radnje kontrolišu.
Ako razgovarate sa mnom o projektu, na prvom sastanku možemo da razdvojimo željeni ishod od pretpostavke da vam je potreban agent. Za konkretan proces pišite mi na lamingsrb@gmail.com.
Često postavljana pitanja
Kako da znam da li mi treba chatbot ili AI agent?
Ako sistem treba da pronađe informaciju u dokumentaciji i objasni je uz izvor, preporučio bih ograničen chatbot. AI agent je potreban kada sistem vodi zadatak kroz više koraka i koristi alate, na primer za proveru statusa zahteva ili izmenu CRM zapisa. Pre izbora bih definisao šta sistem treba da uradi posle korisničke poruke, jer radnje donose dodatna ovlašćenja i rizike.
Kako da procenim izvođača za izradu AI agenta?
Ne bih birao izvođača samo na osnovu demonstracije chatbota. Tražio bih ponudu koja navodi granice sistema, izvore podataka, dozvoljene radnje, način testiranja i održavanje. Posebno bih pitao kako sistem postupa kada nema odgovor, korisnik traži tuđe podatke ili radnja nad drugim sistemom ne uspe.
Šta treba da sadrži ponuda za izradu AI agenta?
Tražio bih opis slučajeva upotrebe, izuzetaka i uslova pod kojima se zadatak predaje čoveku. Ponuda treba da obuhvati plan pristupa podacima i integracijama, prototip sa ograničenjima i zabeležene rezultate testova. Pre puštanja u rad očekivao bih i uputstvo, evidenciju događaja, način zaustavljanja problematičnih radnji i dogovor o odgovornosti posle isporuke.
Kako se proverava bezbednost AI agenta koji radi sa internim podacima?
Ne bih se oslanjao samo na pravilo napisano u promptu. Kod pretrage dokumenata proverio bih da li se rezultati filtriraju prema pravima korisnika pre nego što stignu do modela. Kod izmene CRM zapisa tražio bih proveru identiteta i ovlašćenja korisnika, ciljnog zapisa i dozvoljene vrste izmene neposredno pre izvršavanja radnje.
Koje slučajeve treba testirati pre puštanja AI agenta u rad?
Pored uobičajenih zahteva, testirao bih pitanje na koje nema odgovora u bazi, zahtev za podacima drugog korisnika i zastareo dokument. Proverio bih i ponašanje kada integracija nije dostupna ili korisnik ponovi zahtev za istu radnju. Od izvođača bih tražio zabeležene rezultate, poznate greške i kriterijume za puštanje sistema u rad.
Gradiš nešto teško sa AI-jem ili automatizacijom? Otvoren sam za razgovor.
Javi se