AI u hrvatskoj javnoj upravi: “ZdrAVKO” u zdravstvu i robot “Tonka” kao Vladina demonstracija — što je stvarno važno?

Hrvatska je ovih dana dobila dvije slike koje savršeno sažimaju naš odnos prema umjetnoj inteligenciji u javnom sektoru.

• U zdravstvu je predstavljen “ZdrAVKO” – AI digitalni zdravstveni asistent koji građanima odgovara na pitanja.
• Na Vladinom događaju pojavio se humanoidni robot “Tonka” – dovoljno fotogeničan da zasjeni temu, ali i dovoljno simboličan da otvori ozbiljna pitanja.

Problem nije u tome da se tehnologija koristi. Problem je kada se koristi bez jasnih pravila odgovornosti, bez transparentnosti i bez zaštite građana. Ako AI ulazi u javnu upravu, onda mora biti (1) koristan, (2) provjerljiv i (3) pod demokratskom kontrolom. Sve ostalo je PR.

---

1) “ZdrAVKO” – što je i što nije

Prema službenim informacijama, ZdrAVKO je digitalni zdravstveni asistent koji uz pomoć umjetne inteligencije razumije pitanje i vraća odgovor iz baze provjerenih informacija. Plan je da se baza nadograđuje prema najčešćim pitanjima građana, a korištenje se širi i putem kampanje s QR kodovima u ljekarnama i domovima zdravlja.

Važno: to je informacijski alat, ne liječnik, ne dijagnostičar i ne zamjena za medicinsku procjenu. Ako se tako i komunicira – korisno. Ako se potajno gura u zonu “trijaže” ili “odlučivanja” – tada smo ušli u sasvim drugi režim odgovornosti.

Što je dobro u ideji

• 24/7 pristup osnovnim informacijama (prevencija, preventivni pregledi, nacionalni programi ranog otkrivanja itd.).
• Standardizacija odgovora: manje lutanja po forumima i manje “doktor Google”.
• Brža administrativna pomoć – tamo gdje se ljudi najčešće gube u sustavu.

Što je rizično (i mora se reći jasno)

• Privatnost i podaci: gdje se razgovori pohranjuju, tko im pristupa, koliko dugo, i u kojoj državi (jurisdikciji) se obrađuju?
• Odgovornost: tko odgovara ako asistent pogriješi, zbuni korisnika ili ga odvede u krivom smjeru?
• “Model” i pravila: je li ovo pretraga po bazi (kontrolirano) ili generativni model (veći rizik halucinacija)?
• Marketing maskiran kao usluga: AI može biti koristan, ali i opasan alat za usmjeravanje ponašanja (npr. “nudging”).

Drugim riječima: ako građani ulaze u kontakt s AI-jem kroz javni sustav, onda moraju znati pravila igre. Ne “općenito”, nego konkretno: tko je vlasnik, tko je izvođač, koji su standardi, tko revidira i tko sankcionira.

---

2) Robot “Tonka” i politika demonstracija: kad simbol postane važniji od sadržaja

U isto vrijeme, na Vladinom okruglom stolu o umjetnoj inteligenciji i tržištu rada pojavila se humanoidna robotica Tonka. Mediji su prenijeli njezine poruke u stilu: “tehnologija treba služiti ljudima”, “roboti su podrška, ne zamjena”, uz naglasak na potrebi nadzora algoritama.

Iskreno? Nije problem što je robot tamo. Problem je što se javnost lako “uhvati” na spektakl, a preskoči ono bitno: tko već danas donosi odluke o radnicima kroz algoritme, kakav je nadzor, i gdje su mehanizmi žalbe.

A kad se robot pojavi kao maskota, vlast dobije jeftin trik: “pogledajte budućnost”, dok se građani i dalje muče s osnovnim stvarima (redovi, administracija, sporost, manjak ljudi). Tonka nije kriva, ali PR je – i tu treba biti brutalno realan.

---

3) Šira slika: AI ulazi u državu, a država mora ući u odgovornost

Hrvatska se istovremeno institucionalno pozicionira i šire: na sjednici Vlade razmatrano je pristupanje Globalnom partnerstvu za umjetnu inteligenciju (GPAI), inicijativi usmjerenoj na “odgovoran razvoj i uporabu” AI-ja. To zvuči dobro na papiru. Ali papir ne upravlja sustavom – ljudi upravljaju sustavom.

U jednoj od naših emisija (tema “Agentic State”) otvorili smo pitanje onoga što se događa kad AI prestane biti pomoćni alat i postane interventni mehanizam upravljanja. To je ključna razlika koju se namjerno zamagljuje: nije isto kad AI pomaže građaninu pronaći informaciju – i kad AI odlučuje što će država učiniti prema građaninu.

U “Agentic State” logici naglasak je upravo na scenarijima izvanrednih situacija – krizama koje “traže brzinu”, gdje se tvrdi da je klasični postupak prespor: procjene, konzultacije, politička rasprava, parlamentarna kontrola, pa tek onda odluka. U takvom okviru, AI agenti se predstavljaju kao rješenje: oni “vide podatke”, “predviđaju trendove”, “optimiziraju resurse” i – najproblematičnije – interveniraju odmah.

To zvuči kao efikasnost. U praksi, to je prečac oko demokracije. Jer “brzina” u krizama nije neutralan tehnički zahtjev – ona je politički argument kojim se opravdava preskakanje procedura. A procedura je u demokraciji upravo ono što štiti građane od samovolje: zapisnici, odgovornost, javna rasprava, pravo na prigovor, parlamentarni nadzor, sudska kontrola.

Kad jednom prihvatiš da u “hitnim situacijama” AI agent može odlučiti umjesto ljudi, sljedeći korak je da se “hitno stanje” počne širiti kao mrlja na papiru. Danas je to pandemija. Sutra je kibernetički napad. Prekosutra “dezinformacijska prijetnja”. Nakon toga “klimatska izvanrednost”. Uvijek postoji razlog za ubrzanje. A kad se sustav navikne na ubrzanje, demokratski nadzor postaje smetnja.

Tu dolazimo do srži: gdje je demokratski nadzor procesa kad odluke nastaju kroz mrežu algoritama, procjena rizika, automatskih preporuka i “agentnih” akcija? Tko kontrolira model? Tko definira ciljeve optimizacije? Tko postavlja granice? Tko potpisuje? I najvažnije: tko je kriv kad sustav pogriješi?

Ako su odgovori magloviti, onda se događa ono što se već vidi u mnogim državama: predstavnička demokracija (izbori → mandat →zZ → odgovornost) tiho se pretvara u tehnokraciju bez ljudskog lica. Građanin formalno “glasa”, ali stvarne odluke nastaju u tehničkim i administrativnim slojevima koje nitko ne bira, a malo tko razumije. To nije futurizam. To je model upravljanja koji se gradi sada – sitnim koracima, kroz “pilot projekte”, “chatbotove” i “krizne protokole”.

Zato je presudno inzistirati na crti koja se ne smije prijeći: AI može pomagati, ali ne smije postati suveren. “Agentic” intervencije u krizama nisu samo tehničko pitanje – to je pitanje ustavnog poretka. Ako država uvodi AI u procese, mora postojati jasna, javno dostupna arhitektura odgovornosti: tko odlučuje, po kojim pravilima, pod kojim nadzorom i s kojim pravom žalbe.

Tri pitanja koja bi trebala stajati na svakoj naslovnici (a ne robot)

• Transparentnost: koje se AI sustave uvodi, u kojim institucijama, u koje svrhe i po kojoj cijeni?
• Audit i odgovornost: tko radi neovisnu provjeru (bias, sigurnost, halucinacije, cyber rizik), i tko potpisuje odluke?
• Prava građana: postoji li pravo na “ljudsku odluku” i jasna procedura žalbe?

Bez toga, “AI u javnoj upravi” nije modernizacija – nego automatizacija bez kontrole.

---

Zaključak: “ZdrAVKO” može biti koristan. “Tonka” može biti simpatična. Ali država mora biti ozbiljna.

Ne treba nam ni tehnofobija ni tehnoreligija. Treba nam stara, dosadna riječ: odgovornost.

Ako “ZdrAVKO” ostane u domeni provjerenih informacija – super. Ako postane kanal za prikupljanje podataka i usmjeravanje ponašanja bez nadzora – katastrofa. Ako “Tonka” ostane simpatična demonstracija – okej. Ako postane smokvin list za izostanak ozbiljne digitalne reforme – problem.

U državi koja se voli hvaliti “digitalizacijom”, prava modernizacija ne počinje robotom. Počinje dokumentom: tko, što, kako, gdje, koliko, i tko odgovara.

---

Cijela emisija o Agentic AI je ovdje .