Izzivi umetne inteligence skozi prehod v agentne sisteme

Dr. Marko Robnik-Šikonja je 5. novembra 2026 na Centru za informacijsko tehnologijo, pravo in etiko Pravne fakultete Univerze v Ljubljani izvedel predavanje z naslovom Izzivi umetne inteligence skozi prehod v agentne sisteme.

Nedavni razvoj agentnih sistemov spreminja umetno inteligenco. Ko se danes pogovarjamo z orodji, kot je na primer ChatGPT, se ne pogovarjamo z velikim jezikovnim modelom, ampak z agentom. Agentni sistemi so zgrajeni iz več velikih jezikovnih modelov, ki glede na poziv pripravijo načrt in ga izvedejo. Zmožni so generirati kodo, sklepati, popravljati lastne napake in preverjati rezultate. Razlika med velikimi jezikovnimi modeli in agenti je, da pri velikih jezikovnih modelih odločitev o nadaljnjih korakih ostane pri človeku: model ustvari besedilo, človek ga prebere in se odloči. Agenti pa načrtujejo korake proti cilju in pri tem uporabljajo različna orodja, kot so splet, datoteke in programska koda. Od umetne inteligence kot svetovalke smo prešli k umetni inteligenci kot pooblaščenki.

Primer agentnega sistema umetne inteligence je agent za jezikoslovje, ki nastaja v okviru projekta Veliki jezikovni modeli za digitalno humanistiko. Agent bo zmožen odgovarjati na jezikoslovna vprašanja o različnih jezikih.

Predavanje se je dotaknilo tudi razvoja modela GaMS in etičnih dilem pri razvoju umetne inteligence: pristranosti, zasebnosti in varnosti podatkov, odgovornosti razvijalcev in lastnikov modelov, transparentnosti in razložljivosti modelov ter zanesljivosti.