Na Institutu “Jožef Stefan” je 9. oktobra 2026 v okviru Slovenske konference o umetni inteligenci potekala okrogla miza z naslovom Meje razumevanja: kako umetna inteligenca rešuje probleme? Na okrogli mizi so sodelovali dr. Marko Robnik-Šikonja, dr. Olga Markič, Filip Dobranić in dr. Ivan Bratko. Moderirala jo je Zoja Anžur. Osrednje vprašanje okrogle mize je bilo, ali je razumevanje za uspešno in varno delovanje umetne inteligence sploh potrebno ter kakšno vlogo imajo pri njem jezik, multimodalnost in izkušnja sveta.

Zoja Anžur je pogovor odprla s predstavitvijo Searlovega miselnega eksperimenta kitajske sobe. V zaprti sobi sedi človek, ki ne govori kitajsko. Zunaj sobe mu ljudje pošiljajo vprašanja, napisana v kitajščini. V sobi ima na voljo navodila, kako naj sprejete simbole obdeluje in katere naj pošlje nazaj. Če navodilom sledi, daje prepričljive odgovore in ljudje zunaj sobe menijo, da zna kitajsko. Nauk zgodbe je, da sposobnost pravilnega obdelovanja informacij ne pomeni tudi njihovega razumevanja.

Kaj je razumevanje?

V prvem delu okrogle mize se je razprava vrtela okrog vprašanja, kaj sploh pomeni razumevanje nečesa. Filip Dobranić, raziskovalec na Inštitutu za novejšo zgodovino, je izpostavil, da je v razpravah, ki vključujejo stroje in inteligenco, potrebna previdnost: “O razumevanju lahko govorimo samo v navezavi na subjekt, stroji pa to niso.” Marko Robnik-Šikonja je poudaril, da miselni eksperiment kitajske sobe kaže na podobnosti med umetno inteligenco in človekom: “Ko ljudje rešujejo nek problem, se v možganih izvaja nek nevronski algoritem. Podobno je tudi pri umetni inteligenci.” Olga Markič je v razpravi poudarila, da razumevanje ni enoznačno: “Imamo različne plasti razumevanja in velikokrat smo, tudi v znanosti, v paradoksih in iluzijah, ko smo prepričani, da nekaj razumemo, v resnici pa temu ni tako.”

Ivan Bratko je v povezavi z razumevanjem izpostavil, da umetni inteligenci ne bi pripisal zmožnosti razumevanja, bi pa pripisal zmožnost manifestiranja razumevanja. Marko Robnik-Šikonja je ob tem dejal, da gre pri razpravi o razumevanju za problem rabe jezika: “Za stroje uporabljamo kup človeških besed, kot so razumevanje, učenje in dokazovanje. Vendar to pri strojih in ljudeh ni enako.” Slednje je ponazoril z razlago koncepta nazobčane inteligence: “Nekatere probleme umetnointeligenčni sistemi rešujejo zelo dobro, kot je na primer matematika, še vedno pa ne razumejo prenesenih pomenov ali pa ne morejo pripraviti dobrega prevoda v slovenščino. Ponekod presegajo človeške sposobnosti, ponekod pa ne. Če je stroj na enem področju dober, še ne pomeni, da je tudi na nekem drugem.” Filip Dobranić je dejal, da je rezultate, ki jih generirajo veliki jezikovni modeli, treba razumeti kot tisočletja človeške kulturne produkcije, znanosti, diskov in dokumentov.

Namesto razumevanja zaupanje

Olga Markič je v drugem delu poudarila, da je pomembnejše od razumevanja zaupanje. Ali zaupamo sistemom umetne inteligence, da odločajo o življenjskih stvareh? Ker nimamo vpogleda v sisteme in mehanizme v ozadju delovanja modelov, moramo biti do njih skeptični, še posebej ko posegajo na področje človeka in družbe, kjer je polno pristranskosti. Ivan Bratko je dejal, da bi zaupanje lahko dosegli skozi razlago.

Do nestrinjanja med gosti je prišlo pri vprašanju pristranskosti umetne inteligence. Ivan Bratko je namreč dejal, da je manifestacija pristranskosti modelov umetne inteligence pretirana. Sogovorci so mu odgovorili, da je pristranskost precej resna, kaže se v spolu, poklicu, rasi in tudi razredu.

Lasten jezik

Iz publike se je pojavilo vprašanje: kako razlagate pojav, da so avtonomni sistemi UI razvili lastne oblike jezika in bližnjice, ki so ljudem težko razumljive? Filip Dobranić je na to odgovoril, da se jezik vedno lahko rodi samo na nečem skupnem. Kako se sporazumeta dve ljudstvi, ki govorita povsem tuje jezike? Ustvariti morata nov skupni jezik, kar je ključno tudi za umetno inteligenco: v skupnosti smo pametni, sami smo omejeni.

Za konec

Ob koncu se je razprava preusmerila še na komercialne velike jezikovne modele. Sodelujoči so se strinjali glede potrebe po regulaciji umetne inteligence, vendar je Marko Robnik-Šikonja ob tem izpostavil: “S tem, ko komercialna podjetja prosijo vlado, naj jih regulira, želijo odgovornost preložiti na druge. Slediti moramo denarju, ta podjetja želijo na borzo in se želijo predstaviti kot zelo pomembna, obenem pa svojih lastnih temeljnih tehnologij ne nadzorujejo, kar je zelo slabo, če se želiš prodati za 2000 milijard dolarjev.”