Slovenščina s svojo dvomilijonsko jezikovno skupnostjo je dober primer jezika z manj viri, kar je pokazala tudi primerjava, ki jo je pripravil projekt European Language Equality (Rehm & Way, 2023). Raziskovalni izziv te naloge je omogočiti izdelavo kakovostnih semantičnih opisov za jezike z (veliko) manj viri in omogočiti obsežne jezikovne primerjave, ki bodo omogočile nov vpogled v slovnico svetovnih jezikov.
V zadnjih tridesetih letih so leksikografi, ki se ukvarjajo z leksikalnimi opisi, poskušali uporabiti različne avtomatizirane postopke za analizo jezikovnih podatkov in izdelavo leksikografskih opisov (Atkins in Rundell 2008, Gantar et al. 2016). Zaradi najnovejšega razvoja na področju generativne umetne inteligence je prišlo do poskusov uporabe novih orodij v leksikografske namene (Lew 2023; Rees idr. 2023; Jakubíček in Rundell 2023). Vendar se je po prvih poskusih izkazalo, da obstaja precejšen razmak med kakovostjo leksikografskih vsebin, ki jih modeli generirajo v angleščini, in tistimi, ki jih generirajo v drugih jezikih, zlasti v jezikih z manj viri ali tisti, ki so v modelih manj zastopani (de Schryver, 2024).
Digitalna slovarska zbirka za slovenščino (DSB) bo na različnih ravneh jezikovnega opisa izboljšana z uporabo modelov, izdelanih v aktivnosti 1.1. Generirali bomo morfološke in semantične podatke, pri čemer se bomo osredotočili na: 1) oblikovanje morfoloških paradigem, 2) besednovrstno razločevanje, 3) oblikovanje različnih vrst definicij (pomenski kazalniki, poenostavljene, terminološke itd.), 4) izboljšanje kolokacij in primerov rabe; 5) pripisovanje oznak (slogovne, normativne, področne, žanrske itd.) 6) opis idiomatskega, figurativnega in metaforičnega jezika itd. Rezultat bo bistveno izboljšana DSB, ki jo bomo posledično uporabili za izboljšanje modelov v aktivnosti 1.1. Vse različice DSB bodo na voljo kot javno dostopne podatkovne zbirke in prek API-ja z odprtim dostopom.
Kazalniki 2.1: Digitalna slovarska baza z generiranimi leksikografskimi podatki – prva različica (M24), digitalna slovarska baza z generiranimi eksikografskimi podatki – končna različica (M36)
Zlasti pri jezikih z manj viri se razvoj nevronskih popravkov slovnice pogosto opira na sintetične podatke, kot so generirani primeri napačne rabe jezika. Čeprav je ta pristop uporaben za reševanje problema pomanjkanja podatkov, mu manjkata avtentičnost in raznovrtnost kontekstov, kar vodi do neoptimalne učinkovitosti v praktičnih uporabah. To vprašanje je še posebno problematično v izobraževalnih okoljih, kjer so natančni in kontekstualno ustrezni popravki bistveni za učinkovito učenje in zaupanje uporabnikov. Za reševanje tega izziva predlagamo metodologije, ki združujejo prednosti sintetičnih in avtentičnih jezikovnih podatkov za obdelavo slovnice.
Za napredno sintezo zgledov jezikovnih napak, ki temelji na velikih jezikovnih modelih, bomo uporabili podatke iz korpusov Lektor, KOST in Šolar, ki popisujejo napake (slednji podrobno opisuje 180 različnih vrst napak). Za vsako vrsto napake bomo preizkusili različne parametre, kot so različne vrste vhodnih podatkov in formulacije pozivov, ter eksperimentirali z različnimi metodami vstavljanja napak. Iterativno bomo pripravljali sintetične podatke in nenehno izpopolnjevali svoj pristop z jezikovnimi evalvacijami in natančnim prilagajanjem slovenskih slovničnih detektorjev, da bi določili konfiguracije z najbolj realističnimi rezultati. Nato bomo ustvarili visokokakovostne referenčne podatkovne zbirke za vrednotenje z različnimi vrstami slovenskih besedil. Poleg šolskih esejev bomo zajeli tudi druge besedilne zvrsti in tako pripravili avtentične odprtokodne podatkovne nize z besedili odraslih piscev stopnje L1 in L2.
Kazalniki 2.2: Podatkovne množice sintetičnih jezikovnih napak (M12). Veliki jezikovni modeli za preverjanje slovnice (M18). Evalvacijske množice za preverjanje avtentične slovnice (M24).
V zadnjih desetletjih je zaradi pojava obsežnih korpusov in naprednih računalniških orodij jezikoslovje doživelo revolucionarni prehod od raziskav, ki temeljijo na intuiciji, k pristopom, ki temeljijo na podatkih. Ta premik je pripeljal do pomembnih novih odkritij o zgradbi in rabi jezika, zlasti na področju deskriptivne in primerjalne slovnične analize. Vendar tradicionalne korpusne metode še vedno zahtevajo veliko dela in se implicitno zanašajo na že obstoječe jezikoslovne predpostavke, ki usmerjajo pridobivanje ustreznih vzorcev iz korpusov in njihovo nadaljnjo analizo. Pojav velikih jezikovnih modelov s sofisticiranimi zmožnostmi utemeljevanja ponuja prelomno priložnost za izboljšanje in razširitev teh metod z racionalizacijo in pospešitvijo korpusne jezikovne analize ter morebitnim odkrivanjem prej neznanih vzorcev jezikovne rabe. Nov pristop k slovnični analizi večjezičnih korpusov bomo razvili z doučitvijo najsodobnejših jezikovnih modelov na podatkovni množici Universal Dependencies (UD), ki zagotavlja obsežne in zanesljive morfosintaktične anotacije za številne svetovne jezike. Sistematično bomo ocenili možnosti takšnih jezikovnih modelov, izboljšanih z eksplicitnim slovničnim znanjem z namenom pridobivanja novega vpogleda v slovnico svetovnih jezikov in olajšanja jezikovne analize jezikovnih korpusov na splošno.
Razvili in evalvirali bomo novo metodo za slovnično analizo večjezičnih korpusov na podlagi velikih jezikovnih modelov. Najprej bomo množične večjezičnih velike jezikovne modele, kot sta LLaMa-3 ali T5-XXL, učili na množični večjezični podatkovni množici UD. Nato bomo sestavili večplastno podatkovno množico z izbranimi najsodobnejšimi jezikoslovnimi ugotovitvami za tri tipične korpusnojezikovne naloge: anotacijo podatkov, ekstrakcijo vzorcev in povzemanje podatkov. Na koncu bomo kvantitativno in kvalitativno ocenili zmožnosti in omejitve novega večjezičnega jezikoslovnega jezikovnega modela za te naloge, pri čemer bomo upoštevali tudi različne strategije ustvarjanja iztočnic. Novi model bo omogočil nov jezikoslovni vpogled v svetovne jezike, zajete v podatkovni množici UD, in podprl slovnično analizo jezikovnih korpusov na splošno.
Kazalniki 2.3: Veliki jezikovni modeli z izboljšanim slovničnim znanjem (M12). Podatkovna množica za evalvacijo slovničnega znanja velikih jezikovnih modelov (M18). Večjezične in medjezične slovnične analize (M36).
Vsebinska vprašanja:
marko.robniksikonja@fri.uni-lj.si
Trajanje projekta:
September 2024- september 2027
Fakulteta za računalništvo in informatiko
Večna pot 113, SI-1000 Ljubljana, Slovenija
Soba: R2.06 (2. nadstropje)
