Naslov diplomskega dela: Izboljšanje velikih jezikovnih modelov za strojno prevajanje z uporabo sintetičnih podatkov o preferencah

Povzetek:

Veliki jezikovni modeli so se izkazali kot učinkoviti strojni prevajalniki. V delu raziskujemo, kako lahko splošno namenski veliki jezikovni model prilagojen za sledenje navodilom izboljšamo za strojno prevajanje z uporabo relativno majhne količine enostavno pridobljenih podatkovnih virov. Na primeru slovenščine izboljšamo model GaMS-9B-Instruct z uporabo neposredne optimizacije preferenc (DPO), s katero ga učimo na strojno generirani in izboljšani podmnožici javno dostopnih podatkov. Ker metoda DPO zahteva pare primerov, razvrščenih po kakovosti, smo njen nabor podatkov za učenje ustvarili s prevajanjem angleških člankov z Wikipedije z uporabo dveh modelov: GaMS-9B-Instruct in EuroLLM-9B-Instruct. Prevode smo razvrstili na podlagi hevristik v kombinaciji z avtomatskimi metrikami, kot je COMET. Evalvacija kaže, da naš prilagojen model presega zmogljivost obeh modelov, uporabljenih v procesu generiranja učne množice. V primerjavi z izhodiščnima modeloma je prilagojen model pri prevajanju raznolikih besedil dosegel izboljšanje vrednosti metrike COMET za približno 0,02 do 0,04. Prav tako se dosledneje izogiba jezikovnim in oblikovnim napakam.

Mentor: prof. dr. Marko Robnik Šikonja

Somentor: asist. - razisk. Domen Vreš

Komisija za zagovor:

    - izr. prof. dr. Slavko Žitnik, predsednik

    - doc. dr. Janoš Vidali, Član

    - prof. dr. Marko Robnik Šikonja, mentor