Naslov diplomskega dela: Zasnova cloud native arhitekture za trajno hrambo vektoriziranih informacij agentnih sistemov

Povzetek:

V delu obravnavamo problem učinkovite trajne hrambe in iskanja vloženih podatkov za potrebe agentov, ki temeljijo na velikih jezikovnih modelih. Ker neprestano večanje kontekstnega okna poslabša učinkovitost in poveča stroške, predlagamo oblačno arhitekturo, ki temelji na vektorski podatkovni bazi. Prek poznavanja osnovnih konceptov vektorskih podatkovnih baz ter analizo baz Milvus in Qdrant pridobimo znanje, ki nam omogoča zasnovati arhitekturo sistema, ki bo te podatke trajno hranil.

Rešitev temelji na večnajemniški arhitekturi s Qdrantom, posrednikom Envoy, vmesnikom Quarkus in sistemom OpenFGA za zagotavljanje varnosti. Na podlagi obsežnega empiričnega testiranja različnih konfiguracij kazal, gruč in metod kvantizacije (kot je rotacijska kvantizacija) pokažemo, da lahko z optimizirano uporabo podgrafov najemnikov in ustreznih vrst kvantizacije bistveno zmanjšamo porabo virov ter izboljšamo prepustnost podatkovne baze, ne da bi pri tem žrtvovali priklic poizvedb.

Mentor: prof. dr. Branko Matjaž Jurič

Komisija:

    - doc. dr. Luka Šajn, predsednik

    - prof. dr. Sergio Cabello Justo, član

    - prof. dr. Branko Matjaž Jurič, mentor

Prostor: Predavalnica 19