Treffer: Razvoj i implementacija AI agenta temeljenog na velikim jezičnim modelima

Cilj ovog diplomskog rada implementacija je i razvoj agenta temeljenog na velikim jezičnim modelima (engl. large language models, LLM) i umjetnoj inteligenciji (engl. artificial intelligence, AI) čija je funkcija asistiranje korisnika prilikom obavljanja raznih digitalnih zadataka. Funkcionalnosti modela uključuju slanje elektroničke pošte, generiranje slika, izvršavanje kalkulacija koristeći Python programski kôd i pretraživanje web-a. U ovu svrhu, izrađen je sustav temeljen na AI agentima naziva Lumen koji se sastoji od korisničkog sučelja izrađenog primjenom Reacta te poslužiteljskog dijela implantiranog pomoću programskog jezika Python koji koristi tehnologije poput LangChain-a, FastAPI-a, RabbitMQ-a itd. te mikroservisnu arhitekturu. Sustav sadrži i funkcionalnosti prepoznavanja govora (engl. speech to text, STT) te generiranja glasovnih odgovora na korisnička pitanja (engl. text to speech, TTS). Prilikom izrade ovog sustava, nastojalo se gdje god je moguće koristiti lokalno pokrenute modele i programska rješenja otvorenog koda. Korišten je LLM otvorenog koda Solar 10.7B Instruct v1.0, Kokoro TTS model, SearXNG za pretraživanje web-a, SDXL-Lightning model za generiranje slika itd.