Využití velkých jazykových modelů jako chytré nápovědy

Abstract

Tato diplomová práce se zaměřuje na využití velkých jazykových modelů jako chytré nápovědy v doménově specifickém kontextu. Cílem bylo otestovat možnosti nasazení a přizpůsobení open-source modelů Llama 3.2 a Gemma 3 pomocí techniky fine-tuningu nad datovou sadou vytvořenou z oficiálních manuálů systému Debian. Součástí práce je přehled dostupných jazykových modelů, popis jejich architektury a nástrojů pro efektivní trénink. V praktické části byla navržena a implementována webová aplikace, která prostřednictvím REST API umožňuje testování jednotlivých modelů a porovnávání jejich výstupů. Důraz byl kladen na použitelnost v reálném prostředí, výpočetní náročnost a kvalitu generovaných odpovědí. Závěrem práce je zhodnocení přínosů i omezení použitých modelů a reflexe legislativních a etických aspektů spojených s využíváním umělé inteligence.

This thesis focuses on the use of large language models as smart assistants in a domain-specific context. The goal was to evaluate the deployment and fine-tuning capabilities of open-source models Llama 3.2 and Gemma 3 using a dataset derived from official Debian manuals. The work includes an overview of current LLMs, their architectures, and tools for efficient customization. In the practical part, a web application was developed using a REST API to test and compare model responses. Emphasis was placed on real-world usability, computational performance, and output quality. The thesis concludes with an evaluation of the benefits and limitations of the tested models and a discussion of ethical and legislative aspects related to AI usage.