Deepfake jako bezpečnostní hrozba: praktické testování a hodnocení detekčních systémů.

Abstract

Tato diplomová práce se zabývá fenoménem deepfake a zaměřuje se na praktické testování a hodnocení detekčních systémů pro rozpoznání obsahu vytvořeného pomocí umělé inteligence. Teoretická část práce se zabývá oblastí generativní umělé inteligence, typologií deepfakes, jejím vývojem a právní úpravě dané problematiky. Diplomová práce dále rozebírá přístupy a techniky pro rozpoznání obsahu vygenerovaného pomocí umělé inteligence. Praktická část práce se zabývá experimentálním testováním detekčních nástrojů. Pro tento účel byla vytvořena vlastní datová sada videí obsahující převzatá autentická videa a obsahově shodná vygenerovaná syntetická videa s definovanými parametry, které byly následně testovány pomocí detekčních nástrojů v rámci DeepfakeBench a komerční platformy Hive, kdy výkonnost jednotlivých nástrojů byla hodnocena pomocí binárních klasifikačních metrik.

This diploma thesis deals with the phenomenon of deepfakes and focuses on practical testing and evaluation of detection systems for recognizing content created using artificial intelligence. The theoretical part of the thesis deals with the field of generative artificial intelligence, the typology of deepfakes, its development and legal regulation of the issue. Furthermore, the diploma thesis discusses approaches and techniques for recognizing AI-generated content. The practical part of the thesis deals with experimental testing of detection tools. For this purpose, a custom dataset of videos was created containing downloaded authentic videos and content-identical generated synthetic videos with defined parameters, which were subsequently tested using detection tools within DeepfakeBench and the Hive commercial platform, where the performance of individual tools was evaluated using binary classification metrics.