Analýza textu pomocí neuronových sítí

Abstract

Tato diplomová práce se zabývá klasifikací textu a analýzou topiků v textech. Cílem bylo nejprve sepsat klasické a neuronové modely pro zmíněné disciplíny a tyto dvě skupiny metod experimentálně porovnat. Pro účely experimentů bylo získáno a popsáno celkem šest datových sad, z toho jedna byla v českém jazyce. Při experimentech s klasifikací bylo použito pět klasických modelů a sedm architektur neuronových sítí. V případě analýzy topiků byl porovnáván model LDA s experimentálním autoenkodérem, vytvořeným v rámci této práce, kde váhy naučeného autoenkodéru jsou použity jako model topiků. Výsledky ukazují, že v rámci klasifikace jsou klasické metody schopné dosahovat velmi dobré přesnosti, která se vyrovná neuronovým sítím, a to v mnohem kratším čase, avšak neuronové sítě jsou u většiny datových sad přesnější než klasické modely. V případě analýzy topiků vytvářel klasický model LDA kvalitnější topiky, avšak neuronový model byl v některých případech schopen lépe shlukovat analyzované dokumenty a kvalitou topiků nebyl na tolik vzdálen metodě LDA. Práce tedy představuje zajímavou alternativu ke klasickému modelu LDA.

This diploma thesis is concerning with text classification and text topic analysis. The aim was to first write and experimentally compare classic and neural models for mentioned disciplines. Total of six datasets were acquired for the purpose of experimentation. Five classical models and seven neural network architectures were used for the experiments. Model LDA and experimental autoencoder, created as part of this thesis which was using weights of learned autoencoder as topic model, were compared in case of topic analysis. The results show that in case of classification classical methods can achieve very good accuracy that can be compared to neural networks and with much less required time however neural networks are more accurate than classical models. In case of topic analysis, the classical model LDA was creating better topics however neural model was in some cases capable of better clustering of analyzed documents and its topic quality was not very distant from LDA method. This thesis introduces an interesting alternative to classical model LDA.