Metody pro zefektivnění vzorkování v bayesovských inverzních úlohách

Abstract

Bayesovský přístup představuje silný nástroj pro formulaci inverzních úloh s nejistotami, jejichž řešení však v mnoha praktických aplikacích vyžaduje použití efektivních numerických metod. V~této práci se zabýváme aproximací aposteriorního rozdělení pravděpodobnosti pomocí metod Markov Chain Monte Carlo (MCMC), se zaměřením na analýzu procesu vzorkování a kvality výsledků. Po stručném shrnutí základů teorie pravděpodobnosti a představení motivační bayesovské inverzní úlohy je hlavní část věnována metodám MCMC. Nejprve budujeme teoretický základ těchto metod, poté podrobně rozebíráme algoritmus Metropolis-Hastings (MH) a jeho pokročilé modifikace Adaptive Metropolis (AM), Delayed Rejection Adaptive Metropolis (DRAM) a DiffeRential Evolution Adaptive Metropolis (DREAM). Pro každý algoritmus jsou uvedeny teoretické základy, vlastní implementace a rozsáhlé numerické experimenty na ilustračních úlohách různé složitosti. Výsledky jsou analyzovány pomocí zavedených metrik a umožňují srovnat efektivitu a charakteristické vlastnosti jednotlivých metod.

The Bayesian approach provides a powerful framework for formulating inverse problems with uncertainty, where solving such problems requires the use of efficient numerical methods in many practical applications. In this thesis, we focus on the approximation of the posterior probability distribution using Markov Chain Monte Carlo (MCMC) methods, mainly analyzing the sampling process and the quality of the resulting estimates. After briefly reviewing the fundamentals of probability theory and introducing a motivating Bayesian inverse problem, the main part of the work is devoted to MCMC methods. We first establish the theoretical foundations of these methods, followed by a detailed discussion of the Metropolis-Hastings (MH) algorithm and its advanced modifications: Adaptive Metropolis (AM), Delayed Rejection Adaptive Metropolis (DRAM), and DiffeRential Evolution Adaptive Metropolis (DREAM). For each algorithm, we present the theoretical background, the implementation, and extensive numerical experiments on illustrative problems of varying complexity. The results are analyzed using established metrics, allowing for a comparison of the efficiency and characteristic properties of the individual methods.