Implementace bundle trust metody pro konvexní a nekonvexní úlohy nehladké optimalizace

Abstract

Diplomová práce se zabývá metodami pro minimalizaci nehladkých funkcí. To jsou funkce, které jsou nediferencovatelné. Problém minimalizace můžeme řešit nepřímo nahrazením funkce spojitě diferencovatelnou aproximací, nebo pomocí algoritmů, které jsou vhodné pro minimalizaci nediferencovatelných funkcí. Mezi tyto algoritmy patří subgradientní metody a bundle metody. \\ V práci se seznámíme s jednou z bundle metod a tou je bundle trust metoda. Detailně si ji popíšeme, implementujeme a vyzkoušíme na vybraných funkcích. Než se k samotné metodě dostaneme, tak se seznámíme se základní teorií v oblasti nehladké optimalizace.

The thesis deals with methods for minimizing non-smooth functions, these are functions that are undifferentiable. The problem of minimization can be addressed indirectly by replacing functions by continuously differentiable approximation, or by algorithms that are suitable for minimizing non-differentiable functions. Between these methods belongs subgradient methods and bundle methods. In this work we will learn about one of the bundle methods - the bundle trust method, we will describe it in detail, implement it and try it on selected functions. We will introduce the basic theory of non-smooth optimalization before focusing on the bundle trust method.