Strojové učení pro automatickou segmentaci retinálních hemoragií

Abstract

Diabetická retinopatie patří mezi hlavní příčiny ztráty zraku u pracující populace. Včasná detekce retinálních hemoragií při screeningu fundus fotografií může výrazně zlepšit prognózu pacientů, avšak manuální hodnocení snímků je časově náročné a zatížené subjektivitou. Tato práce se zaměřuje na vývoj a validaci automatizovaných segmentačních modelů pro detekci retinálních hemoragií s využitím hlubokého učení. Byly porovnány tři architektury neuronových sítí (U-Net/ResNet34, DeepLabV3Plus/ResNet50 a Attention U-Net/ResNet34) na datasetu 130 fundus snímků anotovaných třemi nezávislými oftalmology. Pro eliminaci inter-rater variability byl využit algoritmus STAPLE k vytvoření konsenzuálního ground truth. Bylo provedeno 12 experimentů hodnotících vliv kvality anotací, architektury modelu a trénovacích parametrů na výkon segmentace při extrémní třídní nevyváženosti. Výsledky demonstrují význam kvality ground truth, přičemž modely trénované na STAPLE konsenzu dosáhly Dice koeficientu až 0,744, což představuje 12% zlepšení oproti modelům trénovaným na anotacích jednoho lékaře. Cross-doctor validace odhalila pokles výkonu o 5–10 % při testování na jiném anotátorovi, což potvrzuje riziko přeučení na specifický anotační styl. Nejlepší model dosáhl velmi silné korelace mezi predikovaným a skutečným rozsahem hemoragií při nízké průměrné absolutní chybě. Práce poskytuje metodologii pro vývoj klinicky použitelných segmentačních modelů a ukazuje, že konsenzuální ground truth je klíčový pro dosažení robustních výsledků. Vyvinuté modely mohou sloužit jako podpora při screeningu diabetické retinopatie.

Diabetic retinopathy is among the leading causes of vision loss in the working-age population. Early detection of retinal hemorrhages in fundus photograph screening can significantly improve patient prognosis; however, manual image assessment is time-consuming and subject to subjectivity. This work focuses on the development and validation of automated segmentation models for retinal hemorrhage detection using deep learning. Three neural network architectures (U-Net/ResNet34, DeepLabV3Plus/ResNet50, and Attention U-Net/ResNet34) were compared on a dataset of 130 fundus images annotated by three independent ophthalmologists. The STAPLE algorithm was used to eliminate inter-rater variability and create consensus ground truth. Twelve experiments were conducted evaluating the influence of annotation quality, model architecture, and training parameters on segmentation performance under extreme class imbalance. Results demonstrate the importance of ground truth quality, with models trained on STAPLE consensus achieving Dice coefficients up to 0.744, representing a 12% improvement over models trained on single-physician annotations. Cross-doctor validation revealed a 5–10% performance decrease when testing on a different annotator, confirming the risk of overfitting to specific annotation styles. The best model achieved very strong correlation between predicted and actual hemorrhage extent with low mean absolute error. This work provides a methodology for developing clinically applicable segmentation models and demonstrates that consensus ground truth is critical for achieving robust results. The developed models can serve as support tools for diabetic retinopathy screening.