Вивчення впливу оптимізаторів Adam та SGDM на навчання нейронної мережі U-Net для сегментації епітеліальних компонентів нормальної тканини кишечника

Abstract

Анотація. Впровадження комп’ютерних технологій у медичну практику докорінно змінює підходи до аналізу гістопатологічних даних, перетворюючи цифрову патологію на необхідний елемент діагностичного процесу. Використання повнослайдових зображень у поєднанні з методами глибокого навчання дозволяє автоматизувати складні завдання, такі як сегментація тканинних структур. Одним із ключових викликів у цьому напрямку є забезпечення високої точності розпізнавання дрібних морфологічних елементів на зображеннях високої роздільної здатності, що критично залежить від архітектури нейронної мережі та параметрів її навчання. Ці аспекти безпосередньо впливають на надійність автоматизованих систем підтримки прийняття рішень, особливо при аналізі структур кишечника, де важливо чітко розмежовувати епітеліальні та стромальні компоненти. Відсутність обґрунтованого підходу до вибору алгоритмів оптимізації може призводити до втрати діагностично значущої інформації та появи артефактів сегментації. У цьому дослідженні розглянуто вплив різних алгоритмів оптимізації в архітектурі U-Net на якість піксельної класифікації епітеліальних субкомпонентів (крипт та поверхневого епітелію) нормальної тканини кишківника. У ході проведеного дослідження оцінено ефективність застосування оптимізаторів Adam та SGDM для навчання згорткової нейронної мережі U-Net з енкодером ResNet50. Проведено порівняльний аналіз отриманих моделей на наборі гістологічних даних та визначено найбільш оптимальну конфігурацію для даного типу морфологічних структур. Отримані експериментальні результати демонструють суттєву перевагу використання оптимізатора Adam, який забезпечує високі показники якості сегментації та стабільність навчання: Global Accuracy: 0.96, Specificity: 0.93, відносний приріст Specificity порівняно з SGDM склав +14.81%. Отримані результати підтверджують перспективність використання адаптивних методів оптимізації в задачах цифрової патології для високогранульованої сегментації. Застосування алгоритму Adam дозволяє мінімізувати кількість хибнопозитивних передбачень у стромальних ділянках, що значно підвищує точність морфометричного аналізу та має важливе значення для подальших фундаментальних та клінічних досліджень у галузі онкології. The integration of computer technologies into medical practice is fundamentally transforming approaches to histopathological data analysis, positioning digital pathology as an essential component of the diagnostic workflow. The use of Whole Slide Images (WSIs) in combination with deep learning methods enables the automation of complex tasks, including tissue structure segmentation. A key challenge in this field is achieving high accuracy in the recognition of small morphological elements within high-resolution images, which critically depends on neural network architecture and training parameters. These factors directly influence the reliability of automated decision-support systems, particularly in the analysis of intestinal tissue, where precise differentiation between epithelial and stromal components is essential. The absence of a wellfounded strategy for selecting optimization algorithms may result in the loss of diagnostically relevant information and the generation of segmentation artifacts. This study investigates the impact of different optimization algorithms within the U-Net architecture on the accuracy of pixel-level classification of epithelial subcomponents (crypts and surface epithelium) in normal intestinal tissue. In the present study, the performance of the Adam and stochastic gradient descent with momentum (SGDM) optimizers was evaluated for training a U-Net convolutional neural network with a ResNet50 encoder. A comparative analysis of the resulting models was conducted using a histological image dataset to determine the optimal configuration for segmenting this type of morphological structure. The experimental findings demonstrated a clear advantage of the Adam optimizer, which ensured superior segmentation performance and greater training stability. Specifically, the Adam-based model achieved a Global Accuracy of 0.96 and a Specificity of 0.93, representing a 14.81% relative increase in Specificity compared to the SGDM optimizer. These results highlight the potential of adaptive optimization methods in digital pathology tasks requiring high-resolution segmentation. The use of the Adam algorithm reduced the number of false-positive predictions in stromal regions, thereby improving the reliability of morphometric analysis. This enhancement is particularly relevant for both fundamental and clinical oncology research.