Використання алгоритмів штучного інтелекту з елементами глибокого навчання в цитологічній діагностиці раку шийки матки

Abstract

Рак шийки матки залишається однією з провідних причин онкологічної смертності серед жінок у всьому світі, що зумовлює нагальну потребу в розробці ефективних методів автоматизованої цитологічної діагностики. Мета дослідження розробити та верифікувати модель глибокого навчання для автоматизованої сегментації та класифікації клітин з ознаками злоякісної трансформації в цитологічних препаратах шийки матки. Матеріали та методи. Матеріалом дослідження слугували мікроскопічні зображення 124 цитологічних препаратів мазків шийки матки, отриманих від 87 пацієнток (вік 21–65 років) в лабораторії навчально-наукового медичного центру «Університетська клініка» Запорізького державного медичного університету; загальна кількість анотованих клітин склала 18 340. Для задачі сегментації використовувалась архітектура U-Net з енкодером ResNet-50, для мультикласової класифікації згорткова нейронна мережа на базі ResNet-50 із заміненим класифікаційним блоком. Навчання моделей здійснено у фреймворку PyTorch (версія 2.5.1) з оптимізатором Adam та застосуванням таргетної аугментації і зваженої функції втрат для корекції дисбалансу класів. Інтерпретацію рішень моделі забезпечено методом Grad-CAM. Результати. Модель класифікації продемонструвала Global Accuracy 0.97 ± 0.03, Specificity 0.96 ± 0.07, Sensitivity 0.93 ± 0.04, Precision 0.87 ± 0.02 та F1-score 0.91 ± 0.03. Показники якості сегментації клітинних контурів склали Mean Dice 0.847 ± 0.031 та Mean IoU 0.736 ± 0.028; для сегментації ядер Mean Dice 0.821 ± 0.035, Mean IoU 0.711 ± 0.033. Висновки. Розроблена модель продемонструвала високу ефективність автоматизованого розпізнавання атипових клітин у цитологічних мазках шийки матки та може розглядатися як перспективний інструмент підтримки прийняття рішень у цитологічній діагностиці раку шийки матки. Introduction. Cervical cancer remains one of the leading causes of cancer-related mortality among women worldwide, highlighting the need for effective automated methods for cytological diagnostics. Objective. To develop and validate a deep learning model for the automated segmentation and classification of cells exhibiting signs of malignant transformation in cervical cytological specimens. Materials and Methods. The study included microscopic images of 124 cervical smear specimens obtained from 87 patients aged 21–65 years at the laboratory of the Educational and Scientific Medical Centre “University Clinic” of Zaporizhzhia State Medical University. A total of 18,340 cells were annotated. Cell segmentation was performed using a U-Net architecture with a ResNet-50 encoder, whereas multiclass classification was conducted using a ResNet-50–based convolutional neural network with a modified classification block. Model training was implemented in the PyTorch framework (version 2.5.1) using the Adam optimizer, targeted data augmentation, and a class-weighted loss function to compensate for class imbalance. Model interpretability was assessed using the Grad-CAM technique. Results. The classification model achieved a global accuracy of 0.97 ± 0.03, specificity of 0.96 ± 0.07, sensitivity of 0.93 ± 0.04, precision of 0.87 ± 0.02, and an F1-score of 0.91 ± 0.03. Segmentation performance for cell contours demonstrated a mean Dice coefficient of 0.847 ± 0.031 and a mean intersection-overunion (IoU) score of 0.736 ± 0.028. Nucleus segmentation yielded a mean Dice coefficient of 0.821 ± 0.035 and a mean IoU of 0.711 ± 0.033. Conclusion. The developed deep learning model demonstrated high performance in the automated detection of atypical cells in cervical cytological smears and may serve as a promising decision-support tool in the cytological diagnosis of cervical cancer.