Artificial intelligence in the diagnostics of deforming osteoarthritis of large joints of the lower limbs — diagnostic accuracy assessment in the real clinical settings

Cover Page

Cite item

Full Text

Open Access Open Access
Restricted Access Access granted
Restricted Access Subscription Access

Abstract

BACKGROUND: A development of mathematical methods, digitalization of medical diagnostic equipment, and growth of computing capabilities have created conditions for the emergence of new tools for automated analysis of biomedical data — artificial intelligence (AI) technologies. In clinical practice, computer vision has become the most widespread among promising AI technologies. Since 2023, the Moscow Experiment has been using AI services to diagnose injuries and conditions of the musculoskeletal system, which has allowed studying a quality of the relevant tools for the first time on a large-scale.

AIM: To study a diagnostic significance of software based on artificial intelligence technologies for the diagnosis of deforming osteoarthritis of large joints of the lower limbs.

MATERIALS AND METHODS: The scientific work performed in the design of the diagnostic study according to the STARD 2015 methodology included two stages — retrospective and prospective. The retrospective stage was a calculation of diagnostic accuracy indicators (AUROC, sensitivity, specificity, and accuracy). The prospective phase consisted of regular monitoring of the diagnostic quality of the AI service while analysing the actual flow of radiography results (n=198,821). A match of radiologist and AI service results was calculated, as well as an integral clinical evaluation was performed. The duration of the study was 1 year and 8 months.

RESULTS: Five Russian AI-based software for detecting signs of deforming osteoarthritis were studied. Only two of them successfully passed the stage of retrospective diagnostic accuracy assessment and were accepted to participate in the prospective stage. Both AI services demonstrated the sufficient technical reliability in clinical conditions. One of the AI services had a medium-high level of diagnostic value with the median clinical score of more than 88.0%, while the other had a high level of diagnostic value with the median clinical score of more than 93.0%.

CONCLUSIONS: The achieved level of AI-based software development allows applying them to improve the accuracy and productivity of radiologists when providing radiology reports of large joints of the lower limbs (in the context of diagnosing deforming osteoarthritis).

About the authors

Anton V. Vladzymyrskyy

Research and Practical Clinical Center for Diagnostics and Telemedicine Technologies

Email: npcmr@zdrav.mos.ru
ORCID iD: 0000-0002-2990-7736
SPIN-code: 3602-7120

MD, Dr. Sci. (Medicine)

Russian Federation, Moscow

Yuriy A. Vasilev

Research and Practical Clinical Center for Diagnostics and Telemedicine Technologies

Email: npcmr@zdrav.mos.ru
ORCID iD: 0000-0002-5283-5961
SPIN-code: 4458-5608

MD, Cand. Sci. (Medicine)

Russian Federation, Moscow

Kirill M. Arzamasov

Research and Practical Clinical Center for Diagnostics and Telemedicine Technologies

Email: ArzamasovKM@zdrav.mos.ru
ORCID iD: 0000-0001-7786-0349
SPIN-code: 3160-8062

MD, Cand. Sci. (Medicine)

Russian Federation, Moscow

Veronika E. Kazarinova

Research and Practical Clinical Center for Diagnostics and Telemedicine Technologies

Author for correspondence.
Email: KazarinovaVE@zdrav.mos.ru
ORCID iD: 0009-0001-3568-8138
SPIN-code: 5901-5577
Russian Federation, Moscow

Elena V. Astapenko

Research and Practical Clinical Center for Diagnostics and Telemedicine Technologies

Email: AstapenkoEV1@zdrav.mos.ru
ORCID iD: 0009-0006-6284-2088
SPIN-code: 7362-8553
Russian Federation, Moscow

References

  1. Khan SD, Hoodbhoy Z, Raja MHR, et al. Frameworks for procurement, integration, monitoring, and evaluation of artificial intelligence tools in clinical settings: A systematic review. PLOS Digit Health. 2024;3(5):e0000514. doi: 10.1371/journal.pdig.0000514
  2. Nowroozi A, Salehi MA, Shobeiri P, et al. Artificial intelligence diagnostic accuracy in fracture detection from plain radiographs and comparing it with clinicians: a systematic review and meta-analysis. Clin Radiol. 2024:S0009-9260(24)00200-9. doi: 10.1016/j.crad.2024.04.009
  3. Vasilev YA, Vladzimirskyy AV, editors. Computer vision in radiation diagnostics: the first stage of the Moscow experiment: a monograph. Moscow: Publishing Solutions; 2022. 388 p. (In Russ.).
  4. Bossuyt PM, Reitsma JB, Bruns DE, et al. STARD Group. STARD 2015: an updated list of essential items for reporting diagnostic accuracy studies. BMJ. 2015;351:h5527. doi: 10.1136/bmj.h5527
  5. Basic recommendations for the work of artificial intelligence services for radial diagnostics: Methodological Recommendations No. 54. Moscow: Scientific and Practical Clinical Centre for Diagnostics and Telemedicine Technologies of the Moscow City Health Department; 2022. 68 p. (In Russ.).
  6. Nahm FS. Receiver operating characteristic curve: overview and practical use for clinicians. Korean J Anesthesiol. 2022;75(1):25–36. doi: 10.4097/kja.21209
  7. Clinical trials of artificial intelligence systems (radiation diagnostics). Moscow: State budgetary institution of health care of Moscow “Scientific and Practical Clinical Centre for Diagnostics and Telemedicine Technologies of the Department of Health Care of Moscow”; 2023. 40 p. (In Russ.).
  8. Preparation of data set for training and testing of software based on artificial intelligence technology. (Tutorial) Ridero: Scientific and Practical Clinical Centre for Diagnostics and Telemedicine Technologies of the Moscow City Health Department; 2024. 140 p. (In Russ.).
  9. Vasilev YuA, Vladzimirskyy AV, Omelyanskaya OV, et al. Methodology of testing and monitoring of software based on artificial intelligence technologies for medical diagnostics. Digital Diagnostics. 2023;4(3):252–267. (In Russ.). doi: 10.17816/DD321971
  10. Chetverikov SF, Arzamasov KM, Andreichenko AE, et al. Approaches to sample formation for quality control of artificial intelligence systems in biomedical research. Modern Technologies in Medicine. 2023;15(2):19–25. (In Russ.). doi: 10.17691/stm2023.15.2.02
  11. Yang J, Ji Q, Ni M, et al. Automatic assessment of knee osteoarthritis severity in portable devices based on deep learning. J Orthop Surg Res. 2022;17(1):540. doi: 10.1186/s13018-022-03429-2
  12. Wang CT, Huang B, Thogiti N, et al. Successful real-world application of an osteoarthritis classification deep-learning model using 9210 knees-An orthopedic surgeon’s view. J Orthop Res. 2023;41(4):737–746. doi: 10.1002/jor.25415
  13. von Schacky CE, Sohn JH, Liu F, et al. Development and Validation of a Multitask Deep Learning Model for Severity Grading of Hip Osteoarthritis Features on Radiographs. Radiology. 2020;295(1):136–145. doi: 10.1148/radiol.2020190925
  14. Magnéli M, Borjali A, Takahashi E, et al. Application of deep learning for automated diagnosis and classification of hip dysplasia on plain radiographs. BMC Musculoskelet Disord. 2024;25(1):117. doi: 10.1186/s12891-024-07244-0
  15. Pi SW, Lee BD, Lee MS, et al. Ensemble deep-learning networks for automated osteoarthritis grading in knee X-ray images. Sci Rep. 2023;13(1):22887. doi: 10.1038/s41598-023-50210-4
  16. Lenskjold A, Brejnebøl MW, Nybing JU, et al. Constructing a clinical radiographic knee osteoarthritis database using artificial intelligence tools with limited human labor: A proof of principle. Osteoarthritis Cartilage. 2024;32(3):310–318. doi: 10.1016/j.joca.2023.11.014
  17. Naguib SM, Kassem MA, Hamza HM, et al. Automated system for classifying uni-bicompartmental knee osteoarthritis by using redefined residual learning with convolutional neural network. Heliyon. 2024;10(10):e31017. doi: 10.1016/j.heliyon.2024.e31017
  18. Smolle MA, Goetz C, Maurer D, et al. Artificial intelligence-based computer-aided system for knee osteoarthritis assessment increases experienced orthopaedic surgeons’ agreement rate and accuracy. Knee Surg Sports Traumatol Arthrosc. 2023;31(3):1053–1062. doi: 10.1007/s00167-022-07220-y
  19. Yoon JS, Yon CJ, Lee D, et al. Assessment of a novel deep learning-based software developed for automatic feature extraction and grading of radiographic knee osteoarthritis. BMC Musculoskelet Disord. 2023;24(1):869. doi: 10.1186/s12891-023-06951-4
  20. Salis Z, Driban JB, McAlindon TE. Predicting the onset of end-stage knee osteoarthritis over two- and five-years using machine learning. Semin Arthritis Rheum. 2024;66:152433. doi: 10.1016/j.semarthrit.2024.152433

Supplementary files

Supplementary Files
Action
1. JATS XML
2. Fig. 1. Scheme for conducting the study.

Download (234KB)
3. Fig. 2. Example of knee joint radiographs processing by AI-service: a — knee arthrosis stage I, b — knee arthrosis stage II.

Download (228KB)

Copyright (c) 2025 Eco-Vector

Creative Commons License
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».