Вестник высшей школы
ВойтиРегистрацияСоздать
Подать статьюПодать
2025, №6
МЕТОДИКА ПРЕПОДАВАНИЯ ОБЩЕИНЖЕНЕРНЫХ И СПЕЦИАЛЬНЫХ УЧЕБНЫХ ДИСЦИПЛИН В АЭРОКОСМИЧЕСКОМ ВУЗЕ

Объяснимый искусственный интеллект как новое направление развития интеллектуальных технологий и подготовки кадров в ракетно-космической и авиационной технике

В.Т. Калугин, А.Ю. Луценко, И.К. Романова-БольшаковаORCID

DOI 10.20339/am.06-25.076С. 76–82УДК 378::629.7-042.4:004.8Открытый доступ

PDF

  • 📄11Калугин_Луценко_Романова_Большакова_АМ_25_6_СПЕЦ.pdf700 KBСкачать
В закладки

Аннотация

Представлена новая задача в области искусственного интеллекта — сделать его понятным и доступным. Проблемы «черного ящика» в искусственном интеллекте (ИИ) на сегодняшний день весьма успешно решаются в рамках нового направления — объяснимого искусственного интеллекта (XAI), признанного искусственным интеллектом третьего поколения. В статье определены понятия и проблемы объяснимости ИИ, описаны методы решения в области объяснимости ИИ. Отмечена роль XAI как интерфейса между сложными интеллектуальными системами и специалистами по данным, экспертами в предметной области, разработчиками и эксплуатантами новой техники — конечными пользователями. Он помогает расшифровывать сложные внутренние механизмы «черного ящика» машинного обучения (ML), делая причины их решений более понятными. Методы объяснимого машинного обучения повышают прозрачность использования и уровень доверия людей. Отмечено современное состояние ИИ в области РКТ (ракетно-космической техники) и направления РКТ, в которых целесообразно внедрять технологии объяснимого ИИ. Поставлена задача актуализации планов подготовки специалистов РКТ в области ИИ с учетом новых тенденций объяснимого ИИ и формирования новых компетенций разработчиков ракетно-космической и авиационной техники для решения задач жизненного цикла изделий, в том числе диагностики, прогнозного обслуживания, распознавания образов, оптимального проектирования на базе методов XAI.

Ключевые слова

  • компетенции разработчиков ракетно-космической и авиационной техники
  • искусственный интеллект
  • объяснимый искусственный интеллект

Литература

  1. Kalugin, V.T., Lutsenko, A., Romanova, I. Implementation of artificial intelligence development strategy in the Russian Federation in the educational programs of aerospace engineering training of Bauman Moscow State Technical University/shs web of conferences. XI International Conference on Aerospace Education and Staffing for High-Tech Enterprises (AESHE 2021). Т. 137. Moscow, 2022.

  2. Romanova, I.K. Development of a New Concept of Modeling Systems Based on the Application and Development of Modern Information Technologies. AIP Conference Proceedings. 2022. Vol. 2383. P. 030001-1-030001-9. https: doi.org/10.1063/5.0074539

  3. Sepideh Pashamia, Sławomir Nowaczyka, Yuantao Fana, Jakub Jakubowskih etc. Explainable Predictive Maintenance. Preprint submitted to Expert Systems with Applications. 2023. June 9. 51 p.

  4. Попов Н.В., Шевская Н.В. Методы объяснимого искусственного интеллекта на основе анализа пространства признаков // Международная научная конференция по проблемам управления в технических системах. СПб., 2021. Т. 1. С. 298–301.

  5. Аверкин А.Н. Объяснимый искусственный интеллект как часть искусственного интеллекта третьего поколения // Речевые технологии / Speech technology. 2023. No 1. С. 4–10.

  6. Шевская Н.В. Объяснимый искусственных интеллект и методы интерпретации результатов // Моделирование, оптимизация и информационные технологии. 2021. No 9 (2). DOI: 10.26102/2310- 6018/2021.33.2.02412. URL: https://moitvivt.ru/ru/journal/pdf?id=1005

    DOI 10.26102/2310-moitvivt.ru

  7. Rudresh Dwived, Devam Dave, Het Naik, Smiti Singhal etc. Explainable AI (XAI): Core Ideas, Techniques and Solutions ORCA, Cardiff University’s http://dx.doi.or g/10.1145/3561048. 35 p. (accessed on: 16.12.2024).

    dx.doi.or

  8. Scott M. Lundberg, Gabriel Erion, Hugh Chen, Alex DeGrave1, etc. Explainable AI for Trees: From Local Explanations to Global Understanding. May 2019. DOI: 10.48550/arXiv.1905.04610 (дата обращения: 16.12.2024).

    DOI 10.48550/arxiv.1905.04610

  9. Explain network predictions using LIME. URL: https://www.mathworks.com/help/deeplearning/ref/imagelime.html (accessed on: 16.12.2024).

    mathworks.com

  10. Giorgio Visani, Enrico Bagli, Federico Chesani. OptiLIME: Optimized LIME Explanations for Diagnostic Computer Algorithms. June 2020. 8 p. DOI: 10.48550/arXiv.2006.05714

    DOI 10.48550/arxiv.2006.05714

  11. Yunyan Zhang, Daphne Hong, Daniel McClemen. Grad-CAM helps interpret the deep learning models trained to classify multiple sclerosis types using clinical brain magnetic resonance imaging. Journal of Neuroscience Methods. April 2021. V. 353: 109098. DOI: 10.1016/j.jneumeth.2021.109098

    DOI 10.1016/j.jneumeth.2021.109098

  12. Antoine Hudon, Théophile Demazure, etc. Explainable Artificial Intelligence (XAI): How the Visualization of AI Predictions Affects User Cognitive Load and Confidence. 29 October 2021. Pp. 237–246.

  13. Романова И.К. Современные методы визуализации многомерных данных: анализ, классификация, реализация, приложения в технических системах // Наука и образование. 2016. No 3. С. 133–167.

  14. Mouhamadou-Lamine Ndao, Genane Youness, Ndèye Niang, Gilbert Saporta. Enhancing Explainability in Predictive Maintenance: Investigating the Impact of Data Preprocessing Techniques on XAI Effectiveness Investigating the Impact of Data Preprocessing Techniques on XAI Effectiveness. The 37th International Conference of the Florida Artificial Intelligence Research Society, May 2024, Florida, United States. ff10.32473/flairs.37.1.135526ff. ffhal-04579205f

  15. Shreyas Gawde, Shruti Patil, etc. Explainable Predictive Maintenance of Roating Machines Using LIME, SHAP, PDP, ICE / Received 24 December 2023, accepted 12 February 2024, date of publication 19 February 2024, date of current version 29 February 2024. DOI: 10.1109/ACCESS.2024.3367110

    DOI 10.1109/access.2024.3367110

  16. Shreyas Gawde, Shruti Patil, Satish Kumar, Pooja Kamat, Ketan Kotecha. An explainable predictive maintenance strategy for multi-fault diagnosis of rotating machines using multi-sensor data fusion. URL: https://doi.org/10.1016/j.dajour.2024.100425

    DOI 10.1016/j.dajour.2024.100425

  17. The rise of industrial explainable artificial intelligence (XAI) — Insights across the AI life cycle The rise of industrial explainable artificial intelligence (XAI). URL : https://assets.new.siemens.com/siemens/assets/api/uuid:3b4de373-57e2-4329-b025-2825db0172aa/WhitepaperXAI.pdf

    assets.new.siemens.com

  18. Искусственный интеллект в ракетно-космической технике АО «Организация “Агат”». URL : https://agat-roscosmos.ru/digests/iskusstvennyy-intellekt-v-raketno-kosmicheskoy-otrasli-21/

    agat-roscosmos.ru

  19. Балухто А.Н., Романов А. Искусственный интеллект в космической технике: состояние, перспективы развития // Ракетно-космическое приборостроение и информационные системы. 2019. Т. 6. Вып. 1. С. 65–75.

  20. Bibhudhendu Shukla1, Ip-Shing Fan2, Ian Jennions. Opportunities for Explainable Artificial Intelligence in Aerospace Predictive Maintenance. July 2020. Conference: 5th European Conference of the Prognostic and Health Management Society 2020. 11 p. URL: http://phmpapers.org/index.php/phme/article/view/1231

    phmpapers.org

  21. Premaratne Samaranayake, Senevi Kiridena. Aircraft maintenance planning and scheduling: An integrated framework. Journal of Quality in Maintenance Engineering. 2012. Pp. 432–453. URL: https://ro.uow.edu.au/engpapers/5188

    ro.uow.edu.au
Рубрики
МЕТОДИКА ПРЕПОДАВАНИЯ ОБЩЕИНЖЕНЕРНЫХ И СПЕЦИАЛЬНЫХ УЧЕБНЫХ ДИСЦИПЛИН В АЭРОКОСМИЧЕСКОМ ВУЗЕ