Источники третьего дня
Все ссылки, которые встречаются в лекциях, практике, ключах и дополнительных материалах третьего дня. Нумерация общая для всех файлов дня. Ссылки открывались и проверялись 10.11.2026.
Научные публикации
Поиск идей и концептуальное проектирование
- [1] Ma K., Grandi D., McComb C., Goucher-Lambert K. Conceptual Design Generation Using Large Language Models. 2023. Препринт arXiv. https://doi.org/10.48550/arXiv.2306.01779
- [2] Jiang S., Li W., Qian Y., et al. AutoTRIZ: Automating engineering innovation with TRIZ and large language models // Advanced Engineering Informatics. 2025. https://doi.org/10.1016/j.aei.2025.103312
- [3] Ege D. N., Øvrebø H. H., Stubberud V., et al. ChatGPT as an inventor: eliciting the strengths and weaknesses of current large language models against humans in engineering design // Artificial Intelligence for Engineering Design, Analysis and Manufacturing. 2025. https://doi.org/10.1017/s0890060425000010
- [4] Liu S., Shen Y., Zhang Y., et al. iDesignGPT enhances conceptual design via large language model agentic workflows // Nature Communications. 2026. https://doi.org/10.1038/s41467-026-68672-1
- [5] Xiao S., Zhang G., McAdams D. A. Collaboration Between Two Large Language Models for Design Concept Generation // Journal of Mechanical Design. 2026. https://doi.org/10.1115/1.4072235
- [6] Feng W. B., Hélie S., Panchal J. H. Enhancing design concept diversity: multi-persona prompting strategies for large language models // Design Science. 2025. https://doi.org/10.1017/dsj.2025.10037
Сравнение вариантов и многокритериальный выбор
- [7] Piñones E., Nikulin C., Briede Westermeyer J. C. SUPPORTING DECISION MAKING IN ENGINEERING DESIGN BY ANALIZING TEAM DISCUSSIONS WITH LANGUAGE MODELS // DYNA. 2026. https://doi.org/10.52152/d11565
- [8] Bohanec M., Rajkovič U., Rajkovič V. An Experimental Evaluation of Large Language Models in Supporting the DEX Multi-Criteria Decision-Making Process // Informatica. 2025. https://doi.org/10.31449/inf.v49i4.12884
- [9] Danielson M. Using LLMs for Multi-Criteria Decision Analysis: The Swedish Nord-Syd Case // Electronics. 2026. https://doi.org/10.3390/electronics15194519
- [10] Grandi D., Jain Y. P., Groom A., et al. Evaluating Large Language Models for Material Selection. 2024. Препринт arXiv. https://doi.org/10.48550/arXiv.2405.03695
- [11] Sahoo S. K., Choudhury B. B., Dhal P. R., et al. Large Language Models in Multi Criteria Decision Making: A Systematic Review, Taxonomy, and Future Research Agenda // Applied Research Advances. 2026. https://doi.org/10.65069/ara21202614
- [12] Zheng L., Chiang W.-L., Sheng Y., et al. Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena // Advances in Neural Information Processing Systems 36. 2023. https://doi.org/10.52202/075280-2020
- [13] Shi L., Ma C., Liang W., et al. Judging the Judges: A Systematic Study of Position Bias in LLM-as-a-Judge // Proceedings of IJCNLP-AACL 2025. https://doi.org/10.18653/v1/2025.ijcnlp-long.18
Выдуманные ссылки, патенты и пакеты; доверие к советам ИИ
- [14] Zhao C., Tang Y., Qian Y. Do Deployment Constraints Make LLMs Hallucinate Citations? An Empirical Study across Four Models and Five Prompting Regimes. 2026. Препринт arXiv. https://doi.org/10.48550/arXiv.2603.07287
- [15] Zhao Z., Wang Y., Stuart T., et al. LLM hallucinations in the wild: Large-scale evidence from non-existent citations. 2026. Препринт arXiv. https://doi.org/10.48550/arXiv.2605.07723
- [16] McGowan A., Gui Y., Dobbs M., et al. ChatGPT and Bard exhibit spontaneous citation fabrication during psychiatry literature search // Psychiatry Research. 2023. https://doi.org/10.1016/j.psychres.2023.115334
- [17] Spracklen J., Wijewickrama R., Sakib A. H. M. N., et al. We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs. 2024. Препринт arXiv. https://doi.org/10.48550/arXiv.2406.10279
- [18] Huang Z., Liu C., Wang Z., et al. Package Hallucinations as Phantoms in Open Source Software Supply Chains: An Empirical Security Analysis // ACM Transactions on Software Engineering and Methodology. 2026. https://doi.org/10.1145/3830237
- [19] Jiang P., Wang Y., Han J. Can large language models understand engineering design patents? An exploratory study // Proceedings of the Design Society. 2026. https://doi.org/10.1017/pds.2026.10593
- [20] Jiang P., Arena A. P., Sorce S., Atherton M. Large language models in the patent lifecycle: A systematic review // World Patent Information. 2026. https://doi.org/10.1016/j.wpi.2026.102506
- [21] Klingbeil A., Grützner C., Schreck P. Trust and reliance on AI – An experimental study on the extent and costs of overreliance on AI // Computers in Human Behavior. 2024. https://doi.org/10.1016/j.chb.2024.108352
- [22] Faker O., Toker S. Informed Skepticism: Navigating The Code Hallucination Dilemma // 2026 5th International Informatics and Software Engineering Conference (IISEC). 2026. https://doi.org/10.1109/iisec69317.2026.11418436
- [23] Yu X., Liu L., Hu X., et al. Fight Fire With Fire: How Much Can We Trust ChatGPT on Source Code-Related Tasks? // IEEE Transactions on Software Engineering. 2024. https://doi.org/10.1109/tse.2024.3492204
Анализ видов и последствий отказов с языковыми моделями
- [24] Collier Z. A., Gruss R. J., Abrahams A. S. How good are large language models at product risk assessment? // Risk Analysis. 2024. https://doi.org/10.1111/risa.14351
- [25] Nair S. S., Court L., Douglas R., et al. Use of Large Language Models to Enhance Failure Mode and Effects Analysis: A Case Study // Advances in Radiation Oncology. 2026. https://doi.org/10.1016/j.adro.2026.102060
- [26] El Hassani I., Masrour T., Kourouma N., et al. Integrating large language models for improved failure mode and effects analysis (FMEA): a framework and case study // Proceedings of the Design Society. 2024. https://doi.org/10.1017/pds.2024.204
- [27] El Hassani I., Masrour T., Kourouma N., Tavčar J. AI-driven FMEA: integration of large language models for faster and more accurate risk analysis // Design Science. 2025. https://doi.org/10.1017/dsj.2025.7
- [28] Bahr L., Wehner C., Wewerka J., et al. Knowledge graph enhanced retrieval-augmented generation for failure mode and effects analysis // Journal of Industrial Information Integration. 2025. https://doi.org/10.1016/j.jii.2025.100807
- [29] Diwakaruni S. S. K., Krishnamurthy A. AI Powered Failure Mode and Effect Analysis in Safety Critical Industry // SAE Technical Paper Series. 2026. https://doi.org/10.4271/2026-01-0106
- [30] Topcu T. G., Husain M., Ofsa M., Wach P. Trust at Your Own Peril: A Mixed Methods Exploration of the Ability of Large Language Models to Generate Expert‐Like Systems Engineering Artifacts and a Characterization of Failure Modes // Systems Engineering. 2025. https://doi.org/10.1002/sys.21810
- [31] Charan K. V., Singh M., Redhu S., Soni G. A framework for automating failure modes and effects analysis (FMEA) using large language models (LLMs) and retrieval-augmented generation (RAG) // International Journal of System Assurance Engineering and Management. 2026. https://doi.org/10.1007/s13198-026-03171-6
- [32] Ciani L., Guidi G., Patrizi G. A Critical Comparison of Alternative Risk Priority Numbers in Failure Modes, Effects, and Criticality Analysis // IEEE Access. 2019. https://doi.org/10.1109/access.2019.2928120
- [33] Fabis-Domagala J., Domagala M. A Concept of Risk Prioritization in FMEA of Fluid Power Components // Energies. 2022. https://doi.org/10.3390/en15176180
- [34] Ayache M., Nardi A., Singh A. R., et al. Evaluating Generative AI for Functional Safety Analysis of Integrated Circuits // 2026 IEEE 32nd International Symposium on On-Line Testing and Robust System Design (IOLTS). 2026. https://doi.org/10.1109/iolts69666.2026.11633655
Работы [1], [10], [14], [15] и [17] цитируются по препринтам arXiv. Работа [22] – концептуальная и посвящена программному коду.
Нормативные и официальные документы
- [35] AIAG. It's Here...Claim Your Copy of the New AIAG & VDA FMEA Handbook Today! Объявление о выходе руководства, 03.06.2019. https://blog.aiag.org/its-here...claim-your-copy-of-the-new-aiag-vda-fmea-handbook-today ; страница руководства AIAG & VDA FMEA Handbook: https://www.aiag.org/training-and-resources/manuals/details/FMEAAV-1
- [36] ГОСТ Р 27.303-2021 (МЭК 60812:2018). Надежность в технике. Анализ видов и последствий отказов. Введён 01.01.2022 взамен ГОСТ Р 51901.12-2007. Карточка в каталоге стандартов: https://meganorm.ru/Index/75/75897.htm ; текст приказа Росстандарта от 21.09.2021 № 987-ст: https://pravo.ppt.ru/prikaz/rosstandart/n-987-st-261679 (вторичные источники)
- [37] ГОСТ Р 51901.12-2007 (МЭК 60812:2006). Менеджмент риска. Метод анализа видов и последствий отказов. Заменён. Карточка в каталоге стандартов: https://meganorm.ru/Index/44/44254.htm (вторичный источник)
- [38] ГОСТ Р 53165-2008 и ГОСТ Р 53165-2020. Карточки в каталоге стандартов: https://meganorm.ru/Index/48/48163.htm ; https://meganorm.ru/Index/74/74404.htm (вторичные источники)
- [39] SAE J3053. Heavy Duty Truck and Bus Electrical Circuit Performance Requirement for 12/24-Volt Electric Starter Motors. SAE International, редакция 2024-03. https://doi.org/10.4271/j3053_202403
- [40] Патент RU 2745118 C1. Реестр ФИПС: https://new.fips.ru/registers-doc-view/fips_servlet?DB=RUPAT&DocNumber=2745118&TypeFile=html ; Google Patents: https://patents.google.com/patent/RU2745118C1/ru
- [49] ГОСТ 34.602-2020. Информационные технологии. Комплекс стандартов на автоматизированные системы. Техническое задание на создание автоматизированной системы. Введён в действие приказом Росстандарта от 19.11.2021 № 1522-ст с 01.01.2022. Цитаты пп. 4.6.2, 4.6.4.3 и 4.6.4.9 сверены по официальному изданию (М.: Российский институт стандартизации, 2021); текст в справочной системе, открыт 10.11.2026: https://meganorm.ru/mega_doc/norm/gost_gosudarstvennyj-standart/0/gost_34_602-2020_mezhgosudarstvennyy_standart.html (вторичный источник)
Сервисы проверки ссылок
- [41] Служба DOI (проверка регистрации DOI): https://www.doi.org/ , адрес для проверки: https://doi.org/api/handles/ ; поиск по библиографическим данным Crossref: https://api.crossref.org/
Выступления и вебинары
- [42] Гагарин П. Разработка с агентами: от постановки задачи до деплоя. Вебинар 2 по ИИ, УЦ «МАСКОМ» и PVS-Studio, 28.07.2026 (презентация доклада).
- [43] Цымлов А. Агенты пишут код, а кто его проверяет? Вебинар 3 цикла «Качество и безопасность ПО в эпоху GenAI», УЦ «МАСКОМ» и PVS-Studio, 28.08.2026 (презентация доклада).
- [44] Малаканов В. Код, Jev, LLM, WebMCP. Доклад на ИИ-митапе ЦГУ, 06.11.2026 (презентация доклада).
- [45] Скидан С. Как создать Агента-оператора. Доклад на ИИ-митапе ЦГУ, 06.11.2026 (презентация доклада).
- [46] Субботин А. Платформы для совместной работы с ИИ-агентами. Доклад на ИИ-митапе ЦГУ, 06.11.2026 (презентация доклада).
- [47] Овчинников К. Инженер после AI. Доклад на ИИ-митапе ЦГУ, 06.11.2026 (презентация доклада).
- [48] Морозов А. AI в безопасности и безопасность в AI. Доклад на ИИ-митапе ЦГУ, 06.11.2026 (презентация доклада).
Учебные материалы
Учебный кейс ЭС-24 (первый день) и его дополнение к третьему дню составлены для курса. Узел условный, значения подобраны для упражнений. Ссылки в учебном ответе модели (документ 3.3) заложены для упражнения. Источники [38]–[41] используются в ключах для преподавателя; что показала проверка, описано там.
Что не установлено
- Официальные тексты ГОСТ Р 27.303-2021, ГОСТ Р 51901.12-2007 и ГОСТ Р 53165 на сайте Росстандарта не сверялись: сведения о статусе, датах и замене приведены по вторичным источникам – каталогу стандартов и тексту приказа на справочных сайтах. Перед использованием в документах организации сверьте с официальным источником.
- Содержание руководства AIAG & VDA FMEA Handbook не пересказывается: руководство платное, использованы только открытое объявление AIAG и научная публикация [33].
- Полные тексты ГОСТ Р 53165-2008 и SAE J3053 не проверялись.
Автор курса
Виталий Пиков
- Архитектор информационной безопасности • РБПО • DevSecOps • AppSec
- Лектор и автор образовательных программ по ИБ и РБПО
Телефон: +7 (963) 782-92-78 · E-mail: vitaly@pikov.expert · Сайт: https://pikov.expert · Telegram: @UnderLineSecurity