МОДУЛЬ 1 · ТЕМА 1.1

Языковые модели и чат-сервисы: что умеют и где ошибаются

Понять инструмент, чтобы знать, где ему доверять, а где проверять каждую строчку

День 1 · Виталий Пиков · архитектор информационной безопасности · pikov.expert

1.1

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
1

Курс за пять дней

Теории минимум. Всё, что говорим, проверяем руками на учебном узле

1

16.11 Языковые модели и запросы

2

18.11 Защита информации и техническая документация

3

20.11 Поиск решений и анализ отказов

4

23.11 Расчёты и данные испытаний

5

25.11 ИИ в работе подразделения, свой сценарий

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
2

Вопросы к группе

Кто уже пользовался ИИ-сервисами? Какими?

У кого открыт доступ с рабочего места?

Какую задачу вы бы первой отдали ИИ?

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
3

Как модель составляет ответ

Обучена на огромном объёме текстов

Не ищет готовый ответ, а по частям составляет продолжение текста

Сильная сторона: связный текст, черновики, сводки, таблицы

Слабая сторона: правдоподобное вместо верного, если верного она не знает

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
4

Что есть в чат-сервисе

ФункцияЧто важно знать
Контекст диалогаМодель видит текущий чат и файлы в нём, объём ограничен
История чатовХранится у сервиса, удаляется по-разному
Файлы и изображенияПересказ, таблицы, вопросы по тексту. Распознанное проверяем
Режим рассужденияСтроит шаги перед ответом. Может помочь в многошаговых задачах, отвечает дольше
Поиск в интернетеСвежие сведения, но ссылки всё равно открываем
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
5

Сервисы на курсе

По справке и соглашениям сервисов на 10.11.2026. Функции меняются – проверяем в интерфейсе

СервисЧейЧто важно
GigaChatСбербанкСбер ID или телефон. По соглашению: личное некоммерческое использование, без персональных данных в запросах
Алиса AIЯндексРежим «Эксперт», опция «Алиса Плюс». История без опции – 14 дней
DeepSeekКНРДанные хранятся в КНР, идут в обучение, пока это не отключено
QwenСингапурДанные хранятся в Сингапуре, обезличенный контент может идти в обучение
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
6

Доступ

Учётная запись: Сбер ID, Яндекс ID, почта или телефон

Бесплатно: GigaChat, Алиса AI, Qwen. Подписка – больше запросов и функций

Личный и корпоративный доступ – разные условия обработки данных

На работе доступ – по заявке, через подразделение, которое его выдаёт

Не обходим: личный телефон, домашняя почта, флешка

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
7

ОГРАНИЧЕНИЯ

Где модели ошибаются

Пять типичных ошибок и что с ними делать

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
8

Выдуманные ссылки

Модели подбирали литературу для систематических обзоров. Доля выдуманных ссылок – от 28,6 до 91,4 % в зависимости от модели

Chelli M. et al. JMIR, 2024. doi.org/10.2196/53164 · модели 2023 года

от 28,6 до 91,4 %

Доля выдуманных ссылок

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
9

Ещё четыре ошибки

Farquhar S. et al. Nature, 2024 · Mysior M., Iniotakis C. Research in Engineering Design, 2026

1

Несовместимые ответы на один фактический вопрос – повод проверить. Одинаковые ответы ещё не гарантия

2

Устаревшие сведения – новых редакций стандартов модель может не знать

3

Вычисления – верная методика, неверные числа и единицы

4

Согласие с ошибкой в вопросе – неверную посылку модель чаще принимает, чем поправляет

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
10

Главный вывод

Ответ модели всегда проверяет инженер. Модель экономит время на черновике, ответственность – на том, кто использует результат

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
11

От чата к агенту

Ступени условные. Различие в том, кто выбирает следующий шаг: на ступенях 1–3 – сценарий программы и человек, у агента – модель. Подробнее – в дополнительном материале и в модуле 5

1

Чат – отвечает на ваш текст

2

Чат с файлами и поиском – читает документы и страницы

3

Помощник по документам – ищет в базе документов организации

4

Агент – сам вызывает инструменты и действует

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
12

Как работает агент: модель выбирает следующий шаг

Как работает агент: модель выбирает следующий шаг

Интерактивная версия – diagrams/d1-cikl-agenta.html

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
13

Правило с первого занятия

В сервисы – только учебные и открытые материалы

Рабочие документы, переписку, фамилии, обозначения изделий не вставляем

Почему так строго – в среду, тема 2.1

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
14

ПРАКТИКА 1.1 · 09:30–11:55

Пробуем сервисы на учебном узле

Интерфейс, одна задача в разных сервисах, поиск ошибок, карточка задачи

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
15

Учебный узел ЭС-24

Узел условный, значения учебные. Кейс целиком можно отправлять в сервисы

ЧтоЗначение
Бортовая сеть24 В
Генератор28 В, 80 А, встроенный регулятор
Батареи2 × 12 В, 190 А·ч, последовательно
Ток покоя по ТЗне более 40 мА через 30 мин
Стоянка по ТЗ14 суток до −25 °C, пуск без внешнего источника
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
16

Схема учебного узла ЭС-24

Схема учебного узла ЭС-24

Интерактивная версия – diagrams/d1-uzel-es24.html

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
17

Задание 1. Осмотреть интерфейс

30 мин

1

Новый чат, история, удаление диалога

2

Загрузка файла и изображения

3

Режим рассуждения, поиск в интернете

4

Настройки данных: хранение истории, использование для обучения

5

Лимиты: длина сообщения, число запросов

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
18

Задание 2. Одна задача – разные сервисы

60 мин

1

2а. Замечание З-3 (просадка до 26,1 В) в два-три сервиса, каждый раз новый чат

2

Сравнить по таблице критериев

3

2б. Найти ошибки в готовом ответе из раздела 4 кейса

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
19

Задание 3. Карточка инженерной задачи

30 мин

1

Исходные данные – что известно

2

Ожидаемый результат – что получить и в каком виде

3

Критерии приёмки – по чему примем результат

4

Ограничения – что задано, чего не делать

5

Карточка для З-1 и для одной своей задачи, без служебных сведений

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
20

Задание повышенной сложности. Контрольный набор вопросов для сервиса

30–45 мин

1

Для тех, кто справился с основными заданиями. Можно сделать и после занятия

2

Пять вопросов по кейсу, верный ответ записан заранее

3

Прогон в сервисе и сверка с эталоном

4

Повтор во втором сервисе или в новом чате

5

Результат: контрольный набор и таблица результатов

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
21

Автор курса – Виталий Пиков

Регалии

Архитектор информационной безопасности · РБПО · DevSecOps · AppSec

Лектор и автор образовательных программ по ИБ и РБПО

Телефон

+7 (963) 782-92-78

E-mail

vitaly@pikov.expert

Сайт

https://pikov.expert

Telegram

@UnderLineSecurity

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
22