Модуль 1 · тема 1.1

Языковые модели и чат-сервисы: что умеют и где ошибаются

Понять инструмент, чтобы знать, где ему доверять, а где проверять каждую строчку

День 1 · Виталий Пиков · архитектор информационной безопасности · pikov.expert

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
1

Кто ведёт курс

Виталий Пиков

Архитектор информационной безопасности

Преподаватель

Автор образовательных программ

Темы программ

Информационная безопасность и разработка безопасного программного обеспечения

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
2

Цель первой темы

Цель первой темы

Понять, с каким инструментом имеем дело

Где ему можно доверять

Где проверять каждую строчку

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
3

О курсе

Пять дней, каждый день – две темы

  1. День 1Языковые модели и запросы
  2. День 2Защита информации и техническая документация
  3. День 3Поиск решений и анализ отказов
  4. День 4Расчёты и данные испытаний
  5. День 5ИИ в работе подразделения, свой рабочий сценарий
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
4

О курсе

Пять дней, каждый день – две темы

  1. День 1Языковые модели и запросы
  2. День 2Защита информации и техническая документация
  3. День 3Поиск решений и анализ отказов
  4. День 4Расчёты и данные испытаний
  5. День 5ИИ в работе подразделения, свой рабочий сценарий
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
5

О курсе

Пять дней, каждый день – две темы

  1. День 1Языковые модели и запросы
  2. День 2Защита информации и техническая документация
  3. День 3Поиск решений и анализ отказов
  4. День 4Расчёты и данные испытаний
  5. День 5ИИ в работе подразделения, свой рабочий сценарий
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
6

Правило курса

Правило курса

Теории минимум

Всё, что говорим, проверяем руками на учебном узле

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
7

Сегодня

Как пройдёт день

  1. Лекция 1.1

    Языковые модели и чат-сервисы

  2. Практика

    Пробуем сервисы сами

  3. Лекция 1.2

    Запросы для инженерных задач

  4. Практика

    Запросы на учебном узле

  5. После занятия

    Самостоятельная работа и контрольная точка модуля 1 – до начала дня 2

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
8

Сегодня

Как пройдёт день

  1. Лекция 1.1

    Языковые модели и чат-сервисы

  2. Практика

    Пробуем сервисы сами

  3. Лекция 1.2

    Запросы для инженерных задач

  4. Практика

    Запросы на учебном узле

  5. После занятия

    Самостоятельная работа и контрольная точка модуля 1 – до начала дня 2

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
9

Так будет каждый день

Так будет каждый день

Лекция даёт понимание,
навык появляется только на практике

ЛекцияПрактика на учебном узле ЛекцияПрактика на учебном узле

На практику отведено больше всего времени

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
10

Материалы

Всё есть на сайте курса

Лекции
Слайды
Задания
Учебный кейс

Открыть в браузере или скачать архивом

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
11

О задачах слушателей

Прежде чем начать

О задачах, с которыми приходят на этот курс

По ним подбираются примеры на весь курс

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
12

О задачах слушателей

Прежде чем начать

О задачах, с которыми приходят на этот курс

По ним подбираются примеры на весь курс

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
13

Примеры для курса

Задачи из анкет слушателей

Программы и методики испытаний
Протоколы испытаний
Нормоконтроль и проверка конструкторской документации
Технические задания и акты
План-графики
Деловые письма
Поиск аналогов
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
14

К пятому дню

К пятому дню

Одна своя задача – и рабочий сценарий с моделью для неё

Хорошо, если это будет задача из вашей ежедневной работы

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
15

Начнём с главного

Как модель составляет ответ

  1. Обучена на огромном объёме текстов

    Усвоила, как обычно продолжаются фразы, рассуждения, таблицы и программы

  2. Вы задаёте вопрос

    Готовый ответ в базе модель не ищет

  3. По частям составляет продолжение текста

    То, что лучше всего подходит к запросу и ко всему, что уже есть в диалоге

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
16

Начнём с главного

Как модель составляет ответ

  1. Обучена на огромном объёме текстов

    Усвоила, как обычно продолжаются фразы, рассуждения, таблицы и программы

  2. Вы задаёте вопрос

    Готовый ответ в базе модель не ищет

  3. По частям составляет продолжение текста

    То, что лучше всего подходит к запросу и ко всему, что уже есть в диалоге

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
17

Сильные стороны

Что у модели получается хорошо

Связный текст

Перенос приёмов

Из одной области в другую

Быстрые заготовки

Черновики, сводки и таблицы

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
18

Аналогия

Очень начитанный помощник

  • Прочитал миллионы книг, статей и инструкций и пишет по вашей просьбе за секунды
  • Помнит не дословно, а то, как обычно пишут
  • Как написано в вашем документе, не знает, пока вы его не покажете
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
19

Аналогия

Очень начитанный помощник

  • Прочитал миллионы книг, статей и инструкций и пишет по вашей просьбе за секунды
  • Помнит не дословно, а то, как обычно пишут
  • Как написано в вашем документе, не знает, пока вы его не покажете
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
20

Правдоподобное и верное

Слабая сторона

Правдоподобное и верное часто совпадают. Но не всегда

Языковые модели склонны к галлюцинациям: порождают правдоподобный, но не соответствующий фактам текст

Huang L. et al. ACM Transactions on Information Systems, 2025 · doi.org/10.1145/3703155

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
21

Правдоподобное и верное

Слабая сторона

Правдоподобное и верное часто совпадают. Но не всегда

Языковые модели склонны к галлюцинациям: порождают правдоподобный, но не соответствующий фактам текст

Huang L. et al. ACM Transactions on Information Systems, 2025 · doi.org/10.1145/3703155

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
22

Модель – недоверенная система

ИТ-форум «Цифровые решения», октябрь 2026

Большая языковая модель – статистическая. Поэтому она не может быть доверенной по умолчанию. Мы работаем с недоверенной системой, и её нужно встроить в доверенную среду
АКАнна Кулашовавице-президент «Лаборатории Касперского»
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
23

Генератор и детерминированные проверки

Вебинар о проверке кода, который пишут агенты

Языковая модель – вероятностный генератор, и она может ошибаться. А компилятор и проверка типов не думают, они знают. Вероятностный генератор, обвешанный детерминированными проверками, – это и есть надёжная система
АЦАлексей Цымловцикл «Качество и безопасность ПО в эпоху GenAI», 28.08.2026
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
24

Для инженера

Детерминированные проверки

Расчёт

Проверяем по исходным данным и методике

Измерение

Оцениваем с учётом погрешности

Сверка с документом

Вывод сверяем с документом

Модель пишет черновик. Проверяем тем, что на одних и тех же данных всегда даёт один и тот же результат. Такие проверки повышают надёжность, но не гарантируют правильность

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
25

Модель – толковый стажёр

ИИ-митап ЦГУ, 06.11.2026

Модель похожа на толкового стажёра в первый день
АСАртём Субботиндоклад «Платформы для совместной работы с ИИ-агентами»
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
26

Аналогия

Стажёр в первый день

Толковый стажёр

  • Умный
  • Быстро читает и пишет

Пользы немного без

  • инструкции
  • доступа к нужным документам
  • руководителя, который принимает работу
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
27

По словам Субботина

Сотрудником стажёра делают пять вещей

Должностная инструкция
Доступ к нужным папкам и системам
Список задач
Журнал того, что сделано
Руководитель, который подписывает

Всё это вместе

Харнес – обвязка вокруг модели

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
28

По словам Субботина

Сотрудником стажёра делают пять вещей

Должностная инструкция
Доступ к нужным папкам и системам
Список задач
Журнал того, что сделано
Руководитель, который подписывает

Всё это вместе

Харнес – обвязка вокруг модели

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
29

Модель – повар, обвязка – кухня

Образ из доклада

Модель – это повар, а обвязка – кухня

В сетевом кафе бургер одинаковый, кто бы ни стоял у гриля. Уже готовы:

Техкарты

Заготовки

Порядок

Повар заболел, вышел другой, и кафе работает дальше

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
30

Обвязка

Кухня вокруг модели

Обвязка – кухня
Модель – повар
  • Чат-сервис даёт часть такой кухни
  • В организациях – внутренние системы на основе модели
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
31

Решает обвязка

Вывод докладчика

Очень часто решает вопрос не модель, какой бы умной она ни была, а обвязка
АСАртём СубботинИИ-митап ЦГУ, 06.11.2026
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
32

Случай из доклада

Когда доступ внезапно закрылся

  1. Осенью у многих закрылся доступ

    Внезапно, к одному популярному зарубежному инструменту

  2. Работа в собственной обвязке

    Просто переключились на другую модель, вплоть до локальной

  3. Недосолено, но работает

    Так об этом сказал Субботин

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
33

Инструкции в нескольких вариантах

Совет докладчика

Инструкции готовить заранее, в нескольких вариантах

Возможно, завтра будет работать другая модель

Инструкция

для самой сильной

Инструкция

для модели попроще
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
34

Сама модель

Где работает модель

Модель

Программа, которая работает на серверах

Внешние сервисы

На серверах разработчика

Внутренние системы

На серверах организации

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
35

Дополнительные функции

Что есть в чат-сервисе

Вы работаете с моделью через чат-сервис

Контекст диалога

История чатов

Файлы и изображения

Режим рассуждения

Поиск в интернете

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
36

Что есть в чат-сервисе · 1 из 5

Контекст диалога

Модель учитывает текст текущего чата

Ваши сообщенияОтветы моделиЗагруженные файлы

Объём контекста ограничен. В очень длинном диалоге модель может хуже учитывать начало или совсем перестать его учитывать

началоочень длинный диалог
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
37

Что есть в чат-сервисе · 1 из 5

Контекст диалога

Модель учитывает текст текущего чата

Ваши сообщенияОтветы моделиЗагруженные файлы

Объём контекста ограничен. В очень длинном диалоге модель может хуже учитывать начало или совсем перестать его учитывать

началоочень длинный диалог
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
38

Другие чаты модель не видит

Контекст диалога

Другие ваши чаты модель, как правило, не видит

Если в сервисе не включена специальная функция памяти

Один чат

Загрузили документ

Другой чат

Спрашиваете о документе – модель его не увидит

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
39

Пример с занятий

Пределы контекста: мелочь в огромном проекте

Огромный проект

Агенту отдают миллионы строк

Просьба о мелочи

Скажем, поменять цвет одной кнопки

Скорее всего, он утонет

Контекстное окно кончится, даже очень большое. Работа выйдет долгой и дорогой

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
40

Пример с занятий

Пределы контекста: мелочь в огромном проекте

Огромный проект

Агенту отдают миллионы строк

Просьба о мелочи

Скажем, поменять цвет одной кнопки

Скорее всего, он утонет

Контекстное окно кончится, даже очень большое. Работа выйдет долгой и дорогой

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
41

Весь архив в чате

С документами то же самое

важное

Если вставить в чат весь архив по изделию, модель будет хуже видеть то, что вам действительно важно

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
42

Память работы – в файлах

Совет с вебинара

Память работы держать не в длинном диалоге, который на долгих сессиях портится, а в файлах. Каждую задачу начинать в свежей сессии
АЦАлексей Цымловцикл «Качество и безопасность ПО в эпоху GenAI», 28.08.2026
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
43

В чате это выглядит так

Перенос работы в новый чат

Диалог разросся, и модель начала путаться

  1. Попросите кратко записать

    Что уже сделано и что решено

  2. Откройте новый чат

  3. Начните с этой записи

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
44

Что есть в чат-сервисе · 2 из 5

История чатов

  • Сервис хранит диалоги, к ним можно вернуться
  • Где хранится история и как её удалить, зависит от сервиса и вида доступа
  • Разберём на практике
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
45

Что есть в чат-сервисе · 3 из 5

Файлы и изображения

Многие сервисы принимают документы и картинки. Модель:

Пересказывает
Извлекает таблицы
Отвечает на вопросы по тексту

То, что модель распознала на картинке, тоже нужно проверять

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
46

Что есть в чат-сервисе · 4 из 5

Режим рассуждения

Перед ответом модель строит цепочку промежуточных шагов

  1. Запрос

  2. Шаг

  3. Шаг

  4. Шаг

  5. Ответ

  • На задачах с несколькими шагами это обычно помогает
  • Но отвечает модель дольше
  • Ошибок этот режим не исключает
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
47

Режимы с большим усилием

Режим рассуждения

Режимы с большим усилием – это долго, и они тратят больше ресурсов
АЦАлексей Цымловцикл «Качество и безопасность ПО в эпоху GenAI», 28.08.2026

Для наших упражнений

Включать рассуждение прежде всего в многошаговых задачах

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
48

Что есть в чат-сервисе · 5 из 5

Поиск в интернете

  1. Сервис находит страницы

  2. Опирается на них в ответе

Снижает риск устаревших сведений

Но не отменяет проверку

  • Найденная страница может оказаться неподходящей
  • Пересказ может оказаться неточным
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
49

Чат-сервисы

Сервисы, с которыми работаем на курсе

GigaChatСбербанк
Алиса AIЯндекс
DeepSeekКитай
QwenСингапур

Сведения взяты из справки и пользовательских соглашений сервисов по состоянию на 10.11.2026

Функции и названия меняются часто. На практике проверим их прямо в интерфейсе

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
50

GigaChat

Сервис 1 из 4

GigaChat

Оператор – Сбербанк

Вход
По телефону или через Сбер ID
Режимы
«Рассуждение» и «Исследование»
Ответы
Со ссылками на источники
Данные
Обрабатываются на серверах банка, действует российское право
Запрет
Соглашение запрещает передавать в запросах персональные данные
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
51

GigaChat

Сервис 1 из 4

GigaChat

Оператор – Сбербанк

Вход
По телефону или через Сбер ID
Режимы
«Рассуждение» и «Исследование»
Ответы
Со ссылками на источники
Данные
Обрабатываются на серверах банка, действует российское право
Запрет
Соглашение запрещает передавать в запросах персональные данные
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
52

GigaChat · вход

Несколько деталей из справки

Сбер ID – и без счёта в банке

Для регистрации достаточно сим-карты российского оператора

Если вы не в России

Нужен российский IP-адрес и вход через Сбер ID

Если сервис не работает

Справка первым делом советует отключить VPN

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
53

GigaChat · вход

Несколько деталей из справки

Сбер ID – и без счёта в банке

Для регистрации достаточно сим-карты российского оператора

Если вы не в России

Нужен российский IP-адрес и вход через Сбер ID

Если сервис не работает

Справка первым делом советует отключить VPN

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
54

GigaChat · файлы

Какие документы принимает

DOCX

PDF

Простой текст

20 МБпредел для PDF – или первые 50 страниц

Под каждый файл открывается новый чат. Добавить файл в уже начатый диалог нельзя

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
55

GigaChat · объём и история

Лимиты текста и история чатов

до 4000символов в запросе
около 4000символов в ответе, но не больше

Историю ваших чатов видите только вы, пока сами не нажмёте «Поделиться». Данные при этом обрабатываются на серверах банка

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
56

Лицензия на загруженные материалы

GigaChat · ещё одна строка соглашения

Размещая материалы в сервисе, пользователь даёт банку простую безвозмездную лицензию на них

Ещё и поэтому рабочие документы туда не загружаем

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
57

Алиса AI

Сервис 2 из 4

Алиса AI

Яндекс

Вход
Через Яндекс ID
Рассуждение
Режим «Эксперт»
Лимит
20 запросов в день в «Эксперте» без платной опции
История
14 дней без платной опции
Запросы
Могут использоваться для улучшения сервисов
Отказ
Можно отказаться в настройках Яндекс ID
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
58

Алиса AI

Сервис 2 из 4

Алиса AI

Яндекс

Вход
Через Яндекс ID
Рассуждение
Режим «Эксперт»
Лимит
20 запросов в день в «Эксперте» без платной опции
История
14 дней без платной опции
Запросы
Могут использоваться для улучшения сервисов
Отказ
Можно отказаться в настройках Яндекс ID
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
59

Алиса AI · платная опция

«Алиса Плюс»

  • Больше запросов в режиме «Эксперт»
  • Бессрочное хранение текстовой истории

Подключается только вместе с подпиской Яндекс Плюс и только в России и Беларуси

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
60

Алиса AI: бесплатный доступ

Алиса AI · без платной опции

Пользоваться Алисой можно и бесплатно

Но в часы высокой нагрузки без опции могут отключаться:

Рассуждение
Генерация картинок
Анализ файлов
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
61

Алиса AI · файлы и чаты

Файл – один на сообщение

до 100 МБфайл: Word, PDF или простой текст
до 20 МБкартинка

Удалить все чаты разом нельзя, только по одному

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
62

Обратите внимание

«Алиса Про» – это другое

«Алиса Плюс»

Платная опция чата Алисы AI

«Алиса Про»

Так Яндекс называет тарифы Яндекс 360

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
63

DeepSeek

Сервис 3 из 4

DeepSeek

Китай

Вход
По телефону или почте с паролем, через Google или Apple
Возраст
По условиям сервис рассчитан прежде всего на взрослых
Хранение
В Китае, действует право Китая
Обучение
Данные пользователей используются для обучения моделей, пока вы не отключите это переключателем в настройках
История
В настройках её можно скопировать или удалить
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
64

DeepSeek

Сервис 3 из 4

DeepSeek

Китай

Вход
По телефону или почте с паролем, через Google или Apple
Возраст
По условиям сервис рассчитан прежде всего на взрослых
Хранение
В Китае, действует право Китая
Обучение
Данные пользователей используются для обучения моделей, пока вы не отключите это переключателем в настройках
История
В настройках её можно скопировать или удалить
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
65

DeepSeek: ссылка на диалог

DeepSeek · ссылка на диалог

Осторожнее
со ссылкой на диалог

По условиям его может прочитать любой, у кого есть такая ссылка

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
66

Qwen

Сервис 4 из 4

Qwen

Сингапур

Оператор
Сингапурская компания
Запросы
Обрабатывает Alibaba Cloud, тоже в Сингапуре
Вход
По почте, через Google, GitHub или Apple
Возраст
Пользоваться можно с 18 лет
Хранение
В Сингапуре, действует право Сингапура
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
67

Qwen

Сервис 4 из 4

Qwen

Сингапур

Оператор
Сингапурская компания
Запросы
Обрабатывает Alibaba Cloud, тоже в Сингапуре
Вход
По почте, через Google, GitHub или Apple
Возраст
Пользоваться можно с 18 лет
Хранение
В Сингапуре, действует право Сингапура
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
68

Qwen · обучение моделей

Что идёт в обучение

Обезличенный контент

Сервис может использовать его для обучения

Отказ – письмом

На адрес из соглашения

Отзывы об ответах

Всё равно идут в обучение

«Нравится» и «не нравится»

Разговор сохраняется как часть такого отзыва

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
69

Qwen · обучение моделей

Что идёт в обучение

Обезличенный контент

Сервис может использовать его для обучения

Отказ – письмом

На адрес из соглашения

Отзывы об ответах

Всё равно идут в обучение

«Нравится» и «не нравится»

Разговор сохраняется как часть такого отзыва

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
70

Бесплатный доступ – для личного использования

Отдельно о бесплатном доступе

Бесплатный доступ рассчитан на личное использование

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
71

Бесплатный доступ · что сказано в документах

Некоммерческое использование

GigaChat

  • Совершеннолетнему резиденту России
  • Для личного некоммерческого использования

Алиса AI

  • Условия тоже говорят о некоммерческом использовании
  • Тексты и изображения в иных целях – только с опцией «Алиса Плюс»
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
72

Бесплатный доступ · что сказано в документах

Некоммерческое использование

GigaChat

  • Совершеннолетнему резиденту России
  • Для личного некоммерческого использования

Алиса AI

  • Условия тоже говорят о некоммерческом использовании
  • Тексты и изображения в иных целях – только с опцией «Алиса Плюс»
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
73

Алиса AI: для развлекательных целей

Алиса AI · в самом тексте ещё строже

Сервис предоставляется для некоммерческого использования в домашних условиях, в ограниченном кругу людей, для развлекательных целей
АУсловия использования сервиса «Алиса AI»по состоянию на 10.11.2026
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
74

Рабочие задачи

Что делают организации

Заключают отдельные договоры

Разворачивают собственные решения

Какой доступ разрешён именно вам, определяют правила вашей организации

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
75

Кроме внешних сервисов

Внутренние чаты организаций

Собственные серверы организации Внутренний чат
Внешние сервисы
  • Во многих организациях есть чаты на моделях, развёрнутых на собственных серверах
  • Нужны для данных, которые нельзя отправлять наружу
  • Если такой чат у вас есть, учитывайте его, когда выбираете инструмент
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
76

Кроме внешних сервисов

Внутренние чаты организаций

Собственные серверы организации Внутренний чат
Внешние сервисы
  • Во многих организациях есть чаты на моделях, развёрнутых на собственных серверах
  • Нужны для данных, которые нельзя отправлять наружу
  • Если такой чат у вас есть, учитывайте его, когда выбираете инструмент
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
77

Какая модель стоит за окном чата

И последнее о сервисах

Какая модель стоит за окном чата, сервисы говорят скупо

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
78

Модель за окном чата

Что удаётся узнать

СервисОткуда сведенияЧто известно
Алиса AIУсловия сервисаДля ответа могут использоваться разные модели искусственного интеллекта
DeepSeekАпрельский анонс четвёртой версииДве модели и два режима чата: экспертный и быстрый
DeepSeekДокументы сервисаКакая модель работает в чате сейчас, установить нельзя
QwenИнтерфейсНазвание модели видно, официального описания нет
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
79

Модель за окном чата

Что удаётся узнать

СервисОткуда сведенияЧто известно
Алиса AIУсловия сервисаДля ответа могут использоваться разные модели искусственного интеллекта
DeepSeekАпрельский анонс четвёртой версииДве модели и два режима чата: экспертный и быстрый
DeepSeekДокументы сервисаКакая модель работает в чате сейчас, установить нельзя
QwenИнтерфейсНазвание модели видно, официального описания нет
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
80

Отмечайте сервис, режим и дату

Что из этого следует

Сервис может сменить модель
без предупреждения

Вчерашний удачный ответ не гарантирует сегодняшний

Когда записываете результат, отмечайте:

Сервис
Режим
Дату
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
81

Доступ

Доступ к сервисам

Вход
Учётная запись сервиса: Сбер ID, Яндекс ID, почта или телефон
Бесплатно
GigaChat, Алиса AI и Qwen
Условия оплаты веб-чата DeepSeek
в его документах не описаны
Подписка
Обычно больше запросов, дополнительные функции, иногда более сильные модели
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
82

Доступ

Доступ к сервисам

Вход
Учётная запись сервиса: Сбер ID, Яндекс ID, почта или телефон
Бесплатно
GigaChat, Алиса AI и Qwen
Условия оплаты веб-чата DeepSeek
в его документах не описаны
Подписка
Обычно больше запросов, дополнительные функции, иногда более сильные модели
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
83

Доступ

Личный и корпоративный доступ

Личная учётная запись

Корпоративный доступ

Условия обработки данных у них разные

Что разрешено в рабочих задачах, определяют правила вашей организации, а не тариф

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
84

Доступ

У сервисов есть лимиты

Длина сообщения
Размер файла
Число запросов

Если лимит превысить, сервис предупредит или временно ограничит доступ

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
85

Доступ на работе

Как получить доступ на работе

  1. Закрыт по умолчанию

    На предприятиях доступ к ИИ-сервисам часто закрыт

  2. Заявка с обоснованием

    По ней доступ открывается

  3. Сервис не открывается с рабочего места

    Обращайтесь в подразделение, которое выдаёт доступ

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
86

Доступ на работе

Обходные пути не годятся

Личный телефон

Пересылка файлов на домашнюю почту

Флешка

Именно так рабочие данные и утекают

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
87

Теневой искусственный интеллект

У этого явления есть название

Теневой искусственный интеллект
Это когда сотрудник вышел в интернет и пошёл спрашивать онлайн-доступные модели
ПГПётр Ганелинмодератор сессии, ИТ-форум «Цифровые решения», октябрь 2026
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
88

ИТ-форум «Цифровые решения», октябрь 2026

Одним запретом здесь не обойтись

Жёсткие запреты немедленно порождают теневые структуры

АК

Анна Кулашовавице-президент
«Лаборатории Касперского»

С силой тяжести бесполезно сражаться, нужно быть умным садовником. А если для вас это очень критично – не пользуйтесь вообще

АБ

Андрей БелеванцевИнститут системного
программирования РАН

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
89

ИТ-форум «Цифровые решения», октябрь 2026

Одним запретом здесь не обойтись

Жёсткие запреты немедленно порождают теневые структуры

АК

Анна Кулашовавице-президент
«Лаборатории Касперского»

С силой тяжести бесполезно сражаться, нужно быть умным садовником. А если для вас это очень критично – не пользуйтесь вообще

АБ

Андрей БелеванцевИнститут системного
программирования РАН

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
90

Ответит только рабочий процесс

ИТ-форум «Цифровые решения», октябрь 2026

Только ваш рабочий процесс на это ответит. Если вы работаете внутри атомной станции, наверное, нужно даже запрещать
ДСДмитрий Служеникинответственный секретарь консорциума безопасности технологий ИИ
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
91

Правила использования решает организация

Вывод для нас

Правила использования решает организация

Наша задача – знать их и, если инструмент нужен, просить его законным путём

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
92

Форум All-over-IP, ноябрь 2026

Знакомые названия встречаются и в бизнесе

НГ

Н. Галкин

директор департамента ИТ «Кофемании»

«Алиса»

Сверка названий должностей в кадровых системах

GigaChat

В мобильном приложении

Но модель, сервис и способ доступа – это разные вещи

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
93

Форум All-over-IP, ноябрь 2026

Знакомые названия встречаются и в бизнесе

НГ

Н. Галкин

директор департамента ИТ «Кофемании»

«Алиса»

Сверка названий должностей в кадровых системах

GigaChat

В мобильном приложении

Но модель, сервис и способ доступа – это разные вещи

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
94

Ограничения

Где модели ошибаются

Пять типичных ошибок и что с ними делать

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
95

Где модели ошибаются

Для каждой ошибки посмотрим три вещи

Как она выглядит в ответе

Почему она возникает

Что делает инженер, чтобы её поймать

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
96

Свойства самого инструмента

Где модели ошибаются

Цифры из исследований будут на слайдах. Запоминать их не нужно

Это не редкие сбои, а свойства самого инструмента

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
97

Ошибка 1 из 5

Выдуманные факты, ссылки и числа

Галлюцинация

Текст модели, гладкий и грамматически правильный,
но фактически неверный или не подтверждённый
внешними данными

Гладкость здесь и подводит:
неверный ответ звучит так же уверенно, как верный

Alansari A., Luqman H. Препринт arXiv, 2025 · doi.org/10.48550/arXiv.2510.06265

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
98

Особенно хорошо это видно на ссылках

Доля выдуманных ссылок зависела от модели

Модели подбирали литературу для систематических обзоров

Самая низкая

28,6 %

Самая высокая

91,4 %

Это модели 2023 года и одна узкая задача

Chelli M. et al. Journal of Medical Internet Research, 2024 · doi.org/10.2196/53164

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
99

Особенно хорошо это видно на ссылках

Доля выдуманных ссылок зависела от модели

Модели подбирали литературу для систематических обзоров

Самая низкая

28,6 %

Самая высокая

91,4 %

Это модели 2023 года и одна узкая задача

Chelli M. et al. Journal of Medical Internet Research, 2024 · doi.org/10.2196/53164

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
100

Проверка 2026 года

И у современных моделей – выдуманные ссылки

23–48 %выдуманных ссылок
Год
2026
Задача
Вопросы по анатомии
Модели
Три современные,
в том числе DeepSeek

Ülkir M., Paslı B. Clinical Anatomy, 2026 · doi.org/10.1002/ca.70187

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
101

Что делать со ссылками

Что пишут авторы этих работ

Первая работа

Любые ссылки, которые порождают такие модели, требуют тщательной проверки

Chelli M. et al. Journal of Medical Internet Research, 2024 · doi.org/10.2196/53164

Вторая работа

Проверка человеком остаётся обязательной,
прежде чем включать такие ссылки
в научные или учебные материалы

Ülkir M., Paslı B. Clinical Anatomy, 2026 · doi.org/10.1002/ca.70187

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
102

И всё равно открываю каждую ссылку

Из практики лектора

Когда готовлю исследования, подключаю поиск по базам научных статей: каждая ссылка должна вести на реальную публикацию, а не на выдуманную

И всё равно открываю каждую

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
103

ИИ-митап ЦГУ, 06.11.2026 · выступление представителя банка

Выдумывают модели не только ссылки

Испытания агента

  • Агент отвечал клиентам
  • Напридумывал какие-то цифры и одобрил кредит
  • Хорошо, что это был сотрудник банка, а не клиент

Вывод докладчика

  • Стоп-условия
  • Поэтапный запуск: сначала на коллегах, потом на ограниченной аудитории
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
104

ИИ-митап ЦГУ, 06.11.2026 · выступление представителя банка

Выдумывают модели не только ссылки

Испытания агента

  • Агент отвечал клиентам
  • Напридумывал какие-то цифры и одобрил кредит
  • Хорошо, что это был сотрудник банка, а не клиент

Вывод докладчика

  • Стоп-условия
  • Поэтапный запуск: сначала на коллегах, потом на ограниченной аудитории
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
105

В ответе модели

Всё это нужно проверять

Номер стандарта
Пункт документа
Фамилия автора
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
106

Действие инженера

Как проверять ссылку – три шага

  1. Открыть документ

    Он существует, и номер совпадает

  2. Найти пункт

    Тот, на который ссылается модель

  3. Прочитать этот пункт целиком

    Говорит ли он то, что утверждает модель

Самая коварная ошибка – на третьем шаге:
документ настоящий, а пункт о другом

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
107

Действие инженера

Как проверять ссылку – три шага

  1. Открыть документ

    Он существует, и номер совпадает

  2. Найти пункт

    Тот, на который ссылается модель

  3. Прочитать этот пункт целиком

    Говорит ли он то, что утверждает модель

Самая коварная ошибка – на третьем шаге:
документ настоящий, а пункт о другом

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
108

Где модели ошибаются

Ещё четыре ошибки

ВТОРАЯ

Разные ответы на один и тот же вопрос

ТРЕТЬЯ

Устаревшие сведения

ЧЕТВЁРТАЯ

Вычисления и инженерная логика

ПЯТАЯ

Согласие с ошибкой в вопросе

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
109

Ошибка 2 из 5

Разные ответы на один и тот же вопрос

Одинаковый вопрос

Ответ 1

Ответ 2

Ответ 3

Модель может ответить по-разному – в том числе по существу

Исследователи из Оксфорда: если на один фактический вопрос ответы несовместимы по смыслу, модель, скорее всего, сочиняет

Farquhar S. et al. Nature, 2024 · doi.org/10.1038/s41586-024-07421-0

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
110

Зачем это знать пользователю

Зачем это нужно

Если понять, когда запрос, скорее всего, приведёт к выдумке, пользователь знает, где с моделью нужно быть особенно осторожным
Исследователи из Оксфордаавторы работы в журнале Nature, 2024

Farquhar S. et al. Nature, 2024 · doi.org/10.1038/s41586-024-07421-0

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
111

Обратное неверно

Обратное неверно

Модель может уверенно повторять одну и ту же ошибку

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
112

Действие инженера

Если ответ важен

Задайте вопрос ещё раз в новом чате и сравните факты

Расхождение

Повод проверить

Совпадение

Проверку не заменяет

Если просите «предложи возможные причины», разные наборы ответов – это нормально

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
113

Действие инженера

Если ответ важен

Задайте вопрос ещё раз в новом чате и сравните факты

Расхождение

Повод проверить

Совпадение

Проверку не заменяет

Если просите «предложи возможные причины», разные наборы ответов – это нормально

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
114

Ошибка 3 из 5

Устаревшие сведения

Модель знает то, что было в обучающих данных
на момент обучения
Может не знать
Новые редакции стандартов
Цены
Изменения в законодательстве

Режим поиска помогает, но ссылки всё равно надо открывать

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
115

Случай из практики лектора

Вопрос о новой редакции стандарта

ГОСТ Р 56939
стандарт безопасной
разработки программ

Редакция
2016 года

заменена

Редакция
2024 года

новая
Запрос

Вопрос о новой редакции

Ответ модели

Нет, вы ошибаетесь, такого ГОСТа нет.
Я знаю ГОСТ 2016 года

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
116

Случай из практики лектора

Вопрос о новой редакции стандарта

ГОСТ Р 56939
стандарт безопасной
разработки программ

Редакция
2016 года

заменена

Редакция
2024 года

новая
Запрос

Вопрос о новой редакции

Ответ модели

Нет, вы ошибаетесь, такого ГОСТа нет.
Я знаю ГОСТ 2016 года

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
117

Случай из практики лектора

Модель не врёт нарочно

Возможно, новой редакции не было в её обучающих данных

По одному ответу
причину не установить

И при этом модель спорит уверенно

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
118

Действие инженера

Со свежими документами порядок такой

  1. Сначала найти документ

    Поиском или взять его у себя

  2. И только потом дать модели

С вашими стандартами и техническими условиями – то же самое: модель знает ту редакцию, которую видела при обучении, если видела вообще

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
119

Действие инженера

Со свежими документами порядок такой

  1. Сначала найти документ

    Поиском или взять его у себя

  2. И только потом дать модели

С вашими стандартами и техническими условиями – то же самое: модель знает ту редакцию, которую видела при обучении, если видела вообще

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
120

Ошибка 4 из 5

Вычисления и инженерная логика

Модель может верно

  • описать методику

И ошибиться

  • в подстановке чисел
  • в переводе единиц
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
121

Исследование 2026 года

Типовые сбои на инженерных задачах

Модели решали инженерные задачи
по расчёту конструкций и оптимизации

Геометрические рассуждения

Многошаговые вычисления

Выбор при противоречивых ограничениях

Mysior M., Iniotakis C. Research in Engineering Design, 2026 · doi.org/10.1007/s00163-026-00504-1

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
122

Обзор применения моделей в машиностроении

Обзор говорит то же самое

Модели полезны как помощник для работы

с документами
с данными
с инструкциями

Но не как замена инженерного расчёта и проверки

Sorour S., Sahbel A. Journal of Intelligent Manufacturing, 2026 · doi.org/10.1007/s10845-026-02927-y

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
123

Вывод авторов обзора

Вывод авторов обзора

Языковые модели становятся полезным смысловым и координирующим звеном в инженерной работе, но не надёжной заменой инженерным инструментам
Sorour S., Sahbel A.обзор применения моделей в машиностроении, 2026

Sorour S., Sahbel A. Journal of Intelligent Manufacturing, 2026 · doi.org/10.1007/s10845-026-02927-y

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
124

Практическое правило

Считает инструмент, пересчитываете вы

  1. Модель

    Методику может напомнить, формулу – подсказать

  2. Инструмент

    Считает: таблица, расчётная программа, калькулятор

  3. Вы

    Каждую цифру, от которой зависит решение, пересчитываете сами

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
125

Ошибка 5 из 5

Согласие с ошибкой в вопросе

Если вопрос исходит из неверного допущения, модель чаще примет его, чем поправит

Подробнее – во второй теме

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
126

Главный вывод

Главный вывод

Ответ модели всегда проверяет инженер

Модель экономит время на черновике, но отвечает за результат тот, кто его использует

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
127

Программа для самолёта

Пример, близкий инженерам

Когда пишут программу для системы, которая управляет самолётом, ответственность берёт на себя человек. Он обязан перепроверить этот код
АЦАлексей Цымловцикл «Качество и безопасность ПО
в эпоху GenAI», 28.08.2026
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
128

Люди для принятия решений ещё нужны

Ведущий того же вебинара

Не стоит слишком сильно доверять искусственному интеллекту ключевые решения. Люди для принятия решений ещё нужны
ВФВалерий ФилатовPVS-Studio
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
129

Акт приёмки и рубильник

Те, кто внедряет такие системы

Тот, кто подписал акт приёмки, тот и отвечает

ДСДмитрий СлуженикинИТ-форум «Цифровые решения», октябрь 2026

Рубильник должен быть в руках человека

АСАртём СубботинИИ-митап ЦГУ, 06.11.2026

Черновик письма готовит модель. Отправлять или нет, решает ответственный сотрудник, ещё раз его прочитав

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
130

Акт приёмки и рубильник

Те, кто внедряет такие системы

Тот, кто подписал акт приёмки, тот и отвечает

ДСДмитрий СлуженикинИТ-форум «Цифровые решения», октябрь 2026

Рубильник должен быть в руках человека

АСАртём СубботинИИ-митап ЦГУ, 06.11.2026

Черновик письма готовит модель. Отправлять или нет, решает ответственный сотрудник, ещё раз его прочитав

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
131

Когда я работаю с моделью

Я – архитектор и заказчик

  1. Ставлю задачу

  2. Модель пишет

    Текст или код

  3. Принимаю результат

    И отвечаю за него

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
132

Обратная сторона правила

Парадокс надзора

Чтобы проверить результат, нужна собственная компетенция. А если делегировать слишком много, навык самостоятельной работы может ослабевать
КОКирилл Овчинниковдоклад «Инженер после AI», ИИ-митап ЦГУ, 06.11.2026

На практике

ИИ стоит брать помощником в той работе, которую вы понимаете и можете проверить сами

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
133

Обратная сторона правила

Парадокс надзора

Чтобы проверить результат, нужна собственная компетенция. А если делегировать слишком много, навык самостоятельной работы может ослабевать
КОКирилл Овчинниковдоклад «Инженер после AI», ИИ-митап ЦГУ, 06.11.2026

На практике

ИИ стоит брать помощником в той работе, которую вы понимаете и можете проверить сами

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
134

Артём Субботин · ИИ-митап ЦГУ, 06.11.2026

Шесть задач, где хватает даже простой модели

Протокол совещания

Модель пишет решения, сроки и ответственных

Человек проверяет и рассылает

Ответ на обращение

Черновик по регламенту со ссылкой на пункт

Человек правит и подписывает

Разбор почты

Модель раскладывает письма по темам и исполнителям

Человек смотрит
только спорные

Проверка документа

Модель проходит по чек-листу и отмечает, где не так

Человек смотрит
отмеченные пункты

Сводка для руководителя

Раз в неделю – что сделано и что просрочено

Поиск по документам

Модель находит ответ во внутренних документах и показывает, откуда он

Человек проверяет источник

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
135

Артём Субботин · ИИ-митап ЦГУ, 06.11.2026

Шесть задач, где хватает даже простой модели

Протокол совещания

Модель пишет решения, сроки и ответственных

Человек проверяет и рассылает

Ответ на обращение

Черновик по регламенту со ссылкой на пункт

Человек правит и подписывает

Разбор почты

Модель раскладывает письма по темам и исполнителям

Человек смотрит
только спорные

Проверка документа

Модель проходит по чек-листу и отмечает, где не так

Человек смотрит
отмеченные пункты

Сводка для руководителя

Раз в неделю – что сделано и что просрочено

Поиск по документам

Модель находит ответ во внутренних документах и показывает, откуда он

Человек проверяет источник

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
136

Артём Субботин · ИИ-митап ЦГУ, 06.11.2026

Шесть задач, где хватает даже простой модели

Протокол совещания

Модель пишет решения, сроки и ответственных

Человек проверяет и рассылает

Ответ на обращение

Черновик по регламенту со ссылкой на пункт

Человек правит и подписывает

Разбор почты

Модель раскладывает письма по темам и исполнителям

Человек смотрит
только спорные

Проверка документа

Модель проходит по чек-листу и отмечает, где не так

Человек смотрит
отмеченные пункты

Сводка для руководителя

Раз в неделю – что сделано и что просрочено

Поиск по документам

Модель находит ответ во внутренних документах и показывает, откуда он

Человек проверяет источник

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
137

Артём Субботин · ИИ-митап ЦГУ, 06.11.2026

Шесть задач, где хватает даже простой модели

Протокол совещания

Модель пишет решения, сроки и ответственных

Человек проверяет и рассылает

Ответ на обращение

Черновик по регламенту со ссылкой на пункт

Человек правит и подписывает

Разбор почты

Модель раскладывает письма по темам и исполнителям

Человек смотрит
только спорные

Проверка документа

Модель проходит по чек-листу и отмечает, где не так

Человек смотрит
отмеченные пункты

Сводка для руководителя

Раз в неделю – что сделано и что просрочено

Поиск по документам

Модель находит ответ во внутренних документах и показывает, откуда он

Человек проверяет источник

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
138

Простая задача, понятный образец, человек на выходе

Везде одно и то же

Простая задача, понятный образец
и человек на выходе

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
139

Совет первый: без модели, если можно без неё

Два трезвых совета · ИИ-митап ЦГУ, 06.11.2026

Если задача решается без языковой модели, лучше её не использовать
АМАлексей Морозовдоклад «Безопасность в AI и AI в безопасности»
Готовая формула
Таблица
Расчётная программа

Для инженера: если они есть, модель к ним не нужна

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
140

Совет первый: без модели, если можно без неё

Два трезвых совета · ИИ-митап ЦГУ, 06.11.2026

Если задача решается без языковой модели, лучше её не использовать
АМАлексей Морозовдоклад «Безопасность в AI и AI в безопасности»
Готовая формула
Таблица
Расчётная программа

Для инженера: если они есть, модель к ним не нужна

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
141

Совет второй · представитель банка, ИИ-митап ЦГУ, 06.11.2026

Мерить нужно всю цепочку

  1. Вопрос

  2. Модель

    Сама может давать хорошее качество на тестах

  3. Результат

    Которым пользуются люди

от вопроса до результата

И не делать агентами всё подряд

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
142

По этой схеме работаем весь курс

Работа с ответом модели: от задачи до решения

Инженер
Чат-сервис
Проверка
отправка проверить годится ошибки новая попытка

Карточка задачи

данные, результат, критерии

Запрос

шесть частей

Модель

составляет текст

Ответ

таблица или черновик

Чек-лист

цифры, расчёты, ссылки

В работу

под ответственность инженера

Уточнить запрос

данные, ограничения

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
143

По этой схеме работаем весь курс

Работа с ответом модели: от задачи до решения

Инженер
Чат-сервис
Проверка
отправка проверить годится ошибки новая попытка

Карточка задачи

данные, результат, критерии

Запрос

шесть частей

Модель

составляет текст

Ответ

таблица или черновик

Чек-лист

цифры, расчёты, ссылки

В работу

под ответственность инженера

Уточнить запрос

данные, ограничения

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
144

По этой схеме работаем весь курс

Работа с ответом модели: от задачи до решения

Инженер
Чат-сервис
Проверка
отправка проверить годится ошибки новая попытка

Карточка задачи

данные, результат, критерии

Запрос

шесть частей

Модель

составляет текст

Ответ

таблица или черновик

Чек-лист

цифры, расчёты, ссылки

В работу

под ответственность инженера

Уточнить запрос

данные, ограничения

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
145

Обратите внимание

Где на схеме инженер

Инженер
Чат-сервис
Проверка
отправка проверить годится ошибки новая попытка

Карточка задачи

данные, результат, критерии

Запрос

шесть частей

Модель

составляет текст

Ответ

таблица или черновик

Чек-лист

цифры, расчёты, ссылки

В работу

под ответственность инженера

Уточнить запрос

данные, ограничения

в начале: ставит задачу
в конце: решает, годится ли ответ
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
146

Теперь коротко

От чата к агенту

Сервисы на моделях удобно разложить по четырём ступеням

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
147

От чата к агенту

Четыре ступени

Ступень 1

Чат

Отвечает на ваш текст

Ступень 2

Чат с файлами и поиском

Читает загруженные документы и найденные страницы

Ступень 3

Помощник по документам

Ищет ответ в подключённой базе документов организации

Ступень 4

Агент

Сам решает, какой инструмент вызвать: поиск, расчёт, запрос в другую систему. Вызывает его, смотрит на результат и продолжает работу

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
148

От чата к агенту

Четыре ступени

Ступень 1

Чат

Отвечает на ваш текст

Ступень 2

Чат с файлами и поиском

Читает загруженные документы и найденные страницы

Ступень 3

Помощник по документам

Ищет ответ в подключённой базе документов организации

Ступень 4

Агент

Сам решает, какой инструмент вызвать: поиск, расчёт, запрос в другую систему. Вызывает его, смотрит на результат и продолжает работу

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
149

От чата к агенту

Ступени условные и могут пересекаться

Поиск по документам выполняет программа

За окном обычного чата иногда работает агентный цикл

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
150

Главное различие

Кто выбирает следующий шаг

Ступени 1–3

  • Работа идёт по сценарию, который задала программа
  • Что делать дальше,
    решает человек

Агент

  • Следующее действие
    выбирает сам
  • Поэтому и требования
    к проверке у него выше
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
151

Агент без процесса

Когда агент работает без процесса

Агент уверенно делает не то и молча додумывает решения, которые должен был принять человек
ПГПавел Гагаринвебинар «Разработка с агентами: от постановки задачи до деплоя», 28.07.2026
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
152

Чтобы было понятнее

Пример на каждую ступень

СтупеньПример
ЧатВопрос о причинах просадки напряжения
Чат с файлами и поискомСводка по загруженному техническому заданию
Помощник по документамВопрос о порядке испытаний – ответ со ссылкой на внутренний стандарт
АгентПроверка комплекта документов: получает файлы, сверяет их с требованиями и готовит перечень расхождений
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
153

Чтобы было понятнее

Пример на каждую ступень

СтупеньПример
ЧатВопрос о причинах просадки напряжения
Чат с файлами и поискомСводка по загруженному техническому заданию
Помощник по документамВопрос о порядке испытаний – ответ со ссылкой на внутренний стандарт
АгентПроверка комплекта документов: получает файлы, сверяет их с требованиями и готовит перечень расхождений
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
154

Чтобы было понятнее

Пример на каждую ступень

СтупеньПример
ЧатВопрос о причинах просадки напряжения
Чат с файлами и поискомСводка по загруженному техническому заданию
Помощник по документамВопрос о порядке испытаний – ответ со ссылкой на внутренний стандарт
АгентПроверка комплекта документов: получает файлы, сверяет их с требованиями и готовит перечень расхождений
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
155

Больше возможностей – выше цена ошибки

От ступени к ступени

У модели больше возможностей – и растёт цена ошибки

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
156

Что такое агент, если говорить строго

Если говорить строго

Агент

Программная система, которая:

  1. Многократно обращается к модели

  2. Обрабатывает её ответы

    Например, выбирает и вызывает нужную функцию

  3. Возвращает результат модели

    В следующем запросе

Национальный институт стандартов и технологий США. NIST AI 100-2e2025, 2025 · doi.org/10.6028/NIST.AI.100-2e2025

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
157

Что такое агент, если говорить строго

Если говорить строго

Агент

Программная система, которая:

  1. Многократно обращается к модели

  2. Обрабатывает её ответы

    Например, выбирает и вызывает нужную функцию

  3. Возвращает результат модели

    В следующем запросе

Национальный институт стандартов и технологий США. NIST AI 100-2e2025, 2025 · doi.org/10.6028/NIST.AI.100-2e2025

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
158

Чем агент отличается от чата

То есть

От чата агента отличает не качество ответа

Следующее действие модель выбирает сама

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
159

На занятиях показываю вживую

Чат и агентная программа

Чат – DeepSeek или Qwen

Отвечает в окне браузера

К вашему компьютеру не подключается и ничего на нём не делает

Агентная программа

Работает на компьютере,
в отдельной папке

Модель при этом может быть облачной

Сама создаёт в этой папке файлы,
запускает команды и проверяет,
что получилось

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
160

На занятиях показываю вживую

Чат и агентная программа

Чат – DeepSeek или Qwen

Отвечает в окне браузера

К вашему компьютеру не подключается и ничего на нём не делает

Агентная программа

Работает на компьютере,
в отдельной папке

Модель при этом может быть облачной

Сама создаёт в этой папке файлы,
запускает команды и проверяет,
что получилось

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
161

Это другой уровень

Когда студенты видят такую работу

Это другой уровень

Так говорят те, кто до этого только задавал вопросы в чате

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
162

Схема: модель выбирает следующий шаг

Так работает агент

Человек Модель Программа агента Инструменты Задача цель задаёт человек Решение модели нужен ли инструмент нужен инструмент Вызов имя и параметры Инструмент поиск по ТЗ, расчёт результат Результат в контекст следующий запрос следующий шаг готово Ответ или действие Подтверждение для действий с последствиями
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
163

Схема: модель выбирает следующий шаг

Так работает агент

Человек Модель Программа агента Инструменты Задача цель задаёт человек Решение модели нужен ли инструмент нужен инструмент Вызов имя и параметры Инструмент поиск по ТЗ, расчёт результат Результат в контекст следующий запрос следующий шаг готово Ответ или действие Подтверждение для действий с последствиями
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
164

Схема: модель выбирает следующий шаг

Так работает агент

Человек Модель Программа агента Инструменты Задача цель задаёт человек Решение модели нужен ли инструмент нужен инструмент Вызов имя и параметры Инструмент поиск по ТЗ, расчёт результат Результат в контекст следующий запрос следующий шаг готово Ответ или действие Подтверждение для действий с последствиями
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
165

По сути

Цикл «подумал – сделал – посмотрел»

Подумал
Сделал
Посмотрел

Рассуждение

Помогает составить и уточнить план

Действие

Обращение к внешнему источнику, например к базе знаний, за недостающими сведениями

Yao S. et al. ReAct: Synergizing Reasoning and Acting in Language Models, 2022 · doi.org/10.48550/arXiv.2210.03629

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
166

По сути

Цикл «подумал – сделал – посмотрел»

Подумал
Сделал
Посмотрел

Рассуждение

Помогает составить и уточнить план

Действие

Обращение к внешнему источнику, например к базе знаний, за недостающими сведениями

Yao S. et al. ReAct: Synergizing Reasoning and Acting in Language Models, 2022 · doi.org/10.48550/arXiv.2210.03629

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
167

Сколько раз вызывалась модель

Простой вопрос

?
  • Сколько раз вызывалась модель, чтобы ответить пользователю?
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
168

Модель решила вызвать инструмент

Одного обращения к модели мало

  1. Указание вместо текста

    Сначала модель возвращает указание вызвать инструмент

  2. Результат инструмента

    Затем модель получает результат его работы

  3. Ответ

    Только после этого модель отвечает

Инструмент не нужен – модель может ответить сразу

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
169

Модель решила вызвать инструмент

Одного обращения к модели мало

  1. Указание вместо текста

    Сначала модель возвращает указание вызвать инструмент

  2. Результат инструмента

    Затем модель получает результат его работы

  3. Ответ

    Только после этого модель отвечает

Инструмент не нужен – модель может ответить сразу

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
170

Пример

Корпоративный помощник и его инструменты

Корпоративный помощник

Поиск по внутренней базе документов

Поиск задач в системе учёта

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
171

Пример

Один помощник, разные вопросы

Вопрос

Как у нас положено хранить пароли от служебных систем?

Помощник

Сначала ищет по базе, находит стандарт и отвечает по нему

Вопрос

Как лучше провести планёрку?

Помощник

Отвечает сразу, без инструментов: внутренние данные тут не нужны

Если выключить поиск по базе, ответ про пароли будет взят из общих знаний модели, а не из вашего стандарта

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
172

Пример

Один помощник, разные вопросы

Вопрос

Как у нас положено хранить пароли от служебных систем?

Помощник

Сначала ищет по базе, находит стандарт и отвечает по нему

Вопрос

Как лучше провести планёрку?

Помощник

Отвечает сразу, без инструментов: внутренние данные тут не нужны

Если выключить поиск по базе, ответ про пароли будет взят из общих знаний модели, а не из вашего стандарта

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
173

Осторожнее с агентами · 1 из 4

Ошибка становится действием

Ошибся чат

Это видит человек

Ошибся агент

Он может успеть:

  • отправить письмо
  • изменить запись
  • запустить расчёт с неверными данными
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
174

Осторожнее с агентами · 1 из 4

Ошибка становится действием

Ошибся чат

Это видит человек

Ошибся агент

Он может успеть:

  • отправить письмо
  • изменить запись
  • запустить расчёт с неверными данными
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
175

Ровно столько прав, сколько требует задача

Осторожнее с агентами · 2 из 4

Агенту – ровно столько прав, сколько требует задача

Инструкции модели такие ограничения не заменяют

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
176

Осторожнее с агентами · 3 из 4

Чужой текст может управлять агентом

Документы
Письма
Веб-страницы

Если в них спрятана команда, модель может принять её за задание

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
177

NIST: враждебные данные в контексте агента

Отчёт о состязательном машинном обучении, 2025

Враждебные данные, попавшие в контекст из ненадёжных источников, могут заставить агента выполнять действия злоумышленника
NISTНациональный институт стандартов и технологий США

NIST AI 100-2e2025. Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations, 2025 · doi.org/10.6028/NIST.AI.100-2e2025

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
178

Инструкция белым шрифтом на белом фоне

ИИ-митап ЦГУ, 06.11.2026

В документ белым шрифтом на белом фоне вписывают инструкцию для модели. Вы своими глазами её не видите. А модель видит и начинает выполнять
АМАлексей Морозовдоклад «Безопасность в AI и AI в безопасности»

Что видите вы

человек

Что видит модель

модель

Об этом подробно поговорим во второй день

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
179

Осторожнее с агентами · 4 из 4

Действия с последствиями подтверждает человек

  • Где ставить подтверждение, решается для каждой задачи отдельноЛишние подтверждения тоже стоят времени
  • Подтверждение работает, только если его читают
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
180

Морозов: сам жмёт «разрешить»

На том же митапе

Признался, что сам постоянно жмёт «разрешить», а когда надоедает, говорит: разрешить всё
АМАлексей МорозовИИ-митап ЦГУ, 06.11.2026
Разрешить Разрешить Разрешить Разрешить всё

Хотя только что рассказывал, что так делать нельзя

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
181

Рука сама нажимает «да»

Знакомо каждому, кто долго работал с агентом

Подтверждений много, они однообразные, и рука сама нажимает «да»

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
182

По себе знаю

Несколько дней подряд следишь за работой агентов

  1. Кажется, что ничего не делаешь

  2. К вечеру выжат в ноль

    Сидишь, как охранник на смене

  3. Внимание к подтверждениям падает

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
183

Агент действует автономно

Из курса лектора по агентам

«Автономно»

На этом слове держится определение агента: между целью и действием нет обязательного человека

Автономность – это не удобство, а источник риска

Система, которая сама выбирает следующие действия, требует явно очерченных полномочий

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
184

Агент действует автономно

Из курса лектора по агентам

«Автономно»

На этом слове держится определение агента: между целью и действием нет обязательного человека

Автономность – это не удобство, а источник риска

Система, которая сама выбирает следующие действия, требует явно очерченных полномочий

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
185

Цымлов: исполнитель с инициативой

Вебинар о проверке кода, который пишут агенты

Автономный агент – это исполнитель с инициативой. А исполнитель с инициативой и полными правами – это стажёр, которому вы дали полный доступ в пятницу вечером
АЦАлексей Цымловцикл «Качество и безопасность ПО в эпоху GenAI», 28.08.2026
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
186

Алексей Цымлов

Отсюда его принципы

Права – как у молодого хирурга

Смотреть можно, резать только под присмотром

Секреты – вне досягаемости

Агент не может слить то, чего не видел

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
187

Служеникин: бетонные разделительные блоки

ИТ-форум «Цифровые решения», октябрь 2026

Поскольку мы так доверяем людям, на дорогах у нас стоят бетонные разделительные блоки. Информационная безопасность – это и есть те самые блоки
ДСДмитрий Служеникинответственный секретарь консорциума безопасности технологий искусственного интеллекта
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
188

Артём Субботин · ИИ-митап ЦГУ, 06.11.2026

Четыре правила перед запуском агента

1

Сначала описать работу, потом звать агента

Кривой процесс он не исправит, а просто сделает быстрее

2

Закрыть отправку наружу в настройках

Агент может сам решить кому-то написать. Просьба в тексте не спасёт, спасёт запрет

3

Требовать ежедневный отчёт

Если агент молча встал, вы узнаете об этом на следующий день, а не через месяц

4

Назначить ответственного сотрудника

У каждого агента есть человек, который отвечает за его работу

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
189

Артём Субботин · ИИ-митап ЦГУ, 06.11.2026

Четыре правила перед запуском агента

1

Сначала описать работу, потом звать агента

Кривой процесс он не исправит, а просто сделает быстрее

2

Закрыть отправку наружу в настройках

Агент может сам решить кому-то написать. Просьба в тексте не спасёт, спасёт запрет

3

Требовать ежедневный отчёт

Если агент молча встал, вы узнаете об этом на следующий день, а не через месяц

4

Назначить ответственного сотрудника

У каждого агента есть человек, который отвечает за его работу

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
190

Артём Субботин · ИИ-митап ЦГУ, 06.11.2026

Четыре правила перед запуском агента

1

Сначала описать работу, потом звать агента

Кривой процесс он не исправит, а просто сделает быстрее

2

Закрыть отправку наружу в настройках

Агент может сам решить кому-то написать. Просьба в тексте не спасёт, спасёт запрет

3

Требовать ежедневный отчёт

Если агент молча встал, вы узнаете об этом на следующий день, а не через месяц

4

Назначить ответственного сотрудника

У каждого агента есть человек, который отвечает за его работу

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
191

Артём Субботин · ИИ-митап ЦГУ, 06.11.2026

Четыре правила перед запуском агента

1

Сначала описать работу, потом звать агента

Кривой процесс он не исправит, а просто сделает быстрее

2

Закрыть отправку наружу в настройках

Агент может сам решить кому-то написать. Просьба в тексте не спасёт, спасёт запрет

3

Требовать ежедневный отчёт

Если агент молча встал, вы узнаете об этом на следующий день, а не через месяц

4

Назначить ответственного сотрудника

У каждого агента есть человек, который отвечает за его работу

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
192

Упражнение для желающих

Опишите агента на одной странице

Агент помогает разбирать замечания по испытаниям, как в учебном кейсе ЭС-24

  • Какие данные он получает
  • Какие инструменты ему нужны
  • Что делает сам, а что предлагает на подтверждение
  • Как проверяется его результат
  • Каких прав у него быть не должно

Это задел для пятого модуля. Подробнее – в дополнительном материале «От чата к агенту»

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
193

Упражнение для желающих

Опишите агента на одной странице

Агент помогает разбирать замечания по испытаниям, как в учебном кейсе ЭС-24

  • Какие данные он получает
  • Какие инструменты ему нужны
  • Что делает сам, а что предлагает на подтверждение
  • Как проверяется его результат
  • Каких прав у него быть не должно

Это задел для пятого модуля. Подробнее – в дополнительном материале «От чата к агенту»

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
194

Правило с первого занятия

Правило с первого занятия

В сервисы ИИ – только учебные и открытые материалы

Рабочие документы
Переписка
Фамилии
Обозначения изделий

Не вставляем, даже если очень хочется проверить на настоящей задаче

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
195

Правило с первого занятия

Правило с первого занятия

В сервисы ИИ – только учебные и открытые материалы

Рабочие документы
Переписка
Фамилии
Обозначения изделий

Не вставляем, даже если очень хочется проверить на настоящей задаче

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
196

Морозов: облачные модели – как интернет

ИИ-митап ЦГУ, 06.11.2026

К внешним облачным моделям нужно относиться так же, как к интернету. Всё, что попало в интернет, навеки там остаётся
АМАлексей Морозовдоклад «Безопасность в AI и AI в безопасности»
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
197

День 2 · тема 2.1

Разберём во второй день

Почему это правило такое строгое

Как работать с данными разного уровня

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
198

Коротко повторим главное

Что запомнить

  • Модель составляет правдоподобный текст, а не достаёт проверенный ответ из базы
  • Ссылки, номера документов, числа и расчёты в ответе проверяем всегда
  • Один и тот же вопрос может дать разные ответыЭто повод проверить, а не выбрать понравившийся
  • Доступ на работе – только законным путёмЧерез подразделение, которое его выдаёт
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
199

Коротко повторим главное

Что запомнить

  • Модель составляет правдоподобный текст, а не достаёт проверенный ответ из базы
  • Ссылки, номера документов, числа и расчёты в ответе проверяем всегда
  • Один и тот же вопрос может дать разные ответыЭто повод проверить, а не выбрать понравившийся
  • Доступ на работе – только законным путёмЧерез подразделение, которое его выдаёт
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
200

От чата к агенту: кто выбирает следующий шаг

Что запомнить · от чата к агенту

Ступень 1

Чат

Отвечает на ваш текст

Ступень 2

Чат с файлами и поиском

Читает документы и страницы

Ступень 3

Помощник по документам

Ищет в базе документов организации

Ступень 4

Агент

Сам вызывает инструменты и действует. Следующий шаг выбирает сам

Поэтому агенту – ровно столько прав, сколько нужно, и подтверждение человеком там, где у действия есть последствия

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
201

Коротко повторим главное

Что запомнить

1

Модель составляет правдоподобный текст, а не достаёт проверенный ответ из базы

2

Ссылки, номера документов, числа и расчёты проверяем всегда

3

Разные ответы на один вопрос – повод проверить, а не выбрать понравившийся

4

Доступ на работе – только законным путём

5

Агенту – ровно столько прав, сколько нужно, и подтверждение человеком

6

В сервисы – только учебные и открытые материалы

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
202

Практика 1.1

1.1

Пробуем сервисы на учебном узле ЭС-24

Заданий три: интерфейс, одна задача в разных сервисах, карточка инженерной задачи

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
203

Задание 1 из 3 · 30 минут

Осмотреть интерфейс

Новый чат, история и удаление диалога
Загрузка файла и картинки
Режим рассуждения и поиск
Настройки данных и лимиты
ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
204

Задание 2 из 3 · 60 минут

Одна задача в разных сервисах

  1. Отправить одно и то же замечание

    В два-три сервиса, каждый раз в новом чате

  2. Сравнить ответы

    По таблице критериев

  3. Поискать ошибки

    В готовом ответе из кейса

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
205

Задание 3 из 3 · 30 минут

Карточка инженерной задачи

Исходные данныеЧто известно: факты, цифры, документы

Ожидаемый результатЧто нужно получить и в каком виде

Критерии приёмкиПо каким признакам примете результат

ОграниченияЧто задано и чего не делать

Карточка 1

По учебному замечанию

Карточка 2

По своей задаче

Без служебных сведений

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
206

Задание 3 из 3 · 30 минут

Карточка инженерной задачи

Исходные данныеЧто известно: факты, цифры, документы

Ожидаемый результатЧто нужно получить и в каком виде

Критерии приёмкиПо каким признакам примете результат

ОграниченияЧто задано и чего не делать

Карточка 1

По учебному замечанию

Карточка 2

По своей задаче

Без служебных сведений

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
207

К практике

Практика 1.1

Задание 1 · 30 минЗадание 2 · 60 минЗадание 3 · 30 мин

Что-то не открывается или не получается

Пишите в чат сразу, не ждите конца задания. Будем разбираться вместе

А теперь – к практике

ИИ для инженеров · день 1 · тема 1.1 · В. А. Пиков · pikov.expert
208