Модуль 1 · тема 1.1
Языковые модели и чат-сервисы: что умеют и где ошибаются
Понять инструмент, чтобы знать, где ему доверять, а где проверять каждую строчку
День 1 · Виталий Пиков · архитектор информационной безопасности · pikov.expert
Кто ведёт курс
Виталий Пиков
Архитектор информационной безопасности
Преподаватель
Автор образовательных программ
Темы программ
Информационная безопасность и разработка безопасного программного обеспечения
Цель первой темы
Цель первой темы
Понять, с каким инструментом имеем дело
Где ему можно доверять
Где проверять каждую строчку
О курсе
Пять дней, каждый день – две темы
- День 1Языковые модели и запросы
- День 2Защита информации и техническая документация
- День 3Поиск решений и анализ отказов
- День 4Расчёты и данные испытаний
- День 5ИИ в работе подразделения, свой рабочий сценарий
О курсе
Пять дней, каждый день – две темы
- День 1Языковые модели и запросы
- День 2Защита информации и техническая документация
- День 3Поиск решений и анализ отказов
- День 4Расчёты и данные испытаний
- День 5ИИ в работе подразделения, свой рабочий сценарий
О курсе
Пять дней, каждый день – две темы
- День 1Языковые модели и запросы
- День 2Защита информации и техническая документация
- День 3Поиск решений и анализ отказов
- День 4Расчёты и данные испытаний
- День 5ИИ в работе подразделения, свой рабочий сценарий
Правило курса
Правило курса
Теории минимум
Всё, что говорим, проверяем руками на учебном узле
Сегодня
Как пройдёт день
Лекция 1.1
Языковые модели и чат-сервисы
Практика
Пробуем сервисы сами
Лекция 1.2
Запросы для инженерных задач
Практика
Запросы на учебном узле
После занятия
Самостоятельная работа и контрольная точка модуля 1 – до начала дня 2
Сегодня
Как пройдёт день
Лекция 1.1
Языковые модели и чат-сервисы
Практика
Пробуем сервисы сами
Лекция 1.2
Запросы для инженерных задач
Практика
Запросы на учебном узле
После занятия
Самостоятельная работа и контрольная точка модуля 1 – до начала дня 2
Так будет каждый день
Так будет каждый день
Лекция даёт понимание,
навык появляется только на практике
На практику отведено больше всего времени
Материалы
Всё есть на сайте курса
Открыть в браузере или скачать архивом
О задачах слушателей
Прежде чем начать
О задачах, с которыми приходят на этот курс
По ним подбираются примеры на весь курс
О задачах слушателей
Прежде чем начать
О задачах, с которыми приходят на этот курс
По ним подбираются примеры на весь курс
Примеры для курса
Задачи из анкет слушателей
К пятому дню
К пятому дню
Одна своя задача – и рабочий сценарий с моделью для неё
Хорошо, если это будет задача из вашей ежедневной работы
Начнём с главного
Как модель составляет ответ
Обучена на огромном объёме текстов
Усвоила, как обычно продолжаются фразы, рассуждения, таблицы и программы
Вы задаёте вопрос
Готовый ответ в базе модель не ищет
По частям составляет продолжение текста
То, что лучше всего подходит к запросу и ко всему, что уже есть в диалоге
Начнём с главного
Как модель составляет ответ
Обучена на огромном объёме текстов
Усвоила, как обычно продолжаются фразы, рассуждения, таблицы и программы
Вы задаёте вопрос
Готовый ответ в базе модель не ищет
По частям составляет продолжение текста
То, что лучше всего подходит к запросу и ко всему, что уже есть в диалоге
Сильные стороны
Что у модели получается хорошо
Связный текст
Перенос приёмов
Из одной области в другую
Быстрые заготовки
Черновики, сводки и таблицы
Аналогия
Очень начитанный помощник
- Прочитал миллионы книг, статей и инструкций и пишет по вашей просьбе за секунды
- Помнит не дословно, а то, как обычно пишут
- Как написано в вашем документе, не знает, пока вы его не покажете
Аналогия
Очень начитанный помощник
- Прочитал миллионы книг, статей и инструкций и пишет по вашей просьбе за секунды
- Помнит не дословно, а то, как обычно пишут
- Как написано в вашем документе, не знает, пока вы его не покажете
Правдоподобное и верное
Слабая сторона
Правдоподобное и верное часто совпадают. Но не всегда
Языковые модели склонны к галлюцинациям: порождают правдоподобный, но не соответствующий фактам текст
Huang L. et al. ACM Transactions on Information Systems, 2025 · doi.org/10.1145/3703155
Правдоподобное и верное
Слабая сторона
Правдоподобное и верное часто совпадают. Но не всегда
Языковые модели склонны к галлюцинациям: порождают правдоподобный, но не соответствующий фактам текст
Huang L. et al. ACM Transactions on Information Systems, 2025 · doi.org/10.1145/3703155
Модель – недоверенная система
ИТ-форум «Цифровые решения», октябрь 2026
Большая языковая модель – статистическая. Поэтому она не может быть доверенной по умолчанию. Мы работаем с недоверенной системой, и её нужно встроить в доверенную среду
Генератор и детерминированные проверки
Вебинар о проверке кода, который пишут агенты
Языковая модель – вероятностный генератор, и она может ошибаться. А компилятор и проверка типов не думают, они знают. Вероятностный генератор, обвешанный детерминированными проверками, – это и есть надёжная система
Для инженера
Детерминированные проверки
Расчёт
Проверяем по исходным данным и методике
Измерение
Оцениваем с учётом погрешности
Сверка с документом
Вывод сверяем с документом
Модель пишет черновик. Проверяем тем, что на одних и тех же данных всегда даёт один и тот же результат. Такие проверки повышают надёжность, но не гарантируют правильность
Модель – толковый стажёр
ИИ-митап ЦГУ, 06.11.2026
Модель похожа на толкового стажёра в первый день
Аналогия
Стажёр в первый день
Толковый стажёр
- Умный
- Быстро читает и пишет
Пользы немного без
- инструкции
- доступа к нужным документам
- руководителя, который принимает работу
По словам Субботина
Сотрудником стажёра делают пять вещей
Всё это вместе
Харнес – обвязка вокруг модели
По словам Субботина
Сотрудником стажёра делают пять вещей
Всё это вместе
Харнес – обвязка вокруг модели
Модель – повар, обвязка – кухня
Образ из доклада
Модель – это повар, а обвязка – кухня
В сетевом кафе бургер одинаковый, кто бы ни стоял у гриля. Уже готовы:
Техкарты
Заготовки
Порядок
Повар заболел, вышел другой, и кафе работает дальше
Обвязка
Кухня вокруг модели
- Чат-сервис даёт часть такой кухни
- В организациях – внутренние системы на основе модели
Решает обвязка
Вывод докладчика
Очень часто решает вопрос не модель, какой бы умной она ни была, а обвязка
Случай из доклада
Когда доступ внезапно закрылся
Осенью у многих закрылся доступ
Внезапно, к одному популярному зарубежному инструменту
Работа в собственной обвязке
Просто переключились на другую модель, вплоть до локальной
Недосолено, но работает
Так об этом сказал Субботин
Инструкции в нескольких вариантах
Совет докладчика
Инструкции готовить заранее, в нескольких вариантах
Возможно, завтра будет работать другая модель
Инструкция
для самой сильнойИнструкция
для модели попрощеСама модель
Где работает модель
Программа, которая работает на серверах
Внешние сервисы
На серверах разработчика
Внутренние системы
На серверах организации
Дополнительные функции
Что есть в чат-сервисе
Контекст диалога
История чатов
Файлы и изображения
Режим рассуждения
Поиск в интернете
Что есть в чат-сервисе · 1 из 5
Контекст диалога
Модель учитывает текст текущего чата
Объём контекста ограничен. В очень длинном диалоге модель может хуже учитывать начало или совсем перестать его учитывать
Что есть в чат-сервисе · 1 из 5
Контекст диалога
Модель учитывает текст текущего чата
Объём контекста ограничен. В очень длинном диалоге модель может хуже учитывать начало или совсем перестать его учитывать
Другие чаты модель не видит
Контекст диалога
Другие ваши чаты модель, как правило, не видит
Если в сервисе не включена специальная функция памяти
Один чат
Загрузили документ
Другой чат
Спрашиваете о документе – модель его не увидит
Пример с занятий
Пределы контекста: мелочь в огромном проекте
Огромный проект
Агенту отдают миллионы строк
Просьба о мелочи
Скажем, поменять цвет одной кнопки
Скорее всего, он утонет
Контекстное окно кончится, даже очень большое. Работа выйдет долгой и дорогой
Пример с занятий
Пределы контекста: мелочь в огромном проекте
Огромный проект
Агенту отдают миллионы строк
Просьба о мелочи
Скажем, поменять цвет одной кнопки
Скорее всего, он утонет
Контекстное окно кончится, даже очень большое. Работа выйдет долгой и дорогой
Весь архив в чате
С документами то же самое
Если вставить в чат весь архив по изделию, модель будет хуже видеть то, что вам действительно важно
Память работы – в файлах
Совет с вебинара
Память работы держать не в длинном диалоге, который на долгих сессиях портится, а в файлах. Каждую задачу начинать в свежей сессии
В чате это выглядит так
Перенос работы в новый чат
Диалог разросся, и модель начала путаться
Попросите кратко записать
Что уже сделано и что решено
Откройте новый чат
Начните с этой записи
Что есть в чат-сервисе · 2 из 5
История чатов
- Сервис хранит диалоги, к ним можно вернуться
- Где хранится история и как её удалить, зависит от сервиса и вида доступа
- Разберём на практике
Что есть в чат-сервисе · 3 из 5
Файлы и изображения
Многие сервисы принимают документы и картинки. Модель:
То, что модель распознала на картинке, тоже нужно проверять
Что есть в чат-сервисе · 4 из 5
Режим рассуждения
Перед ответом модель строит цепочку промежуточных шагов
Запрос
Шаг
Шаг
Шаг
Ответ
- На задачах с несколькими шагами это обычно помогает
- Но отвечает модель дольше
- Ошибок этот режим не исключает
Режимы с большим усилием
Режим рассуждения
Режимы с большим усилием – это долго, и они тратят больше ресурсов
Для наших упражнений
Включать рассуждение прежде всего в многошаговых задачах
Что есть в чат-сервисе · 5 из 5
Поиск в интернете
Сервис находит страницы
Опирается на них в ответе
Снижает риск устаревших сведений
Но не отменяет проверку
- Найденная страница может оказаться неподходящей
- Пересказ может оказаться неточным
Чат-сервисы
Сервисы, с которыми работаем на курсе
Сведения взяты из справки и пользовательских соглашений сервисов по состоянию на 10.11.2026
Функции и названия меняются часто. На практике проверим их прямо в интерфейсе
GigaChat
Сервис 1 из 4
GigaChat
Оператор – Сбербанк
- Вход
- По телефону или через Сбер ID
- Режимы
- «Рассуждение» и «Исследование»
- Ответы
- Со ссылками на источники
- Данные
- Обрабатываются на серверах банка, действует российское право
- Запрет
- Соглашение запрещает передавать в запросах персональные данные
GigaChat
Сервис 1 из 4
GigaChat
Оператор – Сбербанк
- Вход
- По телефону или через Сбер ID
- Режимы
- «Рассуждение» и «Исследование»
- Ответы
- Со ссылками на источники
- Данные
- Обрабатываются на серверах банка, действует российское право
- Запрет
- Соглашение запрещает передавать в запросах персональные данные
GigaChat · вход
Несколько деталей из справки
Сбер ID – и без счёта в банке
Для регистрации достаточно сим-карты российского оператора
Если вы не в России
Нужен российский IP-адрес и вход через Сбер ID
Если сервис не работает
Справка первым делом советует отключить VPN
GigaChat · вход
Несколько деталей из справки
Сбер ID – и без счёта в банке
Для регистрации достаточно сим-карты российского оператора
Если вы не в России
Нужен российский IP-адрес и вход через Сбер ID
Если сервис не работает
Справка первым делом советует отключить VPN
GigaChat · файлы
Какие документы принимает
DOCX
Простой текст
Под каждый файл открывается новый чат. Добавить файл в уже начатый диалог нельзя
GigaChat · объём и история
Лимиты текста и история чатов
Историю ваших чатов видите только вы, пока сами не нажмёте «Поделиться». Данные при этом обрабатываются на серверах банка
Лицензия на загруженные материалы
GigaChat · ещё одна строка соглашения
Размещая материалы в сервисе, пользователь даёт банку простую безвозмездную лицензию на них
Ещё и поэтому рабочие документы туда не загружаем
Алиса AI
Сервис 2 из 4
Алиса AI
Яндекс
- Вход
- Через Яндекс ID
- Рассуждение
- Режим «Эксперт»
- Лимит
- 20 запросов в день в «Эксперте» без платной опции
- История
- 14 дней без платной опции
- Запросы
- Могут использоваться для улучшения сервисов
- Отказ
- Можно отказаться в настройках Яндекс ID
Алиса AI
Сервис 2 из 4
Алиса AI
Яндекс
- Вход
- Через Яндекс ID
- Рассуждение
- Режим «Эксперт»
- Лимит
- 20 запросов в день в «Эксперте» без платной опции
- История
- 14 дней без платной опции
- Запросы
- Могут использоваться для улучшения сервисов
- Отказ
- Можно отказаться в настройках Яндекс ID
Алиса AI · платная опция
«Алиса Плюс»
- Больше запросов в режиме «Эксперт»
- Бессрочное хранение текстовой истории
Подключается только вместе с подпиской Яндекс Плюс и только в России и Беларуси
Алиса AI: бесплатный доступ
Алиса AI · без платной опции
Пользоваться Алисой можно и бесплатно
Но в часы высокой нагрузки без опции могут отключаться:
Алиса AI · файлы и чаты
Файл – один на сообщение
Удалить все чаты разом нельзя, только по одному
Обратите внимание
«Алиса Про» – это другое
«Алиса Плюс»
Платная опция чата Алисы AI
«Алиса Про»
Так Яндекс называет тарифы Яндекс 360
DeepSeek
Сервис 3 из 4
DeepSeek
Китай
- Вход
- По телефону или почте с паролем, через Google или Apple
- Возраст
- По условиям сервис рассчитан прежде всего на взрослых
- Хранение
- В Китае, действует право Китая
- Обучение
- Данные пользователей используются для обучения моделей, пока вы не отключите это переключателем в настройках
- История
- В настройках её можно скопировать или удалить
DeepSeek
Сервис 3 из 4
DeepSeek
Китай
- Вход
- По телефону или почте с паролем, через Google или Apple
- Возраст
- По условиям сервис рассчитан прежде всего на взрослых
- Хранение
- В Китае, действует право Китая
- Обучение
- Данные пользователей используются для обучения моделей, пока вы не отключите это переключателем в настройках
- История
- В настройках её можно скопировать или удалить
DeepSeek: ссылка на диалог
DeepSeek · ссылка на диалог
Осторожнее
со ссылкой на диалог
По условиям его может прочитать любой, у кого есть такая ссылка
Qwen
Сервис 4 из 4
Qwen
Сингапур
- Оператор
- Сингапурская компания
- Запросы
- Обрабатывает Alibaba Cloud, тоже в Сингапуре
- Вход
- По почте, через Google, GitHub или Apple
- Возраст
- Пользоваться можно с 18 лет
- Хранение
- В Сингапуре, действует право Сингапура
Qwen
Сервис 4 из 4
Qwen
Сингапур
- Оператор
- Сингапурская компания
- Запросы
- Обрабатывает Alibaba Cloud, тоже в Сингапуре
- Вход
- По почте, через Google, GitHub или Apple
- Возраст
- Пользоваться можно с 18 лет
- Хранение
- В Сингапуре, действует право Сингапура
Qwen · обучение моделей
Что идёт в обучение
Обезличенный контент
Сервис может использовать его для обучения
Отказ – письмом
На адрес из соглашения
Отзывы об ответах
Всё равно идут в обучение
«Нравится» и «не нравится»
Разговор сохраняется как часть такого отзыва
Qwen · обучение моделей
Что идёт в обучение
Обезличенный контент
Сервис может использовать его для обучения
Отказ – письмом
На адрес из соглашения
Отзывы об ответах
Всё равно идут в обучение
«Нравится» и «не нравится»
Разговор сохраняется как часть такого отзыва
Бесплатный доступ – для личного использования
Отдельно о бесплатном доступе
Бесплатный доступ рассчитан на личное использование
Бесплатный доступ · что сказано в документах
Некоммерческое использование
GGigaChat
- Совершеннолетнему резиденту России
- Для личного некоммерческого использования
ААлиса AI
- Условия тоже говорят о некоммерческом использовании
- Тексты и изображения в иных целях – только с опцией «Алиса Плюс»
Бесплатный доступ · что сказано в документах
Некоммерческое использование
GGigaChat
- Совершеннолетнему резиденту России
- Для личного некоммерческого использования
ААлиса AI
- Условия тоже говорят о некоммерческом использовании
- Тексты и изображения в иных целях – только с опцией «Алиса Плюс»
Алиса AI: для развлекательных целей
Алиса AI · в самом тексте ещё строже
Сервис предоставляется для некоммерческого использования в домашних условиях, в ограниченном кругу людей, для развлекательных целей
Рабочие задачи
Что делают организации
Заключают отдельные договоры
Разворачивают собственные решения
Какой доступ разрешён именно вам, определяют правила вашей организации
Кроме внешних сервисов
Внутренние чаты организаций
- Во многих организациях есть чаты на моделях, развёрнутых на собственных серверах
- Нужны для данных, которые нельзя отправлять наружу
- Если такой чат у вас есть, учитывайте его, когда выбираете инструмент
Кроме внешних сервисов
Внутренние чаты организаций
- Во многих организациях есть чаты на моделях, развёрнутых на собственных серверах
- Нужны для данных, которые нельзя отправлять наружу
- Если такой чат у вас есть, учитывайте его, когда выбираете инструмент
Какая модель стоит за окном чата
И последнее о сервисах
Какая модель стоит за окном чата, сервисы говорят скупо
Модель за окном чата
Что удаётся узнать
| Сервис | Откуда сведения | Что известно |
|---|---|---|
| Алиса AI | Условия сервиса | Для ответа могут использоваться разные модели искусственного интеллекта |
| DeepSeek | Апрельский анонс четвёртой версии | Две модели и два режима чата: экспертный и быстрый |
| DeepSeek | Документы сервиса | Какая модель работает в чате сейчас, установить нельзя |
| Qwen | Интерфейс | Название модели видно, официального описания нет |
Модель за окном чата
Что удаётся узнать
| Сервис | Откуда сведения | Что известно |
|---|---|---|
| Алиса AI | Условия сервиса | Для ответа могут использоваться разные модели искусственного интеллекта |
| DeepSeek | Апрельский анонс четвёртой версии | Две модели и два режима чата: экспертный и быстрый |
| DeepSeek | Документы сервиса | Какая модель работает в чате сейчас, установить нельзя |
| Qwen | Интерфейс | Название модели видно, официального описания нет |
Отмечайте сервис, режим и дату
Что из этого следует
Сервис может сменить модель
без предупреждения
Вчерашний удачный ответ не гарантирует сегодняшний
Когда записываете результат, отмечайте:
Доступ
Доступ к сервисам
- Вход
- Учётная запись сервиса: Сбер ID, Яндекс ID, почта или телефон
- Бесплатно
- GigaChat, Алиса AI и Qwen
Условия оплаты веб-чата DeepSeek
в его документах не описаны - Подписка
- Обычно больше запросов, дополнительные функции, иногда более сильные модели
Доступ
Доступ к сервисам
- Вход
- Учётная запись сервиса: Сбер ID, Яндекс ID, почта или телефон
- Бесплатно
- GigaChat, Алиса AI и Qwen
Условия оплаты веб-чата DeepSeek
в его документах не описаны - Подписка
- Обычно больше запросов, дополнительные функции, иногда более сильные модели
Доступ
Личный и корпоративный доступ
Личная учётная запись
Корпоративный доступ
Условия обработки данных у них разные
Что разрешено в рабочих задачах, определяют правила вашей организации, а не тариф
Доступ
У сервисов есть лимиты
Если лимит превысить, сервис предупредит или временно ограничит доступ
Доступ на работе
Как получить доступ на работе
Закрыт по умолчанию
На предприятиях доступ к ИИ-сервисам часто закрыт
Заявка с обоснованием
По ней доступ открывается
Сервис не открывается с рабочего места
Обращайтесь в подразделение, которое выдаёт доступ
Доступ на работе
Обходные пути не годятся
Личный телефон
Пересылка файлов на домашнюю почту
Флешка
Именно так рабочие данные и утекают
Теневой искусственный интеллект
У этого явления есть название
Это когда сотрудник вышел в интернет и пошёл спрашивать онлайн-доступные модели
ИТ-форум «Цифровые решения», октябрь 2026
Одним запретом здесь не обойтись
Жёсткие запреты немедленно порождают теневые структуры
Анна Кулашовавице-президент
«Лаборатории Касперского»
С силой тяжести бесполезно сражаться, нужно быть умным садовником. А если для вас это очень критично – не пользуйтесь вообще
Андрей БелеванцевИнститут системного
программирования РАН
ИТ-форум «Цифровые решения», октябрь 2026
Одним запретом здесь не обойтись
Жёсткие запреты немедленно порождают теневые структуры
Анна Кулашовавице-президент
«Лаборатории Касперского»
С силой тяжести бесполезно сражаться, нужно быть умным садовником. А если для вас это очень критично – не пользуйтесь вообще
Андрей БелеванцевИнститут системного
программирования РАН
Ответит только рабочий процесс
ИТ-форум «Цифровые решения», октябрь 2026
Только ваш рабочий процесс на это ответит. Если вы работаете внутри атомной станции, наверное, нужно даже запрещать
Правила использования решает организация
Вывод для нас
Правила использования решает организация
Наша задача – знать их и, если инструмент нужен, просить его законным путём
Форум All-over-IP, ноябрь 2026
Знакомые названия встречаются и в бизнесе
Н. Галкин
директор департамента ИТ «Кофемании»
«Алиса»
Сверка названий должностей в кадровых системах
GigaChat
В мобильном приложении
Но модель, сервис и способ доступа – это разные вещи
Форум All-over-IP, ноябрь 2026
Знакомые названия встречаются и в бизнесе
Н. Галкин
директор департамента ИТ «Кофемании»
«Алиса»
Сверка названий должностей в кадровых системах
GigaChat
В мобильном приложении
Но модель, сервис и способ доступа – это разные вещи
Ограничения
Где модели ошибаются
Пять типичных ошибок и что с ними делать
Где модели ошибаются
Для каждой ошибки посмотрим три вещи
Как она выглядит в ответе
Почему она возникает
Что делает инженер, чтобы её поймать
Свойства самого инструмента
Где модели ошибаются
Цифры из исследований будут на слайдах. Запоминать их не нужно
Это не редкие сбои, а свойства самого инструмента
Ошибка 1 из 5
Выдуманные факты, ссылки и числа
Текст модели, гладкий и грамматически правильный,
но фактически неверный или не подтверждённый
внешними данными
Гладкость здесь и подводит:
неверный ответ звучит так же уверенно, как верный
Alansari A., Luqman H. Препринт arXiv, 2025 · doi.org/10.48550/arXiv.2510.06265
Особенно хорошо это видно на ссылках
Доля выдуманных ссылок зависела от модели
Модели подбирали литературу для систематических обзоров
Самая низкая
28,6 %
Самая высокая
91,4 %
Это модели 2023 года и одна узкая задача
Chelli M. et al. Journal of Medical Internet Research, 2024 · doi.org/10.2196/53164
Особенно хорошо это видно на ссылках
Доля выдуманных ссылок зависела от модели
Модели подбирали литературу для систематических обзоров
Самая низкая
28,6 %
Самая высокая
91,4 %
Это модели 2023 года и одна узкая задача
Chelli M. et al. Journal of Medical Internet Research, 2024 · doi.org/10.2196/53164
Проверка 2026 года
И у современных моделей – выдуманные ссылки
- Год
- 2026
- Задача
- Вопросы по анатомии
- Модели
- Три современные,
в том числе DeepSeek
Ülkir M., Paslı B. Clinical Anatomy, 2026 · doi.org/10.1002/ca.70187
Что делать со ссылками
Что пишут авторы этих работ
Первая работа
Любые ссылки, которые порождают такие модели, требуют тщательной проверки
Chelli M. et al. Journal of Medical Internet Research, 2024 · doi.org/10.2196/53164
Вторая работа
Проверка человеком остаётся обязательной,
прежде чем включать такие ссылки
в научные или учебные материалы
Ülkir M., Paslı B. Clinical Anatomy, 2026 · doi.org/10.1002/ca.70187
И всё равно открываю каждую ссылку
Из практики лектора
Когда готовлю исследования, подключаю поиск по базам научных статей: каждая ссылка должна вести на реальную публикацию, а не на выдуманную
И всё равно открываю каждую
ИИ-митап ЦГУ, 06.11.2026 · выступление представителя банка
Выдумывают модели не только ссылки
Испытания агента
- Агент отвечал клиентам
- Напридумывал какие-то цифры и одобрил кредит
- Хорошо, что это был сотрудник банка, а не клиент
Вывод докладчика
- Стоп-условия
- Поэтапный запуск: сначала на коллегах, потом на ограниченной аудитории
ИИ-митап ЦГУ, 06.11.2026 · выступление представителя банка
Выдумывают модели не только ссылки
Испытания агента
- Агент отвечал клиентам
- Напридумывал какие-то цифры и одобрил кредит
- Хорошо, что это был сотрудник банка, а не клиент
Вывод докладчика
- Стоп-условия
- Поэтапный запуск: сначала на коллегах, потом на ограниченной аудитории
В ответе модели
Всё это нужно проверять
Действие инженера
Как проверять ссылку – три шага
Открыть документ
Он существует, и номер совпадает
Найти пункт
Тот, на который ссылается модель
Прочитать этот пункт целиком
Говорит ли он то, что утверждает модель
Самая коварная ошибка – на третьем шаге:
документ настоящий, а пункт о другом
Действие инженера
Как проверять ссылку – три шага
Открыть документ
Он существует, и номер совпадает
Найти пункт
Тот, на который ссылается модель
Прочитать этот пункт целиком
Говорит ли он то, что утверждает модель
Самая коварная ошибка – на третьем шаге:
документ настоящий, а пункт о другом
Где модели ошибаются
Ещё четыре ошибки
Разные ответы на один и тот же вопрос
Устаревшие сведения
Вычисления и инженерная логика
Согласие с ошибкой в вопросе
Ошибка 2 из 5
Разные ответы на один и тот же вопрос
Ответ 1
Ответ 2
Ответ 3
Модель может ответить по-разному – в том числе по существу
Исследователи из Оксфорда: если на один фактический вопрос ответы несовместимы по смыслу, модель, скорее всего, сочиняет
Farquhar S. et al. Nature, 2024 · doi.org/10.1038/s41586-024-07421-0
Зачем это знать пользователю
Зачем это нужно
Если понять, когда запрос, скорее всего, приведёт к выдумке, пользователь знает, где с моделью нужно быть особенно осторожным
Farquhar S. et al. Nature, 2024 · doi.org/10.1038/s41586-024-07421-0
Обратное неверно
Обратное неверно
Модель может уверенно повторять одну и ту же ошибку
Действие инженера
Если ответ важен
Задайте вопрос ещё раз в новом чате и сравните факты
Расхождение
Повод проверить
Совпадение
Проверку не заменяет
Если просите «предложи возможные причины», разные наборы ответов – это нормально
Действие инженера
Если ответ важен
Задайте вопрос ещё раз в новом чате и сравните факты
Расхождение
Повод проверить
Совпадение
Проверку не заменяет
Если просите «предложи возможные причины», разные наборы ответов – это нормально
Ошибка 3 из 5
Устаревшие сведения
на момент обученияМожет не знать
Режим поиска помогает, но ссылки всё равно надо открывать
Случай из практики лектора
Вопрос о новой редакции стандарта
ГОСТ Р 56939
стандарт безопасной
разработки программ
Редакция
2016 года
замененаРедакция
2024 года
новаяВопрос о новой редакции
Нет, вы ошибаетесь, такого ГОСТа нет.
Я знаю ГОСТ 2016 года
Случай из практики лектора
Вопрос о новой редакции стандарта
ГОСТ Р 56939
стандарт безопасной
разработки программ
Редакция
2016 года
замененаРедакция
2024 года
новаяВопрос о новой редакции
Нет, вы ошибаетесь, такого ГОСТа нет.
Я знаю ГОСТ 2016 года
Случай из практики лектора
Модель не врёт нарочно
Возможно, новой редакции не было в её обучающих данных
По одному ответу
причину не установить
И при этом модель спорит уверенно
Действие инженера
Со свежими документами порядок такой
Сначала найти документ
Поиском или взять его у себя
И только потом дать модели
С вашими стандартами и техническими условиями – то же самое: модель знает ту редакцию, которую видела при обучении, если видела вообще
Действие инженера
Со свежими документами порядок такой
Сначала найти документ
Поиском или взять его у себя
И только потом дать модели
С вашими стандартами и техническими условиями – то же самое: модель знает ту редакцию, которую видела при обучении, если видела вообще
Ошибка 4 из 5
Вычисления и инженерная логика
Модель может верно
- описать методику
И ошибиться
- в подстановке чисел
- в переводе единиц
Исследование 2026 года
Типовые сбои на инженерных задачах
Модели решали инженерные задачи
по расчёту конструкций и оптимизации
Геометрические рассуждения
Многошаговые вычисления
Выбор при противоречивых ограничениях
Mysior M., Iniotakis C. Research in Engineering Design, 2026 · doi.org/10.1007/s00163-026-00504-1
Обзор применения моделей в машиностроении
Обзор говорит то же самое
Модели полезны как помощник для работы
Но не как замена инженерного расчёта и проверки
Sorour S., Sahbel A. Journal of Intelligent Manufacturing, 2026 · doi.org/10.1007/s10845-026-02927-y
Вывод авторов обзора
Вывод авторов обзора
Языковые модели становятся полезным смысловым и координирующим звеном в инженерной работе, но не надёжной заменой инженерным инструментам
Sorour S., Sahbel A. Journal of Intelligent Manufacturing, 2026 · doi.org/10.1007/s10845-026-02927-y
Практическое правило
Считает инструмент, пересчитываете вы
Модель
Методику может напомнить, формулу – подсказать
Инструмент
Считает: таблица, расчётная программа, калькулятор
Вы
Каждую цифру, от которой зависит решение, пересчитываете сами
Ошибка 5 из 5
Согласие с ошибкой в вопросе
Если вопрос исходит из неверного допущения, модель чаще примет его, чем поправит
Подробнее – во второй теме
Главный вывод
Главный вывод
Ответ модели всегда проверяет инженер
Модель экономит время на черновике, но отвечает за результат тот, кто его использует
Программа для самолёта
Пример, близкий инженерам
Когда пишут программу для системы, которая управляет самолётом, ответственность берёт на себя человек. Он обязан перепроверить этот код
в эпоху GenAI», 28.08.2026
Люди для принятия решений ещё нужны
Ведущий того же вебинара
Не стоит слишком сильно доверять искусственному интеллекту ключевые решения. Люди для принятия решений ещё нужны
Акт приёмки и рубильник
Те, кто внедряет такие системы
Тот, кто подписал акт приёмки, тот и отвечает
ДСДмитрий СлуженикинИТ-форум «Цифровые решения», октябрь 2026
Рубильник должен быть в руках человека
АСАртём СубботинИИ-митап ЦГУ, 06.11.2026
Черновик письма готовит модель. Отправлять или нет, решает ответственный сотрудник, ещё раз его прочитав
Акт приёмки и рубильник
Те, кто внедряет такие системы
Тот, кто подписал акт приёмки, тот и отвечает
ДСДмитрий СлуженикинИТ-форум «Цифровые решения», октябрь 2026
Рубильник должен быть в руках человека
АСАртём СубботинИИ-митап ЦГУ, 06.11.2026
Черновик письма готовит модель. Отправлять или нет, решает ответственный сотрудник, ещё раз его прочитав
Когда я работаю с моделью
Я – архитектор и заказчик
Ставлю задачу
Модель пишет
Текст или код
Принимаю результат
И отвечаю за него
Обратная сторона правила
Парадокс надзора
Чтобы проверить результат, нужна собственная компетенция. А если делегировать слишком много, навык самостоятельной работы может ослабевать
На практике
ИИ стоит брать помощником в той работе, которую вы понимаете и можете проверить сами
Обратная сторона правила
Парадокс надзора
Чтобы проверить результат, нужна собственная компетенция. А если делегировать слишком много, навык самостоятельной работы может ослабевать
На практике
ИИ стоит брать помощником в той работе, которую вы понимаете и можете проверить сами
Артём Субботин · ИИ-митап ЦГУ, 06.11.2026
Шесть задач, где хватает даже простой модели
Протокол совещания
Модель пишет решения, сроки и ответственных
Человек проверяет и рассылает
Ответ на обращение
Черновик по регламенту со ссылкой на пункт
Человек правит и подписывает
Разбор почты
Модель раскладывает письма по темам и исполнителям
Человек смотрит
только спорные
Проверка документа
Модель проходит по чек-листу и отмечает, где не так
Человек смотрит
отмеченные пункты
Сводка для руководителя
Раз в неделю – что сделано и что просрочено
Поиск по документам
Модель находит ответ во внутренних документах и показывает, откуда он
Человек проверяет источник
Артём Субботин · ИИ-митап ЦГУ, 06.11.2026
Шесть задач, где хватает даже простой модели
Протокол совещания
Модель пишет решения, сроки и ответственных
Человек проверяет и рассылает
Ответ на обращение
Черновик по регламенту со ссылкой на пункт
Человек правит и подписывает
Разбор почты
Модель раскладывает письма по темам и исполнителям
Человек смотрит
только спорные
Проверка документа
Модель проходит по чек-листу и отмечает, где не так
Человек смотрит
отмеченные пункты
Сводка для руководителя
Раз в неделю – что сделано и что просрочено
Поиск по документам
Модель находит ответ во внутренних документах и показывает, откуда он
Человек проверяет источник
Артём Субботин · ИИ-митап ЦГУ, 06.11.2026
Шесть задач, где хватает даже простой модели
Протокол совещания
Модель пишет решения, сроки и ответственных
Человек проверяет и рассылает
Ответ на обращение
Черновик по регламенту со ссылкой на пункт
Человек правит и подписывает
Разбор почты
Модель раскладывает письма по темам и исполнителям
Человек смотрит
только спорные
Проверка документа
Модель проходит по чек-листу и отмечает, где не так
Человек смотрит
отмеченные пункты
Сводка для руководителя
Раз в неделю – что сделано и что просрочено
Поиск по документам
Модель находит ответ во внутренних документах и показывает, откуда он
Человек проверяет источник
Артём Субботин · ИИ-митап ЦГУ, 06.11.2026
Шесть задач, где хватает даже простой модели
Протокол совещания
Модель пишет решения, сроки и ответственных
Человек проверяет и рассылает
Ответ на обращение
Черновик по регламенту со ссылкой на пункт
Человек правит и подписывает
Разбор почты
Модель раскладывает письма по темам и исполнителям
Человек смотрит
только спорные
Проверка документа
Модель проходит по чек-листу и отмечает, где не так
Человек смотрит
отмеченные пункты
Сводка для руководителя
Раз в неделю – что сделано и что просрочено
Поиск по документам
Модель находит ответ во внутренних документах и показывает, откуда он
Человек проверяет источник
Простая задача, понятный образец, человек на выходе
Везде одно и то же
Простая задача, понятный образец
и человек на выходе
Совет первый: без модели, если можно без неё
Два трезвых совета · ИИ-митап ЦГУ, 06.11.2026
Если задача решается без языковой модели, лучше её не использовать
Для инженера: если они есть, модель к ним не нужна
Совет первый: без модели, если можно без неё
Два трезвых совета · ИИ-митап ЦГУ, 06.11.2026
Если задача решается без языковой модели, лучше её не использовать
Для инженера: если они есть, модель к ним не нужна
Совет второй · представитель банка, ИИ-митап ЦГУ, 06.11.2026
Мерить нужно всю цепочку
Вопрос
Модель
Сама может давать хорошее качество на тестах
Результат
Которым пользуются люди
от вопроса до результата
И не делать агентами всё подряд
По этой схеме работаем весь курс
Работа с ответом модели: от задачи до решения
Карточка задачи
данные, результат, критерии
Запрос
шесть частей
Модель
составляет текст
Ответ
таблица или черновик
Чек-лист
цифры, расчёты, ссылки
В работу
под ответственность инженера
Уточнить запрос
данные, ограничения
По этой схеме работаем весь курс
Работа с ответом модели: от задачи до решения
Карточка задачи
данные, результат, критерии
Запрос
шесть частей
Модель
составляет текст
Ответ
таблица или черновик
Чек-лист
цифры, расчёты, ссылки
В работу
под ответственность инженера
Уточнить запрос
данные, ограничения
По этой схеме работаем весь курс
Работа с ответом модели: от задачи до решения
Карточка задачи
данные, результат, критерии
Запрос
шесть частей
Модель
составляет текст
Ответ
таблица или черновик
Чек-лист
цифры, расчёты, ссылки
В работу
под ответственность инженера
Уточнить запрос
данные, ограничения
Обратите внимание
Где на схеме инженер
Карточка задачи
данные, результат, критерии
Запрос
шесть частей
Модель
составляет текст
Ответ
таблица или черновик
Чек-лист
цифры, расчёты, ссылки
В работу
под ответственность инженера
Уточнить запрос
данные, ограничения
Теперь коротко
От чата к агенту
Сервисы на моделях удобно разложить по четырём ступеням
От чата к агенту
Четыре ступени
Чат
Отвечает на ваш текст
Чат с файлами и поиском
Читает загруженные документы и найденные страницы
Помощник по документам
Ищет ответ в подключённой базе документов организации
Агент
Сам решает, какой инструмент вызвать: поиск, расчёт, запрос в другую систему. Вызывает его, смотрит на результат и продолжает работу
От чата к агенту
Четыре ступени
Чат
Отвечает на ваш текст
Чат с файлами и поиском
Читает загруженные документы и найденные страницы
Помощник по документам
Ищет ответ в подключённой базе документов организации
Агент
Сам решает, какой инструмент вызвать: поиск, расчёт, запрос в другую систему. Вызывает его, смотрит на результат и продолжает работу
От чата к агенту
Ступени условные и могут пересекаться
Поиск по документам выполняет программа
За окном обычного чата иногда работает агентный цикл
Главное различие
Кто выбирает следующий шаг
Ступени 1–3
- Работа идёт по сценарию, который задала программа
- Что делать дальше,
решает человек
Агент
- Следующее действие
выбирает сам - Поэтому и требования
к проверке у него выше
Агент без процесса
Когда агент работает без процесса
Агент уверенно делает не то и молча додумывает решения, которые должен был принять человек
Чтобы было понятнее
Пример на каждую ступень
| Ступень | Пример |
|---|---|
| Чат | Вопрос о причинах просадки напряжения |
| Чат с файлами и поиском | Сводка по загруженному техническому заданию |
| Помощник по документам | Вопрос о порядке испытаний – ответ со ссылкой на внутренний стандарт |
| Агент | Проверка комплекта документов: получает файлы, сверяет их с требованиями и готовит перечень расхождений |
Чтобы было понятнее
Пример на каждую ступень
| Ступень | Пример |
|---|---|
| Чат | Вопрос о причинах просадки напряжения |
| Чат с файлами и поиском | Сводка по загруженному техническому заданию |
| Помощник по документам | Вопрос о порядке испытаний – ответ со ссылкой на внутренний стандарт |
| Агент | Проверка комплекта документов: получает файлы, сверяет их с требованиями и готовит перечень расхождений |
Чтобы было понятнее
Пример на каждую ступень
| Ступень | Пример |
|---|---|
| Чат | Вопрос о причинах просадки напряжения |
| Чат с файлами и поиском | Сводка по загруженному техническому заданию |
| Помощник по документам | Вопрос о порядке испытаний – ответ со ссылкой на внутренний стандарт |
| Агент | Проверка комплекта документов: получает файлы, сверяет их с требованиями и готовит перечень расхождений |
Больше возможностей – выше цена ошибки
От ступени к ступени
У модели больше возможностей – и растёт цена ошибки
Что такое агент, если говорить строго
Если говорить строго
Программная система, которая:
Многократно обращается к модели
Обрабатывает её ответы
Например, выбирает и вызывает нужную функцию
Возвращает результат модели
В следующем запросе
Национальный институт стандартов и технологий США. NIST AI 100-2e2025, 2025 · doi.org/10.6028/NIST.AI.100-2e2025
Что такое агент, если говорить строго
Если говорить строго
Программная система, которая:
Многократно обращается к модели
Обрабатывает её ответы
Например, выбирает и вызывает нужную функцию
Возвращает результат модели
В следующем запросе
Национальный институт стандартов и технологий США. NIST AI 100-2e2025, 2025 · doi.org/10.6028/NIST.AI.100-2e2025
Чем агент отличается от чата
То есть
От чата агента отличает не качество ответа
Следующее действие модель выбирает сама
На занятиях показываю вживую
Чат и агентная программа
Чат – DeepSeek или Qwen
Отвечает в окне браузера
К вашему компьютеру не подключается и ничего на нём не делает
Агентная программа
Работает на компьютере,
в отдельной папке
Модель при этом может быть облачной
Сама создаёт в этой папке файлы,
запускает команды и проверяет,
что получилось
На занятиях показываю вживую
Чат и агентная программа
Чат – DeepSeek или Qwen
Отвечает в окне браузера
К вашему компьютеру не подключается и ничего на нём не делает
Агентная программа
Работает на компьютере,
в отдельной папке
Модель при этом может быть облачной
Сама создаёт в этой папке файлы,
запускает команды и проверяет,
что получилось
Это другой уровень
Когда студенты видят такую работу
Это другой уровень
Так говорят те, кто до этого только задавал вопросы в чате
Схема: модель выбирает следующий шаг
Так работает агент
Схема: модель выбирает следующий шаг
Так работает агент
Схема: модель выбирает следующий шаг
Так работает агент
По сути
Цикл «подумал – сделал – посмотрел»
Рассуждение
Помогает составить и уточнить план
Действие
Обращение к внешнему источнику, например к базе знаний, за недостающими сведениями
Yao S. et al. ReAct: Synergizing Reasoning and Acting in Language Models, 2022 · doi.org/10.48550/arXiv.2210.03629
По сути
Цикл «подумал – сделал – посмотрел»
Рассуждение
Помогает составить и уточнить план
Действие
Обращение к внешнему источнику, например к базе знаний, за недостающими сведениями
Yao S. et al. ReAct: Synergizing Reasoning and Acting in Language Models, 2022 · doi.org/10.48550/arXiv.2210.03629
Сколько раз вызывалась модель
Простой вопрос
- Сколько раз вызывалась модель, чтобы ответить пользователю?
Модель решила вызвать инструмент
Одного обращения к модели мало
Указание вместо текста
Сначала модель возвращает указание вызвать инструмент
Результат инструмента
Затем модель получает результат его работы
Ответ
Только после этого модель отвечает
Инструмент не нужен – модель может ответить сразу
Модель решила вызвать инструмент
Одного обращения к модели мало
Указание вместо текста
Сначала модель возвращает указание вызвать инструмент
Результат инструмента
Затем модель получает результат его работы
Ответ
Только после этого модель отвечает
Инструмент не нужен – модель может ответить сразу
Пример
Корпоративный помощник и его инструменты
Поиск по внутренней базе документов
Поиск задач в системе учёта
Пример
Один помощник, разные вопросы
Как у нас положено хранить пароли от служебных систем?
Сначала ищет по базе, находит стандарт и отвечает по нему
Как лучше провести планёрку?
Отвечает сразу, без инструментов: внутренние данные тут не нужны
Если выключить поиск по базе, ответ про пароли будет взят из общих знаний модели, а не из вашего стандарта
Пример
Один помощник, разные вопросы
Как у нас положено хранить пароли от служебных систем?
Сначала ищет по базе, находит стандарт и отвечает по нему
Как лучше провести планёрку?
Отвечает сразу, без инструментов: внутренние данные тут не нужны
Если выключить поиск по базе, ответ про пароли будет взят из общих знаний модели, а не из вашего стандарта
Осторожнее с агентами · 1 из 4
Ошибка становится действием
Ошибся чат
Это видит человек
Ошибся агент
Он может успеть:
- отправить письмо
- изменить запись
- запустить расчёт с неверными данными
Осторожнее с агентами · 1 из 4
Ошибка становится действием
Ошибся чат
Это видит человек
Ошибся агент
Он может успеть:
- отправить письмо
- изменить запись
- запустить расчёт с неверными данными
Ровно столько прав, сколько требует задача
Осторожнее с агентами · 2 из 4
Агенту – ровно столько прав, сколько требует задача
Инструкции модели такие ограничения не заменяют
Осторожнее с агентами · 3 из 4
Чужой текст может управлять агентом
Если в них спрятана команда, модель может принять её за задание
NIST: враждебные данные в контексте агента
Отчёт о состязательном машинном обучении, 2025
Враждебные данные, попавшие в контекст из ненадёжных источников, могут заставить агента выполнять действия злоумышленника
NIST AI 100-2e2025. Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations, 2025 · doi.org/10.6028/NIST.AI.100-2e2025
Инструкция белым шрифтом на белом фоне
ИИ-митап ЦГУ, 06.11.2026
В документ белым шрифтом на белом фоне вписывают инструкцию для модели. Вы своими глазами её не видите. А модель видит и начинает выполнять
Что видите вы
человекЧто видит модель
модельОб этом подробно поговорим во второй день
Осторожнее с агентами · 4 из 4
Действия с последствиями подтверждает человек
- Где ставить подтверждение, решается для каждой задачи отдельноЛишние подтверждения тоже стоят времени
- Подтверждение работает, только если его читают
Морозов: сам жмёт «разрешить»
На том же митапе
Признался, что сам постоянно жмёт «разрешить», а когда надоедает, говорит: разрешить всё
Хотя только что рассказывал, что так делать нельзя
Рука сама нажимает «да»
Знакомо каждому, кто долго работал с агентом
Подтверждений много, они однообразные, и рука сама нажимает «да»
По себе знаю
Несколько дней подряд следишь за работой агентов
Кажется, что ничего не делаешь
К вечеру выжат в ноль
Сидишь, как охранник на смене
Внимание к подтверждениям падает
Агент действует автономно
Из курса лектора по агентам
На этом слове держится определение агента: между целью и действием нет обязательного человека
Автономность – это не удобство, а источник риска
Система, которая сама выбирает следующие действия, требует явно очерченных полномочий
Агент действует автономно
Из курса лектора по агентам
На этом слове держится определение агента: между целью и действием нет обязательного человека
Автономность – это не удобство, а источник риска
Система, которая сама выбирает следующие действия, требует явно очерченных полномочий
Цымлов: исполнитель с инициативой
Вебинар о проверке кода, который пишут агенты
Автономный агент – это исполнитель с инициативой. А исполнитель с инициативой и полными правами – это стажёр, которому вы дали полный доступ в пятницу вечером
Алексей Цымлов
Отсюда его принципы
Права – как у молодого хирурга
Смотреть можно, резать только под присмотром
Секреты – вне досягаемости
Агент не может слить то, чего не видел
Служеникин: бетонные разделительные блоки
ИТ-форум «Цифровые решения», октябрь 2026
Поскольку мы так доверяем людям, на дорогах у нас стоят бетонные разделительные блоки. Информационная безопасность – это и есть те самые блоки
Артём Субботин · ИИ-митап ЦГУ, 06.11.2026
Четыре правила перед запуском агента
Сначала описать работу, потом звать агента
Кривой процесс он не исправит, а просто сделает быстрее
Закрыть отправку наружу в настройках
Агент может сам решить кому-то написать. Просьба в тексте не спасёт, спасёт запрет
Требовать ежедневный отчёт
Если агент молча встал, вы узнаете об этом на следующий день, а не через месяц
Назначить ответственного сотрудника
У каждого агента есть человек, который отвечает за его работу
Артём Субботин · ИИ-митап ЦГУ, 06.11.2026
Четыре правила перед запуском агента
Сначала описать работу, потом звать агента
Кривой процесс он не исправит, а просто сделает быстрее
Закрыть отправку наружу в настройках
Агент может сам решить кому-то написать. Просьба в тексте не спасёт, спасёт запрет
Требовать ежедневный отчёт
Если агент молча встал, вы узнаете об этом на следующий день, а не через месяц
Назначить ответственного сотрудника
У каждого агента есть человек, который отвечает за его работу
Артём Субботин · ИИ-митап ЦГУ, 06.11.2026
Четыре правила перед запуском агента
Сначала описать работу, потом звать агента
Кривой процесс он не исправит, а просто сделает быстрее
Закрыть отправку наружу в настройках
Агент может сам решить кому-то написать. Просьба в тексте не спасёт, спасёт запрет
Требовать ежедневный отчёт
Если агент молча встал, вы узнаете об этом на следующий день, а не через месяц
Назначить ответственного сотрудника
У каждого агента есть человек, который отвечает за его работу
Артём Субботин · ИИ-митап ЦГУ, 06.11.2026
Четыре правила перед запуском агента
Сначала описать работу, потом звать агента
Кривой процесс он не исправит, а просто сделает быстрее
Закрыть отправку наружу в настройках
Агент может сам решить кому-то написать. Просьба в тексте не спасёт, спасёт запрет
Требовать ежедневный отчёт
Если агент молча встал, вы узнаете об этом на следующий день, а не через месяц
Назначить ответственного сотрудника
У каждого агента есть человек, который отвечает за его работу
Упражнение для желающих
Опишите агента на одной странице
Агент помогает разбирать замечания по испытаниям, как в учебном кейсе ЭС-24
- Какие данные он получает
- Какие инструменты ему нужны
- Что делает сам, а что предлагает на подтверждение
- Как проверяется его результат
- Каких прав у него быть не должно
Это задел для пятого модуля. Подробнее – в дополнительном материале «От чата к агенту»
Упражнение для желающих
Опишите агента на одной странице
Агент помогает разбирать замечания по испытаниям, как в учебном кейсе ЭС-24
- Какие данные он получает
- Какие инструменты ему нужны
- Что делает сам, а что предлагает на подтверждение
- Как проверяется его результат
- Каких прав у него быть не должно
Это задел для пятого модуля. Подробнее – в дополнительном материале «От чата к агенту»
Правило с первого занятия
Правило с первого занятия
В сервисы ИИ – только учебные и открытые материалы
Не вставляем, даже если очень хочется проверить на настоящей задаче
Правило с первого занятия
Правило с первого занятия
В сервисы ИИ – только учебные и открытые материалы
Не вставляем, даже если очень хочется проверить на настоящей задаче
Морозов: облачные модели – как интернет
ИИ-митап ЦГУ, 06.11.2026
К внешним облачным моделям нужно относиться так же, как к интернету. Всё, что попало в интернет, навеки там остаётся
День 2 · тема 2.1
Разберём во второй день
Почему это правило такое строгое
Как работать с данными разного уровня
Коротко повторим главное
Что запомнить
- Модель составляет правдоподобный текст, а не достаёт проверенный ответ из базы
- Ссылки, номера документов, числа и расчёты в ответе проверяем всегда
- Один и тот же вопрос может дать разные ответыЭто повод проверить, а не выбрать понравившийся
- Доступ на работе – только законным путёмЧерез подразделение, которое его выдаёт
Коротко повторим главное
Что запомнить
- Модель составляет правдоподобный текст, а не достаёт проверенный ответ из базы
- Ссылки, номера документов, числа и расчёты в ответе проверяем всегда
- Один и тот же вопрос может дать разные ответыЭто повод проверить, а не выбрать понравившийся
- Доступ на работе – только законным путёмЧерез подразделение, которое его выдаёт
От чата к агенту: кто выбирает следующий шаг
Что запомнить · от чата к агенту
Чат
Отвечает на ваш текст
Чат с файлами и поиском
Читает документы и страницы
Помощник по документам
Ищет в базе документов организации
Агент
Сам вызывает инструменты и действует. Следующий шаг выбирает сам
Поэтому агенту – ровно столько прав, сколько нужно, и подтверждение человеком там, где у действия есть последствия
Коротко повторим главное
Что запомнить
Модель составляет правдоподобный текст, а не достаёт проверенный ответ из базы
Ссылки, номера документов, числа и расчёты проверяем всегда
Разные ответы на один вопрос – повод проверить, а не выбрать понравившийся
Доступ на работе – только законным путём
Агенту – ровно столько прав, сколько нужно, и подтверждение человеком
В сервисы – только учебные и открытые материалы
Практика 1.1
1.1Пробуем сервисы на учебном узле ЭС-24
Заданий три: интерфейс, одна задача в разных сервисах, карточка инженерной задачи
Задание 1 из 3 · 30 минут
Осмотреть интерфейс
Задание 2 из 3 · 60 минут
Одна задача в разных сервисах
Отправить одно и то же замечание
В два-три сервиса, каждый раз в новом чате
Сравнить ответы
По таблице критериев
Поискать ошибки
В готовом ответе из кейса
Задание 3 из 3 · 30 минут
Карточка инженерной задачи
Исходные данныеЧто известно: факты, цифры, документы
Ожидаемый результатЧто нужно получить и в каком виде
Критерии приёмкиПо каким признакам примете результат
ОграниченияЧто задано и чего не делать
По учебному замечанию
По своей задаче
Без служебных сведений
Задание 3 из 3 · 30 минут
Карточка инженерной задачи
Исходные данныеЧто известно: факты, цифры, документы
Ожидаемый результатЧто нужно получить и в каком виде
Критерии приёмкиПо каким признакам примете результат
ОграниченияЧто задано и чего не делать
По учебному замечанию
По своей задаче
Без служебных сведений
К практике
Практика 1.1
Что-то не открывается или не получается
Пишите в чат сразу, не ждите конца задания. Будем разбираться вместе
А теперь – к практике