Справочник · термины курса

Глоссарий: ИИ и языковые модели

Термины курса и страницы «Частые вопросы» простыми словами. Порядок тематический: от общих понятий к агентам и базам знаний. У каждого термина – английский вариант, который встречается в программах и статьях, а у большинства терминов – ссылка на вопрос или тему курса, где о нём рассказано подробнее.

63 терминовв порядке тем

01 · раздел

Искусственный интеллект и машинное обучение

Эти понятия часто смешивают, хотя они вложены друг в друга.

Искусственный интеллект (ИИ)artificial intelligence, AI
Общее название программ, которые решают задачи, где обычно нужен человек: понимают текст и речь, распознают изображения, делают выводы. Сюда входят и программы на правилах, записанных вручную, и машинное обучение. Подробнее – вопрос 1.
Машинное обучениеmachine learning, ML
Подход, при котором программа не получает правила от человека, а сама подбирает их по примерам. Результат обучения – модель. Подробнее – вопрос 1.
Классическое машинное обучениеclassical machine learning
Методы машинного обучения для таблиц и чисел: прогноз величины (регрессия), отнесение к классу (классификация), поиск групп похожих объектов (кластеризация). Подходят, например, чтобы предсказать отказ по показаниям датчиков. Подробнее – вопрос 2.
Нейронная сетьneural network
Модель из множества простых вычислительных элементов, собранных в слои. У каждого соединения между ними свой вес, и обучение сводится к подбору этих весов. Посмотреть, как это работает, можно в лаборатории «Цифра. Слой за слоем»: https://neural-network-digit-recognition.pikov.expert/
Глубокое обучениеdeep learning
Обучение нейронных сетей со многими слоями на больших объёмах данных. Большие языковые модели – один из его результатов.
Большая языковая модель (LLM)large language model
Нейронная сеть с миллиардами параметров, обученная на огромном объёме текстов предсказывать продолжение текста. На таких моделях работают чат-сервисы и агенты. Подробнее – вопрос 1.
Генеративный ИИgenerative AI
Модели, которые создают новый материал: текст, изображения, программный код, звук. Большие языковые модели – самый известный пример.

02 · раздел

Модель

Что такое модель физически и почему для неё нужно мощное оборудование.

Модельmodel
Набор чисел, подобранных при обучении, вместе с описанием того, как по ним считать ответ. Хранится в файлах; работает внутри программы, которая эти файлы загружает. Подробнее – вопрос 4.
Параметры, весаparameters, weights
Числа внутри модели, которые подбираются при обучении. Размер модели обычно называют числом параметров: 8B – 8 миллиардов. Подробнее – вопрос 5.
Обучение моделиtraining
Подбор параметров модели по большому массиву примеров. Обучают модель один раз, а пользуются готовой много раз.
Дообучениеfine-tuning
Продолжение обучения готовой модели на небольшом наборе своих примеров, чтобы она лучше справлялась с определённой задачей или писала в нужном стиле.
Вывод, работа моделиinference
Этап, когда обученная модель получает запрос и вычисляет ответ. Каждый ваш вопрос в чате – это вывод.
Открытые весаopen weights
Модель, файлы которой разработчик выложил для скачивания. Её можно запустить на своём оборудовании, без передачи данных поставщику. Подробнее – вопрос 24.
Квантованиеquantization
Сжатие модели: каждый параметр хранится меньшим числом битов, например 4 вместо 16. Модель становится в несколько раз меньше, а качество немного снижается. Сможет ли она работать дома, зависит от её размера и оборудования. Подробнее – вопрос 6.
Видеокарта, ускорительGPU, accelerator
Устройство для быстрых параллельных вычислений. На нём работают нейронные сети. Главная характеристика для языковой модели – объём собственной памяти: для быстрой работы модель должна в неё поместиться. Подробнее – вопрос 6.

03 · раздел

Токены и текст внутри модели

Как модель читает и пишет текст.

Токенtoken
Кусочек текста, с которым работает модель: короткое слово целиком, часть слова или знак препинания. Длину запросов, лимиты и цену считают в токенах. Подробнее – вопрос 7.
Токенизаторtokenizer
Программа, которая режет текст на токены и заменяет их номерами из своего словаря. У каждого семейства моделей свой словарь, поэтому один и тот же текст занимает у разных моделей разное число токенов. Подробнее – вопрос 8.
Эмбеддинг, векторembedding, vector
Набор из нескольких тысяч чисел, которым модель представляет токен. Близкие по смыслу кусочки текста получают похожие наборы чисел. Подробнее – вопрос 9.
Трансформерtransformer
Устройство нейронной сети, на котором построены современные языковые модели. Его основа – механизм внимания. Подробнее – вопрос 9.
Механизм вниманияattention
Часть модели, которая для каждого токена определяет, какие другие токены текста для него важны, и учитывает их.
Контекстное окно, контекстcontext window
Всё, что модель видит в одном запросе: инструкции, диалог, приложенные файлы. Объём ограничен числом токенов; в очень длинном диалоге начало может учитываться хуже. Подробнее – вопрос 9.
Температураtemperature
Настройка случайности при выборе следующего токена. Чем она ниже, тем чаще модель выбирает самый вероятный вариант. Даже при нулевой температуре полное совпадение ответов не гарантируется. Подробнее – вопрос 10.
Галлюцинацияhallucination
Правдоподобный по форме, но неверный ответ модели: выдуманный факт, число, ссылка. Поэтому ответы модели всегда проверяют. Подробнее – тема 1.1 курса.

04 · раздел

Изображения

Мультимодальная модельmultimodal model
Модель, которая принимает не только текст, но и изображения, а иногда звук и видео. Подробнее – вопрос 11.
Кодировщик изображенийvision encoder
Отдельный блок модели, который превращает картинку в векторы, понятные языковой модели. Подробнее – вопрос 11.
Фрагмент изображения, патчpatch
Квадратик картинки, например 16×16 пикселей. Каждый фрагмент становится для модели «визуальным токеном». Подробнее – вопрос 12.

05 · раздел

Промпт

Промпт, запросprompt
Всё, что модель получает на входе: задача, условия, примеры, файлы. Подробнее – вопрос 13.
Системный промпт, инструкцияsystem prompt
Постоянная инструкция, которую сервис или программа добавляет к каждому запросу: роль, правила, ограничения. Пользователь её обычно не видит.
Пример в запросеfew-shot example
Образец «вход – нужный результат», который кладут в запрос, чтобы модель повторила формат и подход. Пример может уменьшить зависимость ответа от формулировки. Подробнее – вопрос 13.
Промпт-инженерияprompt engineering
Умение составлять запросы так, чтобы модель выполнила задачу. Подробнее – вопрос 14.
Инженерия контекстаcontext engineering
Следующий шаг промпт-инженерии: подбор всего, что попадает модели на вход, – инструкций, документов, результатов инструментов, – чтобы она справилась с задачей. Подробнее – вопрос 14.

06 · раздел

Модели, цены и подписки

Режим рассужденияreasoning, thinking
Режим, в котором модель перед ответом пишет для себя промежуточные шаги. На многошаговых задачах это помогает, но расходует больше токенов и времени. Подробнее – вопрос 18.
Уровень усилийeffort, reasoning effort
Настройка того, насколько долго и подробно модель рассуждает. Высокий уровень даёт больше шансов справиться со сложной задачей, но тратит больше токенов. Подробнее – вопрос 18.
API, программный доступAPI
Доступ к модели из своей программы. Оплата идёт по числу токенов на входе и на выходе. Подробнее – вопрос 17.
Подпискаsubscription
Помесячная плата за чат-сервис или программу-агента с лимитами на объём работы. Подробнее – вопрос 19.
Лимит использованияusage limit, rate limit
Ограничение на объём работы с моделью за период: число сообщений, токенов, запросов. Подробнее – вопрос 20.
Бенчмаркbenchmark
Набор заданий для сравнения моделей. Для русского языка есть отдельные наборы. Подробнее – вопрос 15.

07 · раздел

Данные

Персональные данныеpersonal data
По закону № 152-ФЗ – любая информация, относящаяся к прямо или косвенно определённому или определяемому человеку. Подробнее – вопрос 23 и тема 2.1 курса.
Обезличиваниеde-identification, anonymization
Действия, после которых без дополнительной информации нельзя определить, к какому человеку относятся данные. Обезличивание не даёт права отправлять документ во внешний сервис. Подробнее – вопрос 23.
Трансграничная передачаcross-border transfer
Передача персональных данных на территорию иностранного государства – его органу власти, иностранной организации или иностранному гражданину. Закон требует от оператора отдельных действий до её начала. Подробнее – вопрос 23.
Локальная модельlocal model
Модель, которая работает на вашем компьютере или сервере организации, а не у внешнего поставщика. Подробнее – вопрос 24.
Шлюз безопасности ИИAI gateway
Программа между сотрудником и моделью: находит в запросе чувствительные сведения, заменяет их метками, а в ответе подставляет обратно. Подробнее – тема 5.1 курса.

08 · раздел

Агенты

АгентAI agent
Программа, в которой модель сама выбирает следующее действие: вызывает инструменты, смотрит на результат и продолжает, пока задача не решена. Подробнее – вопрос 27.
Инструмент, вызов инструментаtool, tool call
Функция, которую агент может вызвать: поиск, чтение файла, расчёт, запрос в систему учёта. Модель возвращает не текст, а указание вызвать инструмент с нужными данными. Подробнее – вопрос 27.
Командная строка, CLIcommand-line interface
Способ работать с программой, набирая команды текстом в окне терминала. Многие программы-агенты устроены именно так. Подробнее – вопрос 26.
Харнесharness
Всё, что стоит вокруг модели: инструкции, доступ к одним данным и запрет на другие, инструменты, проверки, журнал, точки, где решает человек. Подробнее – тема 5.1 курса.
Скилл, навыкskill, Agent Skills
Папка для одной работы: инструкция для агента в файле SKILL.md, а если нужно – ещё шаблоны и скрипты. Агент загружает её, когда задача подходит. Подробнее – вопрос 28.
Режим разрешенийpermission mode
Настройка программы-агента: что она делает сама, а на что спрашивает разрешение. Подробнее – вопрос 26 и вопрос 31.
Песочницаsandbox
Среда, которая по настройкам ограничивает доступ выполняемых команд к файлам, сети и другим ресурсам. Что именно она охватывает, зависит от программы. Подробнее – вопрос 31.

09 · раздел

Подключение к сервисам

MCPModel Context Protocol
Открытый стандарт подключения агента к внешним данным и сервисам: файлам, почте, календарю, базам. Подробнее – вопрос 29.
Сервер MCPMCP server
Программа, которая открывает агенту доступ к одному сервису и описывает его инструменты. Подробнее – вопрос 29.
Область доступаscope
Набор разрешений, который приложение получает при подключении к сервису: например, «только чтение календаря» или «отправка писем». Подробнее – вопрос 30.
Внедрение командprompt injection
Атака, при которой в текст, который читает модель, – письмо, документ, веб-страницу – прячут команду, и модель принимает её за задание. Подробнее – вопрос 30 и тема 2.1 курса.
Избыточная самостоятельностьexcessive agency
Риск, когда у агента больше функций, прав или свободы действий, чем нужно для задачи. Подробнее – вопрос 30.

10 · раздел

Несколько агентов

Оркестрацияorchestration
Организация работы нескольких агентов: ведущий делит задачу, раздаёт части и собирает результат. Подробнее – вопрос 31.
Субагентsubagent
Помощник ведущего агента со своей инструкцией, своим набором инструментов и своими правами. Подробнее – вопрос 31.
Подтверждение человекомhuman-in-the-loop
Шаг, на котором действие агента с последствиями выполняется только после согласия человека. Подробнее – вопрос 30.

11 · раздел

База знаний

RAG, генерация с поискомretrieval-augmented generation
Способ, при котором программа перед ответом находит фрагменты в базе документов, а модель отвечает по ним. Подробнее – вопрос 32.
База знанийknowledge base
Собранные документы и заметки, по которым агент или помощник ищет ответы. Подробнее – вопрос 32.
MarkdownMarkdown
Простой формат текстовых файлов: заголовки отмечаются знаком «#», списки – дефисом. Такие файлы одинаково удобно читать человеку и модели.
ObsidianObsidian
Бесплатная программа для заметок, которая хранит их файлами Markdown в папке на вашем диске. Подробнее – вопрос 32.
Файл инструкций агентаCLAUDE.md, AGENTS.md
Текстовый файл в рабочей папке, который агент читает в начале работы: кто вы, что за проект, какие правила. Подробнее – вопрос 32.
Памятьmemory
Функция чат-сервиса или агента, которая переносит сведения из прошлых разговоров в новые. Подробнее – вопрос 32.

Ссылки

Источники

Определения в глоссарии – пересказ материалов курса и страницы «Частые вопросы»; все ссылки, на которые они опираются, приведены в разделе «Источники» той страницы. Отдельно: