Справочник · термины курса
Глоссарий: ИИ и языковые модели
Термины курса и страницы «Частые вопросы» простыми словами. Порядок тематический: от общих понятий к агентам и базам знаний. У каждого термина – английский вариант, который встречается в программах и статьях, а у большинства терминов – ссылка на вопрос или тему курса, где о нём рассказано подробнее.
01 · раздел
Искусственный интеллект и машинное обучение
Эти понятия часто смешивают, хотя они вложены друг в друга.
- Искусственный интеллект (ИИ)artificial intelligence, AI
- Общее название программ, которые решают задачи, где обычно нужен человек: понимают текст и речь, распознают изображения, делают выводы. Сюда входят и программы на правилах, записанных вручную, и машинное обучение. Подробнее – вопрос 1.
- Машинное обучениеmachine learning, ML
- Подход, при котором программа не получает правила от человека, а сама подбирает их по примерам. Результат обучения – модель. Подробнее – вопрос 1.
- Классическое машинное обучениеclassical machine learning
- Методы машинного обучения для таблиц и чисел: прогноз величины (регрессия), отнесение к классу (классификация), поиск групп похожих объектов (кластеризация). Подходят, например, чтобы предсказать отказ по показаниям датчиков. Подробнее – вопрос 2.
- Нейронная сетьneural network
- Модель из множества простых вычислительных элементов, собранных в слои. У каждого соединения между ними свой вес, и обучение сводится к подбору этих весов. Посмотреть, как это работает, можно в лаборатории «Цифра. Слой за слоем»: https://neural-network-digit-recognition.pikov.expert/
- Глубокое обучениеdeep learning
- Обучение нейронных сетей со многими слоями на больших объёмах данных. Большие языковые модели – один из его результатов.
- Большая языковая модель (LLM)large language model
- Нейронная сеть с миллиардами параметров, обученная на огромном объёме текстов предсказывать продолжение текста. На таких моделях работают чат-сервисы и агенты. Подробнее – вопрос 1.
- Генеративный ИИgenerative AI
- Модели, которые создают новый материал: текст, изображения, программный код, звук. Большие языковые модели – самый известный пример.
02 · раздел
Модель
Что такое модель физически и почему для неё нужно мощное оборудование.
- Модельmodel
- Набор чисел, подобранных при обучении, вместе с описанием того, как по ним считать ответ. Хранится в файлах; работает внутри программы, которая эти файлы загружает. Подробнее – вопрос 4.
- Параметры, весаparameters, weights
- Числа внутри модели, которые подбираются при обучении. Размер модели обычно называют числом параметров: 8B – 8 миллиардов. Подробнее – вопрос 5.
- Обучение моделиtraining
- Подбор параметров модели по большому массиву примеров. Обучают модель один раз, а пользуются готовой много раз.
- Дообучениеfine-tuning
- Продолжение обучения готовой модели на небольшом наборе своих примеров, чтобы она лучше справлялась с определённой задачей или писала в нужном стиле.
- Вывод, работа моделиinference
- Этап, когда обученная модель получает запрос и вычисляет ответ. Каждый ваш вопрос в чате – это вывод.
- Открытые весаopen weights
- Модель, файлы которой разработчик выложил для скачивания. Её можно запустить на своём оборудовании, без передачи данных поставщику. Подробнее – вопрос 24.
- Квантованиеquantization
- Сжатие модели: каждый параметр хранится меньшим числом битов, например 4 вместо 16. Модель становится в несколько раз меньше, а качество немного снижается. Сможет ли она работать дома, зависит от её размера и оборудования. Подробнее – вопрос 6.
- Видеокарта, ускорительGPU, accelerator
- Устройство для быстрых параллельных вычислений. На нём работают нейронные сети. Главная характеристика для языковой модели – объём собственной памяти: для быстрой работы модель должна в неё поместиться. Подробнее – вопрос 6.
03 · раздел
Токены и текст внутри модели
Как модель читает и пишет текст.
- Токенtoken
- Кусочек текста, с которым работает модель: короткое слово целиком, часть слова или знак препинания. Длину запросов, лимиты и цену считают в токенах. Подробнее – вопрос 7.
- Токенизаторtokenizer
- Программа, которая режет текст на токены и заменяет их номерами из своего словаря. У каждого семейства моделей свой словарь, поэтому один и тот же текст занимает у разных моделей разное число токенов. Подробнее – вопрос 8.
- Эмбеддинг, векторembedding, vector
- Набор из нескольких тысяч чисел, которым модель представляет токен. Близкие по смыслу кусочки текста получают похожие наборы чисел. Подробнее – вопрос 9.
- Трансформерtransformer
- Устройство нейронной сети, на котором построены современные языковые модели. Его основа – механизм внимания. Подробнее – вопрос 9.
- Механизм вниманияattention
- Часть модели, которая для каждого токена определяет, какие другие токены текста для него важны, и учитывает их.
- Контекстное окно, контекстcontext window
- Всё, что модель видит в одном запросе: инструкции, диалог, приложенные файлы. Объём ограничен числом токенов; в очень длинном диалоге начало может учитываться хуже. Подробнее – вопрос 9.
- Температураtemperature
- Настройка случайности при выборе следующего токена. Чем она ниже, тем чаще модель выбирает самый вероятный вариант. Даже при нулевой температуре полное совпадение ответов не гарантируется. Подробнее – вопрос 10.
- Галлюцинацияhallucination
- Правдоподобный по форме, но неверный ответ модели: выдуманный факт, число, ссылка. Поэтому ответы модели всегда проверяют. Подробнее – тема 1.1 курса.
04 · раздел
Изображения
- Мультимодальная модельmultimodal model
- Модель, которая принимает не только текст, но и изображения, а иногда звук и видео. Подробнее – вопрос 11.
- Кодировщик изображенийvision encoder
- Отдельный блок модели, который превращает картинку в векторы, понятные языковой модели. Подробнее – вопрос 11.
- Фрагмент изображения, патчpatch
- Квадратик картинки, например 16×16 пикселей. Каждый фрагмент становится для модели «визуальным токеном». Подробнее – вопрос 12.
05 · раздел
Промпт
- Промпт, запросprompt
- Всё, что модель получает на входе: задача, условия, примеры, файлы. Подробнее – вопрос 13.
- Системный промпт, инструкцияsystem prompt
- Постоянная инструкция, которую сервис или программа добавляет к каждому запросу: роль, правила, ограничения. Пользователь её обычно не видит.
- Пример в запросеfew-shot example
- Образец «вход – нужный результат», который кладут в запрос, чтобы модель повторила формат и подход. Пример может уменьшить зависимость ответа от формулировки. Подробнее – вопрос 13.
- Промпт-инженерияprompt engineering
- Умение составлять запросы так, чтобы модель выполнила задачу. Подробнее – вопрос 14.
- Инженерия контекстаcontext engineering
- Следующий шаг промпт-инженерии: подбор всего, что попадает модели на вход, – инструкций, документов, результатов инструментов, – чтобы она справилась с задачей. Подробнее – вопрос 14.
06 · раздел
Модели, цены и подписки
- Режим рассужденияreasoning, thinking
- Режим, в котором модель перед ответом пишет для себя промежуточные шаги. На многошаговых задачах это помогает, но расходует больше токенов и времени. Подробнее – вопрос 18.
- Уровень усилийeffort, reasoning effort
- Настройка того, насколько долго и подробно модель рассуждает. Высокий уровень даёт больше шансов справиться со сложной задачей, но тратит больше токенов. Подробнее – вопрос 18.
- API, программный доступAPI
- Доступ к модели из своей программы. Оплата идёт по числу токенов на входе и на выходе. Подробнее – вопрос 17.
- Подпискаsubscription
- Помесячная плата за чат-сервис или программу-агента с лимитами на объём работы. Подробнее – вопрос 19.
- Лимит использованияusage limit, rate limit
- Ограничение на объём работы с моделью за период: число сообщений, токенов, запросов. Подробнее – вопрос 20.
- Бенчмаркbenchmark
- Набор заданий для сравнения моделей. Для русского языка есть отдельные наборы. Подробнее – вопрос 15.
07 · раздел
Данные
- Персональные данныеpersonal data
- По закону № 152-ФЗ – любая информация, относящаяся к прямо или косвенно определённому или определяемому человеку. Подробнее – вопрос 23 и тема 2.1 курса.
- Обезличиваниеde-identification, anonymization
- Действия, после которых без дополнительной информации нельзя определить, к какому человеку относятся данные. Обезличивание не даёт права отправлять документ во внешний сервис. Подробнее – вопрос 23.
- Трансграничная передачаcross-border transfer
- Передача персональных данных на территорию иностранного государства – его органу власти, иностранной организации или иностранному гражданину. Закон требует от оператора отдельных действий до её начала. Подробнее – вопрос 23.
- Локальная модельlocal model
- Модель, которая работает на вашем компьютере или сервере организации, а не у внешнего поставщика. Подробнее – вопрос 24.
- Шлюз безопасности ИИAI gateway
- Программа между сотрудником и моделью: находит в запросе чувствительные сведения, заменяет их метками, а в ответе подставляет обратно. Подробнее – тема 5.1 курса.
08 · раздел
Агенты
- АгентAI agent
- Программа, в которой модель сама выбирает следующее действие: вызывает инструменты, смотрит на результат и продолжает, пока задача не решена. Подробнее – вопрос 27.
- Инструмент, вызов инструментаtool, tool call
- Функция, которую агент может вызвать: поиск, чтение файла, расчёт, запрос в систему учёта. Модель возвращает не текст, а указание вызвать инструмент с нужными данными. Подробнее – вопрос 27.
- Командная строка, CLIcommand-line interface
- Способ работать с программой, набирая команды текстом в окне терминала. Многие программы-агенты устроены именно так. Подробнее – вопрос 26.
- Харнесharness
- Всё, что стоит вокруг модели: инструкции, доступ к одним данным и запрет на другие, инструменты, проверки, журнал, точки, где решает человек. Подробнее – тема 5.1 курса.
- Режим разрешенийpermission mode
- Настройка программы-агента: что она делает сама, а на что спрашивает разрешение. Подробнее – вопрос 26 и вопрос 31.
- Песочницаsandbox
- Среда, которая по настройкам ограничивает доступ выполняемых команд к файлам, сети и другим ресурсам. Что именно она охватывает, зависит от программы. Подробнее – вопрос 31.
09 · раздел
Подключение к сервисам
- MCPModel Context Protocol
- Открытый стандарт подключения агента к внешним данным и сервисам: файлам, почте, календарю, базам. Подробнее – вопрос 29.
- Сервер MCPMCP server
- Программа, которая открывает агенту доступ к одному сервису и описывает его инструменты. Подробнее – вопрос 29.
- Область доступаscope
- Набор разрешений, который приложение получает при подключении к сервису: например, «только чтение календаря» или «отправка писем». Подробнее – вопрос 30.
- Внедрение командprompt injection
- Атака, при которой в текст, который читает модель, – письмо, документ, веб-страницу – прячут команду, и модель принимает её за задание. Подробнее – вопрос 30 и тема 2.1 курса.
- Избыточная самостоятельностьexcessive agency
- Риск, когда у агента больше функций, прав или свободы действий, чем нужно для задачи. Подробнее – вопрос 30.
10 · раздел
Несколько агентов
- Оркестрацияorchestration
- Организация работы нескольких агентов: ведущий делит задачу, раздаёт части и собирает результат. Подробнее – вопрос 31.
- Субагентsubagent
- Помощник ведущего агента со своей инструкцией, своим набором инструментов и своими правами. Подробнее – вопрос 31.
- Подтверждение человекомhuman-in-the-loop
- Шаг, на котором действие агента с последствиями выполняется только после согласия человека. Подробнее – вопрос 30.
11 · раздел
База знаний
- RAG, генерация с поискомretrieval-augmented generation
- Способ, при котором программа перед ответом находит фрагменты в базе документов, а модель отвечает по ним. Подробнее – вопрос 32.
- База знанийknowledge base
- Собранные документы и заметки, по которым агент или помощник ищет ответы. Подробнее – вопрос 32.
- MarkdownMarkdown
- Простой формат текстовых файлов: заголовки отмечаются знаком «#», списки – дефисом. Такие файлы одинаково удобно читать человеку и модели.
- ObsidianObsidian
- Бесплатная программа для заметок, которая хранит их файлами Markdown в папке на вашем диске. Подробнее – вопрос 32.
- Файл инструкций агентаCLAUDE.md, AGENTS.md
- Текстовый файл в рабочей папке, который агент читает в начале работы: кто вы, что за проект, какие правила. Подробнее – вопрос 32.
- Памятьmemory
- Функция чат-сервиса или агента, которая переносит сведения из прошлых разговоров в новые. Подробнее – вопрос 32.
Ссылки
Источники
Определения в глоссарии – пересказ материалов курса и страницы «Частые вопросы»; все ссылки, на которые они опираются, приведены в разделе «Источники» той страницы. Отдельно:
- Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных», ст. 3 (определения персональных данных, обезличивания, трансграничной передачи). https://www.consultant.ru/document/cons_doc_LAW_61801/4f41fe599ce341751e4e34dc50a4b676674c1416/
- Vaswani A. и соавт. Attention Is All You Need // NeurIPS. 2017. https://doi.org/10.48550/arXiv.1706.03762
- Model Context Protocol. Specification. https://modelcontextprotocol.io/specification/latest
- Agent Skills. Открытый стандарт. https://agentskills.io
- Obsidian. Data storage. https://obsidian.md/help/data-storage
- Лаборатория «Цифра. Слой за слоем». https://neural-network-digit-recognition.pikov.expert/