Английские термины искусственного интеллекта и машинного обучения

Область информатики, создающая системы для задач, обычно требующих человеческого интеллекта: понимания языка, распознавания изображений или принятия решений.

Раздел искусственного интеллекта, в котором компьютеры извлекают закономерности из данных и используют их для прогнозов или решений без явного программирования каждого правила.

Результат обучения — программа с усвоенными параметрами, которая получает входные данные, например изображение или текст, и выдает прогноз или ответ.

Тип машинного обучения, при котором модель учится на примерах с правильными ответами, то есть метками.

Задача, в которой модель относит каждый вход к одной или нескольким категориям из заданного набора, например определяет спам или категорию товара на фото.

Тип машинного обучения, находящий структуру в данных без правильных ответов-разметки, например группирующий похожих клиентов или обнаруживающий необычные события.

Задача, в которой модель предсказывает число на непрерывной шкале, например цену дома, срок доставки или завтрашнюю температуру.

Тип машинного обучения, в котором агент учится методом проб и ошибок: действует в среде и получает вознаграждение или штраф за результат.

Задача обучения без учителя, которая объединяет похожие элементы без заранее заданных меток, например сегментирует клиентов по покупательским привычкам.

Описывает лучший известный на данный момент результат или метод, обычно измеренный на известном бенчмарке.

Собранная и организованная коллекция примеров — изображений, текстов или строк таблицы — для обучения или оценки модели.

Примеры, на которых модель учится во время обучения; их качество, размер и разнообразие во многом определяют результат.

Измеряемая величина, подаваемая модели на вход: например возраст клиента, число прежних заказов или яркость пикселя.

Правильный ответ, прикрепленный к обучающему примеру, например пометка «спам» для письма или «кошка» для фотографии.

Добавление меток или примечаний к исходным данным, например рамок вокруг объектов на изображениях или тем предложений, чтобы использовать данные для обучения или оценки.

Этапы очистки и подготовки исходных данных перед использованием моделью: например удаление дубликатов, заполнение пропусков, изменение размера изображений или нормализация текста.

Правильные проверенные ответы, с которыми сравнивают результаты модели; обычно их получают тщательной ручной разметкой или реальными измерениями.

Создание дополнительных обучающих примеров путем небольших изменений существующих — например отражения или обрезки изображений и перефразирования предложений — для увеличения разнообразия данных.

Ситуация, когда одних классов в наборе данных намного больше, чем других, например 990 обычных транзакций на 10 мошеннических.

Ошибка, при которой в обучение попадает информация, недоступная во время прогноза, например тестовые примеры или будущие данные, из-за чего оценка оказывается завышенной.

Модель из множества связанных узлов, расположенных слоями и отчасти вдохновленных устройством мозга; каждый узел преобразует входные значения.

Раздел машинного обучения, использующий нейронные сети со множеством слоев; он лежит в основе современных систем речи, изображений и языка.

Число внутри модели, например вес или смещение, которое модель усваивает во время обучения. Размер модели часто указывают количеством параметров.

Архитектура нейронной сети, представленная в 2017 году и использующая механизм внимания для параллельной обработки частей последовательности; на ней основаны современные LLM.

Уровень нейронной сети — группа узлов, которая принимает выход предыдущего уровня, преобразует его и передает дальше.

Обученные числовые значения связей нейронной сети, определяющие силу влияния каждого входа на следующий слой; вместе они хранят усвоенное моделью.

Простая математическая функция, применяемая к выходу узла нейронной сети; она добавляет нелинейность и позволяет сети изучать сложные закономерности.

Метод расчета вклада каждого веса нейронной сети в ошибку путем передачи сигнала ошибки от выходного слоя назад к входному.

Механизм, позволяющий модели определять, какие части входных данных наиболее важны для каждой части результата, и сильнее учитывать их при генерации.

Обучать модель на множестве примеров, многократно меняя ее параметры так, чтобы она лучше выполняла задачу.

Формула, измеряющая расхождение прогнозов модели с правильными ответами; при обучении модель стремится уменьшить это значение.

Ситуация, когда модель слишком точно запоминает обучающие данные, включая шум и случайные особенности, и хуже работает на новых примерах.

Один полный проход обучения по всему набору обучающих данных; модели обычно обучают несколько эпох.

Гиперпараметр, задающий размер шага при каждом обновлении параметров модели. Слишком большое значение делает обучение нестабильным, слишком малое — медленным.

Параметр, который инженеры выбирают до обучения, а не получают из данных, например скорость обучения, размер пакета или число слоев.

Количество обучающих примеров, обрабатываемых вместе перед одним обновлением параметров модели.

Базовый метод оптимизации при обучении: он многократно немного изменяет параметры в направлении наибольшего уменьшения функции потерь.

Проблема, при которой модель слишком проста или обучалась слишком мало, чтобы уловить закономерности, и потому плохо работает даже на обучающих данных.

Метод, ограничивающий чрезмерную сложность модели во время обучения, чтобы снизить переобучение и улучшить работу на новых данных.

Сохранённые веса модели, а часто и состояние оптимизатора на определённом этапе обучения, позволяющие продолжить обучение или использовать эту версию.

Достичь устойчивого состояния в ходе обучения, когда функция потерь перестает заметно снижаться и дальнейшее обучение почти не приносит улучшений.

Часть данных, отложенная и используемая только в конце для оценки того, насколько хорошо готовая модель работает на новых примерах.

Доля правильных прогнозов модели среди всех ее прогнозов; например, точность 90% означает девять верных ответов из десяти.

Часть данных, не используемая при обучении и применяемая во время разработки для сравнения моделей, настройки параметров и выбора момента остановки.

Доля действительно положительных случаев среди всех случаев, которые модель пометила как положительные; высокая precision означает мало ложных тревог.

Доля найденных моделью случаев среди всех случаев, которые действительно являются положительными; высокая полнота означает мало пропусков.

Единая метрика, объединяющая precision и recall через их среднее гармоническое; она высока только тогда, когда обе исходные метрики высоки.

Стандартный набор задач и данных, на котором модели измеряют одинаковым способом, чтобы справедливо сравнивать результаты разных команд.

Таблица, показывающая для каждого истинного класса, сколько примеров модель отнесла к каждому классу; она помогает увидеть, какие категории модель путает.

Метод оценки, при котором данные делят на несколько частей, обучают модель на всех, кроме одной, и проверяют на оставшейся, повторяя процесс для каждой части.

Очень крупная нейронная сеть, обученная на огромных объемах текста и способная генерировать и обрабатывать язык.

Небольшая единица текста, которую языковая модель читает или генерирует: целое слово, его часть либо знак препинания. Ограничения и стоимость часто считают в токенах.

Уверенный, но ложный или выдуманный результат генеративной модели, например несуществующий факт, цитата, источник или фрагмент кода.

Максимальный объем текста в токенах, который языковая модель может учитывать одновременно, включая запрос, документы и собственный ответ.

Системы ИИ, создающие новый контент — текст, изображения, аудио, видео или код, — а не только распределяющие входы по классам или прогнозирующие значения.

Первый и самый масштабный этап обучения, на котором модель усваивает общие закономерности из огромного объема преимущественно неразмеченных данных перед адаптацией к конкретным задачам.

Настройка, управляющая случайностью результата генеративной модели: низкое значение дает более предсказуемые ответы, высокое — более разнообразные и творческие.

Способный работать с несколькими типами данных, например текстом, изображениями, аудио и видео; такая модель может отвечать на вопросы о фотографии.

Система на основе LLM, которая планирует шаги и использует инструменты — например поиск, код или корпоративные программы, — чтобы выполнять задачу с минимальной помощью человека.

Текст или другой вход, передаваемый генеративной модели, чтобы задать ей задачу: например вопрос, команда или несколько примеров.

Инструкции, передаваемые чат-модели до начала диалога и задающие ее роль, правила, тон и ограничения для последующих сообщений.

Метод, при котором система сначала ищет подходящие фрагменты в коллекции документов, а затем передает их LLM для подготовки ответа.

Практика разработки, тестирования и улучшения запросов к модели, чтобы получать точные, полезные и стабильные результаты.

Передача модели нескольких разобранных примеров задачи внутри запроса, чтобы она повторила этот шаблон для нового входа без дополнительного обучения.

Пошаговое рассуждение, которое модель формулирует до окончательного ответа; часто помогает решать математические, логические и многоэтапные задачи.

База данных для хранения эмбеддингов и быстрого поиска векторов, наиболее похожих на запрос; часто используется в семантическом поиске и системах RAG.

Дополнительное обучение уже предварительно обученной модели на меньшем наборе данных для конкретной задачи, чтобы адаптировать ее поведение.

Использование знаний модели, полученных на одной задаче или наборе данных, как начальной точки для другой связанной задачи вместо обучения с нуля.

Модель, прошедшая только предварительное обучение, но еще не дообученная следовать инструкциям; она хорошо продолжает текст, но ненадежно выполняет команды и ведет диалог.

Метод дообучения, сохраняющий исходные веса неизменными и обучающий только небольшие добавленные матрицы, что экономит память и место.

Этап обучения, на котором люди ранжируют ответы модели, модель вознаграждения усваивает их предпочтения, а LLM настраивают на более высокую оценку.

Обучение меньшей модели-ученика на результатах большой модели-учителя, чтобы сохранить большую часть качества при более быстрой и дешевой работе.

Область ИИ, обучающая компьютеры понимать изображения и видео: распознавать объекты, читать текст на снимках и отслеживать движение.

Сеть, которая перемещает небольшие обучаемые фильтры по изображению и обнаруживает признаки вроде границ, текстур и форм.

Задача компьютерного зрения, которая находит объекты на изображении или видео и определяет как их класс, например автомобиль или человек, так и положение, обычно рамкой.

Задача компьютерного зрения, присваивающая каждому пикселю изображения класс или объект и определяющая точные формы, а не приблизительные рамки.

Прямоугольник вокруг объекта на изображении, заданный координатами и показывающий его положение; это стандартный результат обнаружения объектов.

Генеративная модель, которая учится постепенно удалять шум и создает изображения, аудио или видео, начиная со случайного шума и поэтапно уточняя результат.

Область ИИ, посвященная человеческому языку и созданию систем для чтения, понимания, перевода, суммаризации и генерации текста и речи.

Набор чисел — вектор, представляющий слово, предложение, изображение или другой объект так, что близкие по смыслу объекты располагаются рядом.

Компонент, который разделяет текст на токены и преобразует их в числа для модели, а также превращает выходные числа модели обратно в текст.

Задача обработки языка, определяющая мнение или эмоцию в тексте, например положительную, отрицательную или нейтральную оценку товара.

Задача NLP, которая находит в тексте имена людей, организаций и мест, а также даты, суммы и подобные элементы и помечает тип каждого.

Большая организованная коллекция текстов или записей речи, используемая для обучения языковых моделей или изучения употребления языка.

Систематическая несправедливость результатов модели, например худшая работа для некоторых групп людей или регионов.

Цель, при которой модель справедливо относится к разным группам людей, например обеспечивает сходные доли ошибок или одобрений для разных возрастов, регионов и гендеров.

Степень, в которой люди могут понять, почему модель выдала конкретный прогноз или решение; этому помогают инструменты, показывающие важные входные признаки.

Правило или проверка вокруг модели, предотвращающие вредные, неуместные или небезопасные входы и выходы, например фильтр личных данных в ответах.

Проверка модели или ИИ-системы намеренными попытками вызвать сбой или вредное поведение, чтобы найти уязвимости до пользователей или злоумышленников.

Настройка поведения ИИ-системы в соответствии с намерениями и ценностями людей, чтобы она была полезной, честной и не причиняла вреда; также область исследований этой задачи.

Запрос или приём, рассчитанный на то, чтобы заставить модель игнорировать правила безопасности и выдать запрещённый ею ответ.

Этап, на котором обученная модель обрабатывает новые входные данные и выдает результат, например отвечает на вопрос или классифицирует изображение.

Помещать обученную модель в реальную систему, чтобы пользователи или другие программы могли отправлять ей запросы и получать предсказания.

Чип, выполняющий множество простых вычислений параллельно; он служит основным оборудованием для обучения и запуска нейросетей.

Время между отправкой запроса модели и получением ответа, обычно измеряемое в миллисекундах или секундах.

URL, по которому можно обратиться к развёрнутой модели: другая программа отправляет запрос и получает предсказание или ответ.

Практики и инструменты надежной эксплуатации ML в производственной среде: версионирование данных и моделей, автоматизация обучения и развертывания, мониторинг со временем.

Изменение данных, поступающих в развернутую модель, по сравнению с обучающими данными; со временем оно может ухудшить прогнозы.

Хранение весов модели, а иногда и активаций, с меньшим числом бит, например 8 или 4 вместо 16, чтобы уменьшить размер и ускорить работу.

Делать новую модель, функцию или версию доступной пользователям, часто поэтапно: начинать с небольшой доли трафика и расширять её при хороших показателях.