Введите хотя бы 2 символа для поиска по всем отраслям.
Что значит inference?
Значение и примеры · Искусственный интеллект
inference: инференс, вывод модели, применение обученной модели
Этап, на котором обученная модель обрабатывает новые входные данные и выдает результат, например отвечает на вопрос или классифицирует изображение.
Где и как употребляется
Стоимость инференса зависит от числа запросов и оборудования. Его запускают на CPU или GPU, в реальном времени либо пакетно; важно учитывать задержку и пропускную способность.
Примеры предложений
Now that the app has a million users, inference costs us more than training.
Теперь, когда у приложения миллион пользователей, инференс обходится нам дороже обучения.
Большой поток запросов сделал эксплуатационные вычисления дороже первоначального обучения.
We run inference on CPUs at night and on GPUs during peak hours.
Ночью мы выполняем инференс на CPU, а в часы пик — на GPU.
Оборудование для обработки запросов меняют в зависимости от нагрузки.
Распространённые словосочетания
- run inference
- inference cost
- inference speed
- real-time inference
- batch inference
Связанные термины
Это слово в других отраслях
Одно и то же английское слово может иметь другое значение в другой отрасли:
Другие термины: Развертывание и MLOps
Закрепляйте лексику чтением
Тексты подходящего уровня помогают запоминать новые слова. Выберите бесплатные книги на английском: