Англійська лексика: Штучний інтелект · Впровадження та MLOps

Що означає inference?

Значення й приклади · Штучний інтелект

/ˈɪnfərəns/іменникОсновний термін

inference: інференс, виконання моделі, виведення моделі

Етап, на якому навчена модель обробляє нове вхідне значення й генерує результат, наприклад відповідь користувачу чи класифікацію нового фото.

Де і як уживається

Протиставляється навчанню. Інженери запускають і пришвидшують інференс, обговорюють його вартість і сервери, а також пакетний інференс чи інференс у реальному часі. Термін постійно трапляється в розмовах про інфраструктуру й бюджет.

Приклади речень

  1. Now that the app has a million users, inference costs us more than training.

    Тепер, коли в застосунку мільйон користувачів, інференс коштує нам дорожче за навчання.

    Постійна обробка запитів великої аудиторії перевищила разові витрати на тренування моделі.

  2. We run inference on CPUs at night and on GPUs during peak hours.

    Уночі ми запускаємо інференс на CPU, а в години пікового навантаження — на GPU.

    Обчислювальне обладнання вибирають відповідно до очікуваного навантаження.

Поширені словосполучення

  • run inference
  • inference cost
  • inference speed
  • real-time inference
  • batch inference

Це слово в інших галузях

Те саме англійське слово може мати інше значення в іншій галузі:

Інші терміни: Впровадження та MLOps

Закріплюйте лексику читанням

Тексти відповідного рівня допомагають запам’ятовувати нові слова. Оберіть безкоштовні книжки англійською: