Английская лексика: Искусственный интеллект · Нейронные сети и глубокое обучение

Что значит transformer?

Значение и примеры · Искусственный интеллект

/trænsˈfɔːrmər/существительноеБазовый термин

transformer: трансформер, архитектура трансформера

Архитектура нейронной сети, представленная в 2017 году и использующая механизм внимания для параллельной обработки частей последовательности; на ней основаны современные LLM.

Где и как употребляется

Слово употребляют как существительное и определение: модель-трансформер, слои трансформера, система на основе трансформера. Различают модели только с энкодером, только с декодером и с энкодером-декодером. Их применяют также к изображениям и аудио.

Примеры предложений

  1. We replaced the old recurrent model with a small transformer and cut errors by a third.

    Мы заменили старую рекуррентную модель небольшим трансформером и сократили число ошибок на треть.

    Новая архитектура улучшила качество относительно рекуррентной модели.

  2. Most current LLMs are decoder-only transformers.

    Большинство современных LLM — трансформеры только с декодером.

    Уточняется тип архитектуры, использованный в языковых моделях.

Распространённые словосочетания

  • transformer model
  • transformer architecture
  • decoder-only transformer
  • transformer-based

Это слово в других отраслях

Одно и то же английское слово может иметь другое значение в другой отрасли:

Другие термины: Нейронные сети и глубокое обучение

Закрепляйте лексику чтением

Тексты подходящего уровня помогают запоминать новые слова. Выберите бесплатные книги на английском: