Введіть щонайменше 2 символи для пошуку в усіх галузях.
Що означає LoRA?
Значення й приклади · Розробка програмного забезпечення
LoRA: LoRA, низькорангова адаптація
Скорочення від low-rank adaptation — метод донавчання, що залишає початкові ваги незмінними й навчає лише невеликі додані матриці, заощаджуючи пам’ять і місце.
Де і як уживається
Найпопулярніший метод параметрично-ефективного донавчання (PEFT). Команди навчають LoRA-адаптер для кожного завдання чи клієнта й змінюють адаптери поверх однієї базової моделі. QLoRA поєднує метод із квантуванням для роботи на менших GPU.
Приклади речень
With LoRA we fine-tuned the 8B model on a single GPU in one afternoon.
З LoRA ми донавчили модель 8B на одному GPU за один післяобідній сеанс.
Невеликий набір додаткових параметрів дає змогу обійтися одним GPU.
Each customer has its own LoRA adapter, but they all share the same base model.
Кожен клієнт має власний LoRA-адаптер, але всі використовують ту саму базову модель.
Адаптери персоналізують поведінку, а базові ваги спільні.
Поширені словосполучення
- LoRA adapter
- train a LoRA
- LoRA rank
- QLoRA
- merge the LoRA weights
Пов’язані терміни
Це слово в інших галузях
Те саме англійське слово може мати інше значення в іншій галузі:
Інші терміни: Машинне навчання й обробка даних
- artificial intelligence · штучний інтелект
- machine learning · машинне навчання
- model · модель
- dataset · набір даних
- training data · тренувальні дані
- label · мітка
- train · навчати модель
- supervised learning · навчання з учителем
- neural network · нейронна мережа
- deep learning · глибинне навчання
- loss function · функція втрат
- overfitting · перенавчання
Закріплюйте лексику читанням
Тексти відповідного рівня допомагають запам’ятовувати нові слова. Оберіть безкоштовні книжки англійською: