Англійська термінологія ШІ та машинного навчання з поясненнями українською

Галузь інформатики, що створює системи для завдань, які зазвичай потребують людського інтелекту: розуміння мови, розпізнавання зображень чи ухвалення рішень.

Галузь штучного інтелекту, у якій комп’ютери знаходять закономірності в даних і використовують їх для прогнозів чи рішень замість виконання лише вручну заданих правил.

Результат навчання — програма з навченими параметрами, яка отримує вхід, наприклад зображення чи речення, і видає результат: мітку, число або текст.

Тип машинного навчання, у якому модель навчається на прикладах із правильними відповідями (мітками), щоб передбачати відповіді для нових прикладів.

Задача, у якій модель відносить кожен вхід до однієї з визначених категорій, наприклад визначає спам у листі чи категорію товару на фото.

Тип машинного навчання, що знаходить структуру в даних без правильних відповідей (міток), наприклад групує схожих клієнтів або виявляє аномалії.

Задача, у якій модель прогнозує числове значення на неперервній шкалі, наприклад ціну житла, час доставки чи завтрашню температуру.

Тип машинного навчання, у якому агент навчається методом спроб і помилок: виконує дії в середовищі та отримує за результат винагороди або штрафи.

Задача навчання без учителя, що групує схожі об’єкти без наперед заданих міток, наприклад розподіляє клієнтів на сегменти за їхньою поведінкою під час покупок.

Описує найкращий відомий на певний час результат або метод, зазвичай виміряний на загальновідомому бенчмарку.

Колекція прикладів — зображень, текстів чи рядків таблиці, — зібраних і впорядкованих для навчання, тестування або аналізу моделі.

Приклади, на яких модель навчається. Їхня якість, обсяг і різноманітність значною мірою визначають роботу моделі на нових даних.

Одна вимірювана характеристика, подана моделі на вхід, наприклад вік клієнта, кількість попередніх замовлень або яскравість пікселя.

Правильна відповідь, додана до тренувального прикладу, наприклад «спам» для листа чи «кіт» для фото, яку модель із навчанням під наглядом вчиться передбачати.

Додавання міток або приміток до сирих даних — наприклад рамок навколо об’єктів на зображеннях чи тем до речень — для навчання або оцінювання моделі.

Етапи очищення й підготовки сирих даних перед використанням моделлю: наприклад усунення дублікатів, заповнення пропусків, зміна розміру зображень чи нормалізація тексту.

Правильні перевірені відповіді, з якими порівнюють результати моделі; зазвичай їх отримують ретельним людським маркуванням або реальними вимірюваннями.

Створення додаткових навчальних прикладів невеликими змінами наявних, наприклад віддзеркаленням чи обрізанням зображень або перефразуванням речень, щоб модель бачила більше різноманіття.

Ситуація, коли в наборі даних одних класів набагато більше, ніж інших, наприклад 990 звичайних транзакцій на кожні 10 шахрайських.

Помилка, коли в навчання потрапляє інформація, недоступна на момент прогнозу, наприклад тестові приклади чи майбутні дані, через що результати здаються кращими, ніж є насправді.

Модель із багатьох з’єднаних вузлів, розташованих шарами й віддалено натхненних мозком; ваги зв’язків коригуються під час навчання.

Напрям машинного навчання, що використовує нейронні мережі з багатьма шарами; він лежить в основі сучасного розпізнавання мовлення й зображень та великих мовних моделей.

Число всередині моделі, наприклад вага чи зсув, яке вона вивчає з даних під час тренування. Розмір моделі часто описують кількістю параметрів.

Архітектура нейронної мережі, представлена у 2017 році, яка за допомогою механізму уваги паралельно обробляє всі частини послідовності й лежить в основі сучасних LLM.

Один рівень нейронної мережі: група вузлів, яка отримує вихід попереднього рівня, перетворює його й передає далі.

Засвоєні числа на зв’язках нейронної мережі, що визначають силу впливу кожного входу на наступний шар. Разом вони містять те, чого навчилася модель.

Проста математична функція, яку застосовують до виходу кожного нейрона мережі. Вона додає нелінійність, завдяки якій мережа може вивчати складні закономірності.

Метод обчислення внеску кожної ваги нейронної мережі в помилку: її передають назад від вихідного шару до вхідного.

Механізм, що дає моделі змогу визначати, які частини входу найважливіші для кожної його частини, і надавати їм більшу вагу під час формування виходу.

Навчати модель, показуючи їй багато прикладів і багаторазово коригуючи параметри, щоб результати наближалися до правильних відповідей.

Формула, що вимірює відхилення прогнозів моделі від правильних відповідей. Під час навчання значення втрат намагаються зменшити.

Проблема, за якої модель надто точно запам’ятовує тренувальні дані, зокрема шум і випадковості, тому добре працює на них, але погано — на нових.

Один повний прохід процесу навчання по всьому тренувальному набору даних. Зазвичай модель навчають кілька епох.

Гіперпараметр, що визначає розмір кроку під час оновлення параметрів моделі. Надто високе значення робить навчання нестабільним, надто низьке — повільним.

Параметр, який інженери задають до навчання, а не отримують із даних, наприклад швидкість навчання, розмір пакета чи кількість шарів.

Кількість тренувальних прикладів, які модель обробляє разом перед одним оновленням параметрів.

Базовий метод оптимізації під час навчання: він багаторазово трохи змінює кожен параметр у напрямку найшвидшого зменшення втрат.

Проблема, за якої модель надто проста або недостатньо навчена, щоб засвоїти закономірності даних, тому погано працює навіть на тренувальних прикладах.

Будь-який прийом, що обмежує надмірну складність моделі під час навчання, зменшує перенавчання й допомагає краще працювати на нових даних.

Збережена копія ваг моделі, часто разом зі станом оптимізатора, на певному етапі тренування; вона дає змогу продовжити навчання або використати цю версію.

Досягти стабільного стану під час навчання, коли функція втрат перестає помітно зменшуватися і подальше навчання майже не покращує результат.

Частина даних, відкладена для фінального оцінювання того, як готова модель працює на прикладах, яких раніше не бачила.

Частка правильних прогнозів моделі від усіх її прогнозів. Точність 90% означає, що правильними є дев’ять із десяти відповідей.

Частина даних, не використана для навчання й призначена під час розробки для порівняння моделей, налаштування параметрів і вибору моменту зупинки.

Серед усіх випадків, які модель позначила як позитивні, частка справді позитивних. Високий показник означає мало хибних тривог.

Серед усіх випадків, які насправді були позитивними, частка тих, що їх знайшла модель. Висока повнота означає мало пропущених випадків.

Єдине число, що поєднує точність позитивних прогнозів і повноту через їхнє гармонійне середнє. Воно високе лише тоді, коли високі обидва показники.

Стандартний набір завдань і даних для однакового вимірювання моделей, щоб справедливо порівнювати результати різних команд.

Таблиця, що для кожного справжнього класу показує, скільки прикладів модель віднесла до кожного класу; так видно, які класи вона плутає.

Метод оцінювання, що ділить дані на частини, навчає модель на всіх, крім однієї, і тестує на решті, повторюючи це, доки кожна частина не побуває тестовою.

Скорочення від large language model: дуже велика нейронна мережа, навчена на значних обсягах тексту передбачати наступний токен, що дає змогу відповідати, писати, узагальнювати й програмувати.

Невелика одиниця тексту, яку мовна модель читає й генерує: це може бути ціле слово, його частина або розділовий знак. Ліміти й ціни моделей рахують у токенах.

Упевнена, але хибна чи вигадана відповідь генеративної моделі, наприклад неіснуючий факт, цитата, джерело або фрагмент коду.

Максимальний обсяг тексту в токенах, який мовна модель може врахувати за раз, включно з промптом, документами й власною відповіддю.

Системи штучного інтелекту, що створюють новий вміст — текст, зображення, звук, відео чи код — замість лише розподілу входів за класами або прогнозування чисел.

Перший і найбільший етап навчання, на якому модель засвоює загальні закономірності з величезного обсягу переважно нерозмічених даних, перш ніж її пристосують до конкретних завдань.

Параметр, що визначає випадковість виходу генеративної моделі: низьке значення дає передбачуваніші й зосередженіші відповіді, високе — різноманітніші й творчіші.

Здатний працювати з кількома типами даних, як-от текстом, зображеннями, аудіо й відео; наприклад модель може відповідати на запитання про фото.

Система на основі великої мовної моделі, що планує кроки й використовує інструменти — пошук, код або корпоративне ПЗ — для виконання завдання з мінімальною допомогою людини.

Текст або інший вхід для генеративної моделі, що задає їй завдання: запитання, інструкція чи кілька прикладів перед описом завдання.

Інструкції, передані чат-моделі до початку розмови, які задають її роль, правила, тон і обмеження для наступних повідомлень.

Скорочення від retrieval-augmented generation: система спершу шукає релевантні уривки в колекції документів, а потім передає їх LLM для формування відповіді.

Практика розроблення, тестування й поліпшення промптів, щоб модель давала точні, корисні й послідовні результати для певного завдання.

Надання моделі кількох розв’язаних прикладів завдання безпосередньо в промпті, щоб вона відтворила той самий підхід для нового входу без додаткового навчання.

Покрокове міркування, яке модель записує перед остаточною відповіддю; воно часто покращує результати в математиці, логіці та багатокрокових задачах.

База даних для зберігання ембедингів і швидкого пошуку тих, що найбільш подібні до запиту; поширений компонент семантичного пошуку й систем RAG.

Додаткове навчання вже попередньо навченої моделі на меншому наборі даних для конкретного завдання чи заданого стилю.

Повторне використання знань моделі з одного завдання чи набору даних як початкової точки для іншого, спорідненого завдання замість навчання нової моделі з нуля.

Модель, яку лише попередньо навчили, до будь-якого fine-tuning чи навчання інструкцій. Вона добре продовжує текст, але ненадійно виконує інструкції або веде діалог.

Скорочення від low-rank adaptation — метод донавчання, що залишає початкові ваги незмінними й навчає лише невеликі додані матриці, заощаджуючи пам’ять і місце.

Скорочення від reinforcement learning from human feedback: етап навчання, на якому люди ранжують відповіді моделі, модель винагороди засвоює їхні вподобання, а LLM налаштовують на вищі оцінки.

Навчання меншої «учнівської» моделі копіювати виходи більшої «вчительської», щоб зберегти значну частину якості й працювати швидше та дешевше.

Галузь ШІ, що навчає комп’ютери розуміти зображення й відео: розпізнавати об’єкти, читати текст на фото чи відстежувати рух.

Скорочення від convolutional neural network: мережа, що переміщує невеликі навчені фільтри зображенням і виявляє закономірності, як-от краї, текстури й форми.

Задача комп’ютерного зору, що знаходить об’єкти на зображенні чи відео та визначає і їхній клас (наприклад, автомобіль або людина), і місце розташування, зазвичай рамкою.

Задача комп’ютерного зору, що позначає клас або об’єкт для кожного пікселя зображення й задає точну форму замість приблизної рамки.

Прямокутник навколо об’єкта на зображенні, збережений як координати й указує його розташування; стандартний вихід виявлення об’єктів.

Генеративна модель, що вчиться поступово прибирати шум і створює зображення, аудіо чи відео, починаючи з випадкового шуму та крок за кроком уточнюючи результат.

Галузь ШІ, що працює з людською мовою й створює системи для читання, розуміння, перекладу, узагальнення та генерування тексту й мовлення.

Список чисел (вектор), що представляє слово, речення, зображення чи інший об’єкт так, щоб об’єкти зі схожим значенням опинялися близько один до одного.

Компонент, що ділить текст на токени й перетворює їх на числа, зрозумілі моделі, а вихідні числа моделі — назад на текст.

Задача NLP, що визначає думку або емоційне забарвлення тексту, наприклад позитивне, негативне чи нейтральне ставлення у відгуку на товар.

Задача NLP, що знаходить у тексті імена людей, організацій і місць, а також дати, суми та подібні елементи й позначає тип кожного.

Велика впорядкована колекція текстів або мовних записів, що використовується для навчання мовних моделей чи дослідження вживання мови.

Систематична несправедливість у результатах моделі, наприклад гірша робота для певних груп людей, часто спричинена викривленими даними чи рішеннями під час проєктування.

Мета, за якої модель справедливо ставиться до різних груп людей, наприклад забезпечує подібні частоти помилок або схвалення для різних статей, віку чи регіонів.

Міра того, наскільки людям зрозуміло, чому модель зробила певний прогноз або ухвалила рішення; часто допомагають інструменти, що показують найважливіші вхідні дані.

Правило або перевірка навколо моделі, що не допускає шкідливих, недоречних чи небезпечних входів і виходів, наприклад фільтр особистих даних у відповідях.

Тестування моделі або системи ШІ навмисними спробами змусити її помилитися чи поводитися шкідливо, щоб знайти слабкі місця до того, як ними скористаються користувачі або нападники.

Налаштування поведінки системи ШІ відповідно до намірів і цінностей людей, щоб вона була корисною, чесною й уникала шкоди; також галузь досліджень цієї проблеми.

Запит або прийом, що має обдурити модель і змусити її ігнорувати правила безпеки та згенерувати вміст, який вона мала б відхилити.

Етап, на якому навчена модель обробляє нове вхідне значення й генерує результат, наприклад відповідь користувачу чи класифікацію нового фото.

Розмістити навчений модельний компонент у реальній системі, щоб користувачі чи інше ПЗ могли надсилати запити й отримувати прогнози.

Graphics processing unit — мікросхема для тисяч простих паралельних обчислень; це основне обладнання для тренування й запуску нейромереж.

Час між надсиланням запиту до моделі й отриманням відповіді; зазвичай вимірюється мілісекундами чи секундами.

URL, за яким розгорнута модель доступна мережею: інше ПЗ надсилає запит і отримує прогноз або відповідь.

Практики й інструменти надійного запуску машинного навчання в production: версіонування даних і моделей, автоматизація навчання та розгортання, а також моніторинг моделей у часі.

Зміна з часом даних, які отримує розгорнута модель, порівняно з навчальними даними; вона може поступово погіршувати прогнози.

Зберігання ваг моделі, а іноді й активацій, із меншою кількістю бітів, наприклад 8 чи 4 замість 16, щоб зменшити модель і прискорити її.

Зробити нову модель, функцію чи версію доступною користувачам, часто поступово: спершу невеликій частці трафіку, а потім ширшій, якщо показники добрі.