Навчання в контексті не означає лише наведення кількох прикладів, на відміну від кількох підказок. Це єдина різниця, яку я бачу, і багато людей припускають, що навчання в контексті все одно використовує лише кілька прикладів, напр. див. Опитування щодо навчання в контексті:

Дотримуючись статті GPT-3 (Brown та ін., 2020), ми надаємо визначення навчання в контексті: Навчання в контексті – це парадигма, яка дозволяє мовним моделям вивчати завдання, які мають лише кілька приклади у формі демонстрації.

До речі, у тій же статті пояснюється різниця між поодиноким навчанням і навчанням у контексті:

Поодиноке навчання — це загальний підхід до машинного навчання, який використовує адаптацію параметрів для вивчення найкращих параметрів моделі для завдання з обмеженим часом кількість контрольованих прикладів (Wang and Yao, 2019). Навпаки, ICL не вимагає оновлення параметрів і виконується безпосередньо на попередньо підготовлених LLM.

Previous Article

Як швидко вивчити англійську мову? Чи є які-небудь рекомендації та ресурси для ефективного вивчення на кшталт дуолінго?

Next Article

Яка різниця між навчанням у контексті та короткочасними підказками?

Write a Comment

Leave a Comment

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *