Примітка: у цій відповіді я згадую кілька продуктів. Хоча я використовував деякі з них, я не пов’язаний з ними, а також не пропоную/схвалю будь-який конкретний продукт тут. Проведіть дослідження, щоб переконатися, що все, що ви придбаєте, відповідає вашим вимогам.
Це залежить від вашої конкретної моделі та графічного процесора, але загалом навчання моделей на одному (або кількох!) графічних процесорах значно покращує швидкість навчання. Технічно кажучи, це не потрібно (у деяких випадках). Але це дуже бажано з огляду на варіант.
Якщо ви тренуєте надзвичайно маленьку модель, вона може працювати швидше на ЦП. Або якщо ви порівнюєте сервер Dell PowerEdge із кількома Xeon із дуже старим дешевим графічним процесором.
Припустімо, що ви намагаєтесь навчити генеративну модель пристойного розміру, мати графічний процесор надзвичайно корисно. Для деяких моделей потрібен графічний процесор певної марки, наприклад, якщо ви збираєтеся використовувати NVIDIA CUDA або подібний, тому дізнайтеся свої вимоги, перш ніж робити покупки. Є кілька способів отримати GPU, якщо у вас лише ноутбук.
Деякі ноутбуки* мають порт Thunderbolt, який можна використовувати для підключення до eGPU. Зазвичай це робиться за допомогою корпусу eGPU (тут, як приклад). Також можливо не мати фактичного корпусу. У деяких випадках ви також можете використовувати вбудований роз’єм M.2. Також зауважте, що наявність порту USB-C не означає, що у вас автоматично є Thunderbolt. Справді перевірте характеристики свого ноутбука. Однак деталі цього виходять за рамки цього запитання.
Як згадувалося, деякі постачальники хмарних послуг дозволять вам орендувати VPS із графічним процесором. Хоча це варіант, ціна може бути непомірно високою. Однак у деяких ситуаціях це може мати сенс.
Інший варіант, схожий на VPS, схожий на Google Colab. По суті, це блокнот Python у браузері з вільним доступом до графічних процесорів. Зауважте, що для цього параметра існують обмеження щодо того, скільки часу ви можете використовувати та з якою метою.
*І деякі настільні комп’ютери, але переважно ноутбуки