Huggingface підтримує список лідерів відкритих LLM, оцінених за різними показниками.

Наразі LLaMA 2 від Meta (і її тонкі налаштування) є найпотужнішим LLM, який ви можете запускати локально. Щоб отримати доступ до вагових показників, потрібно заповнити форму, але, як видається, її було прийнято автоматично.

Щоб створити описовий звіт із рядка, ви можете:

• Включити кілька прикладів у саму підказку, перш ніж надати новий рядок, для якого ви хочете створити, наприклад як:

  [Рядок 1]
  Звіт: [Оповідний звіт 1]
  
  [Рядок 2]
  Звіт: [Оповідний звіт 2]
  
  [Рядок 3]
  Звіт:
  

• Налаштуйте модель за допомогою ефективні методи точного налаштування параметрів, зокрема LoRA. Це сховище містить код для використання LoRA на LLaMA з (висококласним) споживчим обладнанням.

  Це може дозволити налаштувати його на основі всіх 750 ваших доступних пар рядок-звіт, а не лише того, що вписується в запит.