Всім привіт! Я люблю фентезі і особливо коли читаю книжки в оригіналі. Це дає зовсім інше розуміння, ніж не завжди точні переклади. Ну, наприклад, “The Name of the Wind” Патрика Ротфусса або “Mistborn” Брендона Сандерсона – це справжні шедеври.)
Ті, хто в темі, поділіться, пліз, своїми улюбленими виданнями або книжками, які варто прочитати. Які твори вас вразили? Дяк
Чи існує обмежене квантування в усіх моделях? Наприклад, ви можете взяти стандартну модель, як-от meta-llama/Llama-3.2-1B, і запустити її наполовину (float16?)
Я просто намагаюся зрозуміти, як налаштовано квантування в усіх моделях.
Стандартні моделі, такі як meta-llama/Llama-3.2-1B, можна…