Финна настройка на модела Google's Gemma-3-4B-IT с MLX_LM и подготовката му за Ollama

Финното настройване на големи езикови модели (LLMs) става все по-достъпно благодарение на инструменти като MLX-LM, който е оптимизиран за Apple Silicon. В тази статия ще направим финна настройка на базовия модел Google Gemma-3-4B-IT с помощта на персонализиран датасет, сливане на адаптерите и конвертиране на резултата във формат GGUF за използване с Ollama. Ще разгледаме основните стъпки: изтегляне на базовия модел, финна настройка, сливане, работа с токенайзера, конвертиране към GGUF и конфигуриране на Modelfile за Ollama. Предварителните условия включват Mac от M-серията, инсталиран MLX_LM, регистрация в Hugging Face и Llama.cpp за етапа на конвертиране. Да започваме! Стъпка 1: Изтегляне на базовия модел от Hugging Face Преди да можете да настроите модела, трябва да изтеглите базовия Google Gemma-3-4B-IT модел от Hugging Face. Имайте предвид, че Gemma моделите са с ограничен достъп, което означава, че трябва да приемете лицензионните условия на страницата на модела (https://huggingfa...

Маракеш

Маракеш е един от четирите големи града в Мароко. Известен е като град на творците и е препочитано място за почивка на мароканците от цялата страна. В сравнение с другите арабски държави, които съм посещавал, Мароко и в частност Маракеш е доста по различен. Местните са доста по умерени в преследването на чужденците в опит да им пордадат нещо. Времето прекарано в града, като изключим лудото движение беше доста спокойно, за което най-вероятно допринася силното полицейско и армейско присъствие. Направи ми впечатление, че цените в голяма част от заведенията и магазините са същите като в централна и западна Европа, докато доходите на местните са доста по-ниски дори от тези в България. Друго нещо което ме учуди беше продажбата на свинско месо в супермаркетите на Карфур. Нещо, което до сега не съм видял в нито една друга арабска държава и е достатъчно показателно до колко страната е отворена към други религии и култури. Основни забележителости за града са площада Джема Ел Фна, където непресънато се случва нещо било то през деня или вечер. Медината (Стария град) с безбройните малки улички образуващи лабиринт, където може да се купи от пиле мляко. Кралския и Бая палатите, гробниците Саадиан, градината Мажорел. Ако разполагате с повече време може да откриете още доста забележителности за посещение на страницата на Tipadvisor. Силно препоръчвам на всеки попаднал в Маракеш да отиде на Хамам. Това е тип традиционна баня превърната в СПА процедура за чужденците. Ако някой се интересува, пишете ми и ще ви препоръчам къде да отидете.


Коментари

Популярни публикации от този блог

Поддръжка и настройка на хидрофор

Родопски диалектни думи

Памук заседнал в ухото