Финна настройка на модела Google's Gemma-3-4B-IT с MLX_LM и подготовката му за Ollama

Финното настройване на големи езикови модели (LLMs) става все по-достъпно благодарение на инструменти като MLX-LM, който е оптимизиран за Apple Silicon. В тази статия ще направим финна настройка на базовия модел Google Gemma-3-4B-IT с помощта на персонализиран датасет, сливане на адаптерите и конвертиране на резултата във формат GGUF за използване с Ollama. Ще разгледаме основните стъпки: изтегляне на базовия модел, финна настройка, сливане, работа с токенайзера, конвертиране към GGUF и конфигуриране на Modelfile за Ollama. Предварителните условия включват Mac от M-серията, инсталиран MLX_LM, регистрация в Hugging Face и Llama.cpp за етапа на конвертиране. Да започваме! Стъпка 1: Изтегляне на базовия модел от Hugging Face Преди да можете да настроите модела, трябва да изтеглите базовия Google Gemma-3-4B-IT модел от Hugging Face. Имайте предвид, че Gemma моделите са с ограничен достъп, което означава, че трябва да приемете лицензионните условия на страницата на модела (https://huggingfa...

Уот По, Бангкок


Опитвайки се да разберем накъде точно да поемем с отворени карти привличаме вниманието на тук-туците и биваме атакувани за пореден път. Сгъваме картите на бързо, благодарим учтиво, но твърдо и поемаме по пътя си. След около 20-30 минути пеша достигаме до Храма на полегналия Буда – Уот По. Плащаме таксата от 150 бата на човек, което включва и безплатна бутилка минерана вода и влизаме. Архитектурата и обстановката в храма нямат нищо общо с това което сме виждали до момента. Всичко ни изглежда нереално и много екзотично. Навлизайки по навътре осъзнаваме, че в случая не говорим за един храм а по скоро за комплекс от храмове. Град от храмове един вид. В различните храмчета и по големи храмове централно място заема Буда, който може да се види във всякакви пози. В едни е легнал, в други седнал а в най-голямата сграда е полегнал – от където идва всъщност и името на комплекса. Навън между постройките има павирани алеи площадчета, водопади и конусовидни стуктури с височина от около 3 метра, които са много и присъстват навсякъде. Всяка една от вратите към малките дворчета и външните врати има от двете си страни страховити статуи на воиници, някаква смесица между хора и вид животни, въоръжени с мечове, пики и друго оръжие. Самите дворчета имат по периметъра си навес, под който могат да се видят редици и редици от Буда в стойка лотус със златно покритие.  В комплекса оставаме за около 3 часа и може да се каже, че сме видяли почти всичко. 





























Коментари

Популярни публикации от този блог

Поддръжка и настройка на хидрофор

Родопски диалектни думи

Памук заседнал в ухото