Финна настройка на модела Google's Gemma-3-4B-IT с MLX_LM и подготовката му за Ollama

Финното настройване на големи езикови модели (LLMs) става все по-достъпно благодарение на инструменти като MLX-LM, който е оптимизиран за Apple Silicon. В тази статия ще направим финна настройка на базовия модел Google Gemma-3-4B-IT с помощта на персонализиран датасет, сливане на адаптерите и конвертиране на резултата във формат GGUF за използване с Ollama. Ще разгледаме основните стъпки: изтегляне на базовия модел, финна настройка, сливане, работа с токенайзера, конвертиране към GGUF и конфигуриране на Modelfile за Ollama. Предварителните условия включват Mac от M-серията, инсталиран MLX_LM, регистрация в Hugging Face и Llama.cpp за етапа на конвертиране. Да започваме! Стъпка 1: Изтегляне на базовия модел от Hugging Face Преди да можете да настроите модела, трябва да изтеглите базовия Google Gemma-3-4B-IT модел от Hugging Face. Имайте предвид, че Gemma моделите са с ограничен достъп, което означава, че трябва да приемете лицензионните условия на страницата на модела (https://huggingfa...
Публикуване на коментар

Мароко

Планините Атлас.


Планините Атлас се разделят на три части: Висок Атлас, Анти Атлас и Малък Атлас. Общата им дължина е 2500 км и преминават през Алжир, Мароко и Тунис. Масивът отделя средиземноморското и атлантическото крайбрежие от пустинята Сахара. Най-високия връх е Тубкал (Toubkal)  - 4165 м, който е втори по големина за Африка след Килиманджаро.

Проходът Тичка (Tizi n'Tichka)


Пътят е тесен, изпълнен със звои и склонове от по няколко стотин метра, особено към върха. В момента тече строежа на нов път и тунели под планината.

Сурова среда, в която растения, животни и хора намират начин да оцеляват и да живеят.

 Модерният път е бил завършен през 1929 година. Преди това прекосяването му с камили е отнемало до 6 месеца.

 Най-високата точка на прохода.

За разлика от Маракеш, месните живеещи в планината не ти досаждат и не те гонят да купуваш от тях. Поради някаква причина ми напомниха много за родопчаните по скромното си поведение и добрия си нрав.

При преминаването на прохода внезапни промени не са рядко явление. В рамките на минути могат да се сменят няколко сезона.

Тежкия преход си заслужава за природните картини, които могат да се видят по пътя.

Анти Атлас

 Ерозията оформила два от склоновете като око и сърце.

Според нашия водач това място е рай за геолозите и съм склонен да му вярвам. Пролетните води от високите части на планината са прокопали гигантски каньон, който открива пласт по пласт различни геологически периоди.


Селището Аит Бенхаду (Ait Benhaddou)









Селището е част от защитените обекти по програмата на ЮНЕСКО. Състои се от 6 касби (Kasbah) - месната версия на нашите замъци и близо 50 ксара (Кsar) - пак вид замък но по-малък, индивидуален. Повечето от жителите му са изселени в съседното по-модерно селище с изключение на 4 семейства, които все още живеят там. Обекта често е използван за заснемането на филми, като: Гладиатор, Мумията, Принца на Персия, Бабел и други. В древноста укреплението е било една от основните точки на търговсия път от Тимбукту към Северна Африка и обратно.

Касбата Таурирт (Taourirt Kasbah)

Една от забележителностите в Оарзазате (Ouarzazate) наред с филмовите студя. В градът се намират няколко филмови студия, което му носи славата на Мароканския Холивуд. Символът на влизане в града е снимачна клапа.

Сахара

 Сахара южно от град Загора, посока Алжир. По камениста отколкото пясъчна.

 Ранна сутрин преди изгрева на слънцето.

 Върхът на една от пясъчните дюни. Въпреки, че не могат да се доближат  до пясъчните дюни от Мерзуга или тези от пустинята до Фес, тези от Загора бяха достатъчно внушителни за нас туристите.

Берберския лагер, където изкарахме ноща. 



Коментари

Публикуване на коментар

Популярни публикации от този блог

Поддръжка и настройка на хидрофор

Изображение
Целта на поста е да обясни с прости думи и визуализации как да установите дали хидрофора ви е настроен правилно и да ви даде насоки как да го настройте ако не е. Също така ще опиша чести повреди, както и съвет как да ги поправите. Хидрофора е изключително проста система. От едната страна идва приток на вода от другата страна излиза под по-голямо налягане, точно като водна помпа ако пренебрегнем налягането. Като добавим към водната помпа разширителен съд (не съм сигурен дали това е точният термин) и пресостат и имаме завършен хидрофор. Във вътрешността на разширителният съд има мембрана. Може да си я представите като гумена топка, с автомобилен фитил който се показва извън разширителното тяло и служи за премерване на налягането в мембраната. Хидрофора работи като мембраната е надута до определено налягане, а водната помпа нагнетява вода в останалото пространство в разширителният съд до зададеното максимум налягане в работният диапазон, след което спира работа. Това е принципа на работа ...
Прочетете още

Родопски диалектни думи

--> Първата седмица на месец май изкарахме почивайки в село Давидково. Малко китно селце в Родопите (любимите ми планини). От доста време обикалям по тези места, но досега не бях чувал родопския диалект. Този път ми се отдаде тази възможност. Оказа се, че човек трябва да се позапознае за доста от думите, за да разбере смисъла на това което му говорят, а и за да се избегнат недоразумения. Например думата "копеле" няма негативен смисъл ами означава момче или пък "опишкал съм се", което ще рече убол съм се, а не напикал съм се. Впечатление ми направи и факта, че има много разновидности за думата "много", ето ги и тях поне тези които знам: еце, букадър, шукадър, дерин. Ето и още един израз за района: "Ищеш ли кукуди в гюся", което ще рече Искаш ли юмруци в гърдите, местна заплаха за саморазправа;) По-надолу ще направя един кратък речник на думите които чух там. Сигурно това няма да е пълния списък, но смятам и занапред да записвам каквото чуя...
Прочетете още

Памук заседнал в ухото

Какво да направите ако чистейки ушите си памука заседне в ухото ви? Ако има лекар наблизо или спешен център е препоръчително да отидете и памука да бъде отстранен от доктор. На пръв поглед изглежда дребно и незначително събитие, но последствията могат да бъдат доста сериозни. В случай, че не почистите ушния канал напълно, инфекция е напълно възможна, а в най-лошия случай и загуба на слух. Ако няма лекар наблизо и трябва да се оправяте сами, както ми се случи на мен, ето какво може да направите: Намерете някаква клечка било то кибритена или за зъби. Счупете края и я сдъвчете хубаво докато не стане като метличка. След това внимателно я вкарайте в ушния си канал като я въртите през това време. Сдъвкания край с твърдите си влакна ще закачи влакната на памука, като по този начин памука ще се навие около клечката. Когато усетите, че памука се е закрепил за клечката издърпайте. Бъдете много внимателни когато вкарвате клечката в ухото си да не упражните голям натиск върху тъпанчето. Ако по н...
Прочетете още