Публикации

Показват се публикации от септември, 2015

Финна настройка на модела Google's Gemma-3-4B-IT с MLX_LM и подготовката му за Ollama

Финното настройване на големи езикови модели (LLMs) става все по-достъпно благодарение на инструменти като MLX-LM, който е оптимизиран за Apple Silicon. В тази статия ще направим финна настройка на базовия модел Google Gemma-3-4B-IT с помощта на персонализиран датасет, сливане на адаптерите и конвертиране на резултата във формат GGUF за използване с Ollama. Ще разгледаме основните стъпки: изтегляне на базовия модел, финна настройка, сливане, работа с токенайзера, конвертиране към GGUF и конфигуриране на Modelfile за Ollama. Предварителните условия включват Mac от M-серията, инсталиран MLX_LM, регистрация в Hugging Face и Llama.cpp за етапа на конвертиране. Да започваме! Стъпка 1: Изтегляне на базовия модел от Hugging Face Преди да можете да настроите модела, трябва да изтеглите базовия Google Gemma-3-4B-IT модел от Hugging Face. Имайте предвид, че Gemma моделите са с ограничен достъп, което означава, че трябва да приемете лицензионните условия на страницата на модела (https://huggingfa...
Публикуване на коментар
Прочетете още

Маракеш

Изображение
Маракеш е един от четирите големи града в Мароко. Известен е като град на творците и е препочитано място за почивка на мароканците от цялата страна. В сравнение с другите арабски държави, които съм посещавал, Мароко и в частност Маракеш е доста по различен. Местните са доста по умерени в преследването на чужденците в опит да им пордадат нещо. Времето прекарано в града, като изключим лудото движение беше доста спокойно, за което най-вероятно допринася силното полицейско и армейско присъствие. Направи ми впечатление, че цените в голяма част от заведенията и магазините са същите като в централна и западна Европа, докато доходите на местните са доста по-ниски дори от тези в България. Друго нещо което ме учуди беше продажбата на свинско месо в супермаркетите на Карфур. Нещо, което до сега не съм видял в нито една друга арабска държава и е достатъчно показателно до колко страната е отворена към други религии и култури. Основни забележителости за града са площада Джема Ел Фна, където непресън...
Публикуване на коментар
Прочетете още

С каяк по р. Арда

Изображение
Това лято с група приятели решихме да отидем до село Маджарово, където да прекараме 3 дни на палатки на брега на р. Арда. Както обикновенно тръгнах без никакви очаквания и преполагах, че природата ще бъде не по различна от тази в горното течение на река Арда в района на селата Арда, Момчиловци и Смилян. Веднъж пристигнали обаче осъзнах, че силно съм се заблудил. Самата река е в пъти по-голяма от това което съм виждал и невероятно чиста. Толкова чиста, че следващите няколко дена къпане, миене на лица и всякакви други дейности свързани с личната хигиена се извършваха в коритото й. Околността е по-малко планинска и по-скоро равнинна. По поречието на реката могат да се видят както залесени хълмове така и голи скали, които взимат дъха ти с красотата си.  Голяма атракция в района са лешоядите, от които могат да се наблюдават няколко различни вида, някои от тях са белоглавия, изключително редкия египетски  и други. Освен лешоядите могат да се видят и други не по малко интересни птиц...
1 коментар
Прочетете още