Финна настройка на модела Google's Gemma-3-4B-IT с MLX_LM и подготовката му за Ollama

Финното настройване на големи езикови модели (LLMs) става все по-достъпно благодарение на инструменти като MLX-LM, който е оптимизиран за Apple Silicon. В тази статия ще направим финна настройка на базовия модел Google Gemma-3-4B-IT с помощта на персонализиран датасет, сливане на адаптерите и конвертиране на резултата във формат GGUF за използване с Ollama. Ще разгледаме основните стъпки: изтегляне на базовия модел, финна настройка, сливане, работа с токенайзера, конвертиране към GGUF и конфигуриране на Modelfile за Ollama. Предварителните условия включват Mac от M-серията, инсталиран MLX_LM, регистрация в Hugging Face и Llama.cpp за етапа на конвертиране. Да започваме! Стъпка 1: Изтегляне на базовия модел от Hugging Face Преди да можете да настроите модела, трябва да изтеглите базовия Google Gemma-3-4B-IT модел от Hugging Face. Имайте предвид, че Gemma моделите са с ограничен достъп, което означава, че трябва да приемете лицензионните условия на страницата на модела (https://huggingfa...

Побърквам ли се... или съм малко бавен

Колко стар трябва да си, за да си мислиш, че нещата вече не са както преди? Не чак толкова стар! Защото нещата наистина не са същите и трябва да се приспособяваш.

Ти живееш в XXI в. и...

1. Без да искаш въвеждаш пин кода си на микровълновата.
2. Не си играл на пасианс с истински карти от години.
3. Не можеш да си намериш колата на паркинга, освен ако не я повикаш с алармата.
4. Баба ти говори повече за Есмералда и Рич, отколкото за собствените си деца.
5. Знаеш повече за проблемите на Брад Пит, отколкото за тези на собствения си брат.
6. Чуваш по новините, че 50 човека са били взривени и сменяш канала, защото не е нищо ново.
7. Сваляш си обувките, преди да влезеш... в самолета.
8. Имаш списък с 15 телефонни номера, за да се обадиш на 3 членното си семейство.
10. Най-добрият приятел на човека вече не е кучето, а мобилният телефон.
11. Звъниш си всяка сутрин... за да си намериш мобилния телефон.
12. Тъпо ти е, че не можеш да звъннеш и на дистанционното на телевизора, като изчезне.
13. Чудиш се на къде да насочиш мебелите си в стаите, където нямаш телевизор.
14. Не знаеш ничий телефон наизуст, дори собственият си, защото всички са ти в GSM-a.
15. Да си забравиш GSM-a в къщи е драма. Единственото по-страшно е да го загубиш!
16. Децата ти играят футбол всеки ден... пред компютъра.
17. 10 годишния ти племенник не може да говори много, но може да чати перфектно.
18. 10 годишния ти племенник пише по-бързо на клавиатурата, отколкото говори.
19. Не си модерен, ако вече си на повече от 20 и още не си спал с някой от твоя пол.
20. Ако си на тийнейджърски купон, можеш да пикаеш навсякъде, но не и в тоалетната. Тя е само за секс.
21. Повечето хора родени около 1990 вече са правили повече секс от теб.
22. Ако слушаш песни, чиито текст има смисъл, значи или си прекалено стар или прекалено гей.
23. Цената на квадратен метър в центъра на столицата ти е по-ниска от цената на квадратен сантиметър в любимия ти уебсайт.
24. Сложил си парола на файла с паролите си.
25. Пращаш е-мейли на колегата в съседния офис.
26. Като причина да не поддържаш връзка с роднини и приятели изтъкваш, че нямат е-мейли.
27. Проверяваш си е-мейла по 5 пъти на ден, но нямаш време да поговориш с майка си повече от веднъж седмично.
28. Ако не получаваш поща вкъщи повече от седмица, се чувстваш пренебрегнат, макар да получаваш редовно само глупави реклами. Ако обаче не получиш никакъв е-мейл за повече от ден-два, даже спам-ът започва да ти липсва .
29. Мразиш да пишеш с химикал, защото няма спелинг чек (проверка на правописа).
30. Използваш си телефона повече за писане, отколкото за говорене.
31. Оплакваш се, че на GSM-ът ти нямаш "copy" - "paste".
32. Купил си си дигитална камера, за да правиш колкото си искаш снимки и сега имаш толкова много, че нямаш време да ги гледаш.
33. Спираш пред къщи с колата и използваш GSM-a, за да провериш дали няма някой вкъщи, за да ти помогне с покупките.
34. Ядосваш се на приятелите ти, че закъсняват с 5 минути и още не са ти звъннали на GSM-a.
35. Децата ти не искат да ядат храна, която не е танцувала по телевизията.
36. Ставаш сутрин и влизаш в Интернет, преди да влезеш в кухнята да си направиш кафе.
37. Колкото повече си разпределяш времето, толкова по-малко ти остава.
38. Слагаш наклонени усмивки, дори когато пишеш с химикал
39. Накланяш си главата на една страна, когато се усмихваш
40. Четеш това и клатиш глава, и се усмихваш.
41. Дори още по-лошо, знаеш на кого точно ще препратиш тази статия.
42. Прекалено си зает, за да забележиш, че на този списък му липсва номер 9.
43. Даже се връщаш назад, за да видиш, наистина ли няма номер 9.
44. А сега се усмихваш.

Коментари

Популярни публикации от този блог

Родопски диалектни думи

Поддръжка и настройка на хидрофор

Памук заседнал в ухото