Ollama
Autorstwo i zatwierdzenie
[Napisane z AI] [Zatwierdzone przez człowieka]
Aktualizacja
03.11.2026
Ollama to darmowy program open source, który pobiera i uruchamia modele językowe na Twoim komputerze. Model działa lokalnie: tekst nie wychodzi do chmury, a za pytania nie płacisz.
6,2 GB
RAM modelu 9B u nas
3,0 tok/s
model 9B na procesorze z 2011
19,5 h
2 tys. tekstów opisanych lokalnie
Jak to działa?
- ollama pull pobiera model, zwykle już zmniejszony (kwantyzacja), żeby zmieścił się w zwykłym komputerze.
- ollama run ładuje model do pamięci i pozwala z nim rozmawiać w terminalu.
- Ollama wystawia też lokalne API, więc z modelu mogą korzystać inne programy, np. automatyzacje w n8n albo własny skrypt.
- Po ostatnim pytaniu model zostaje w pamięci jeszcze kilka minut (domyślnie 5), żeby kolejne pytanie nie czekało na ponowne ładowanie. ollama ps pokazuje, co jest załadowane, a ollama stop zwalnia pamięć od razu.
Ile RAM-u potrzeba?
- Zasada praktyczna: model potrzebuje mniej więcej tyle RAM-u, ile waży jego plik, plus zapas na rozmowę (okno kontekstu).
- 8 GB RAM: komfortowo model ok. 4B (B to miliardy parametrów). 16 GB RAM: modele do ok. 11B.
- Karta graficzna nie jest konieczna. Bez niej model liczy na procesorze i odpowiada wolniej, z nią kilka razy szybciej.
- Gdy RAM-u zabraknie, system przenosi część pamięci na dysk (swap) i wszystko zwalnia wielokrotnie, nie tylko model.
Jak wybrać model?
- Zadanie: do sortowania i opisywania tekstów wystarczy mały model. Do rozmowy, pisania i trudnych pytań potrzebny jest większy.
- Język: małe modele gorzej piszą po polsku niż po angielsku. Polskie modele (np. Bielik) są trenowane z myślą o polszczyźnie.
- Pamięć: najpierw sprawdź, ile masz RAM-u, potem szukaj największego modelu, który się mieści z zapasem.
- Licencja: Ollama jest darmowa, ale każdy model ma własną licencję. Przy użyciu komercyjnym trzeba ją przeczytać.
Jak to robi nasz lab?
Serwer labu to Intel i5-2400 z 2011 roku, 15 GB RAM i żadnej karty graficznej. W listopadzie 2026 zmierzyliśmy na nim te same pytania dla kilku modeli:
- Qwen 3.5 4B: 3,1 GB RAM, 5,0 tokena na sekundę.
- Ornith 1.5 9B: 6,2 GB RAM, 3,0 tokena na sekundę.
- Bielik 11B: 7,7 GB RAM, 2,2 tokena na sekundę.
- Ministral 3 14B: 9,1 GB RAM, 1,5 tokena na sekundę. Za wolno na rozmowę, wystarczy do pracy w nocy.
Na co dzień Ollama opisuje u nas prace naukowe do własnego klasyfikatora tematów: Qwen 3.5 4B opisał 2 tys. tekstów w 19,5 h, w tle i bez kosztów. Lekcja: wstrzymanie programu, który zadaje pytania, nie zwolniło pamięci, bo Ollama dalej liczyła zaczętą odpowiedź. Serwer zszedł na swap. Dopiero ollama stop obniżył zajęty RAM z 12 do 3 GB.
Powiązane pojęcia
Kwantyzacja modelu · Duży model językowy (LLM) · n8n · Tokeny i okno kontekstu
Pytania i odpowiedzi
Czy Ollama jest darmowa?
Tak, to otwarte oprogramowanie na licencji MIT. Własne licencje mają też modele i każdą trzeba sprawdzić osobno, zwłaszcza przy użyciu komercyjnym.
Czy do Ollamy potrzebuję karty graficznej?
Nie. Model działa też na samym procesorze, tylko wolniej. Wszystkie nasze pomiary pochodzą z komputera bez karty graficznej.
Czy lokalny model zastąpi ChatGPT?
W prostych, powtarzalnych zadaniach często tak. W trudnych pytaniach i dobrym tekście po polsku duże modele w chmurze są dziś wyraźnie lepsze.
Źródła
- Ollama, repozytorium i dokumentacja (licencja MIT)
- Lab: test modeli na i5-2400 i pomiar klasyfikatora tematów B138 (listopad 2026)
Dalej