Fine-tuning a RAG
Autorstwo i zatwierdzenie
[Napisane z AI] [Zatwierdzone przez człowieka]
Aktualizacja
28.10.2026
Fine-tuning (dostrajanie) to douczenie gotowego modelu na Twoich przykładach, żeby zmienił sposób odpowiadania: styl, format, słownictwo. RAG to podawanie modelowi Twoich dokumentów w chwili pytania, bez zmieniania modelu. W skrócie: fine-tuning uczy, jak mówić, RAG daje, o czym mówić.
~2 tys.
nowych tekstów tygodniowo
0
douczonych modeli u nas
202
tekstów o fine-tuningu w bazie
Czym się różnią?
- Wiedza, która się zmienia (cenniki, regulaminy, newsy): RAG. Zmiana dokumentu działa od razu, bez trenowania.
- Styl i format (ton marki, stały szablon odpowiedzi, wąskie zadanie): fine-tuning.
- Źródła: RAG może wskazać, skąd wziął odpowiedź. Model po fine-tuningu nie powie, z którego przykładu się nauczył.
- Koszt: RAG to baza wektorowa i trochę więcej tokenów na pytanie. Fine-tuning to przygotowanie danych, trening i ponowny trening przy każdej większej zmianie.
Jak to robi nasz lab?
- Wybraliśmy RAG i nie douczyliśmy żadnego modelu. Lab czyta tygodniowo ok. 2 tys. nowych tekstów (w tygodniu 12–18.10.2026: 2 197). Model douczony w poniedziałek w środę byłby nieaktualny.
- Nowy tekst = nowy wektor, nie nowy trening. Proces co godzinę dolicza wektory nowym tekstom i czat widzi je od razu.
- Zachowanie ustawia instrukcja i kod, nie trening: odpowiedź ze źródłem, odmowa spoza bazy, bramka wyjścia. Gdy trzeba coś zmienić, zmieniamy instrukcję i puszczamy testy.
- Koszt: 0 zł za trening, bo treningu nie ma.
Kiedy jednak fine-tuning?
- Gdy mały, tani model ma robić jedno wąskie zadanie bardzo dobrze, np. klasyfikować zgłoszenia.
- Gdy odpowiedzi muszą mieć zawsze ten sam format, a instrukcja nie wystarcza.
- Gdy masz setki dobrych przykładów i stabilne zadanie, które nie zmienia się co tydzień.
- Często najlepiej działa połączenie: model dostrojony do formatu + RAG do wiedzy.
Powiązane pojęcia
RAG · Duży model językowy (LLM) · Embedding · Ewaluacja modeli
Pytania i odpowiedzi
Czy fine-tuning „wgrywa” moje dokumenty do modelu?
Nie w sposób, na którym można polegać. Model uczy się wzorców, a fakty z treningu potrafi przekręcić. Do wiedzy służy RAG.
Co jest tańsze na start?
Prawie zawsze RAG. Nie wymaga przygotowania danych treningowych ani trenowania.
Czy można połączyć oba?
Tak. Fine-tuning ustawia styl i format, RAG dostarcza aktualną wiedzę.
Źródła
- Lewis i in.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, arXiv:2005.11401
- Hu i in.: LoRA: Low-Rank Adaptation of Large Language Models, arXiv:2106.09685
- Lab: case study (tydzień 12–18.10.2026), proces wektorów czatu (23.10.2026)
Dalej