RAG: co to jest i jak chatbot odpowiada z Twoich dokumentów

RAG (Retrieval-Augmented Generation, generowanie wspomagane wyszukiwaniem) to sposób budowania chatbota, w którym model AI przed odpowiedzią najpierw wyszukuje pasujące fragmenty w Twoich dokumentach, a potem odpowiada wyłącznie na ich podstawie. Model nie musi „pamiętać” Twojej firmy. Wystarczy, że dostanie właściwe kartki do przeczytania.

Jak to działa?

Przygotowanie (raz): dokumenty tnie się na fragmenty, każdy zamienia się na wektor (embedding) i zapisuje w bazie wektorowej.
Pytanie: pytanie użytkownika zamienia się na wektor tym samym modelem.
Wyszukanie: baza zwraca fragmenty najbliższe znaczeniem.
Odpowiedź: model dostaje pytanie razem z fragmentami i instrukcję „odpowiadaj tylko z tego”.
Źródła: odpowiedź wskazuje, z którego fragmentu pochodzi każde zdanie.

Jak to robi nasz lab?

Czat w rogu tej strony to RAG na ~20 tys. tekstów o AI. Każde pytanie przechodzi ten sam łańcuch:

Maskowanie danych: PESEL, e-mail i telefon zamieniają się w [PESEL], [EMAIL], [TELEFON], zanim pytanie pójdzie dalej.
Wektor pytania liczy lokalny EmbeddingGemma na naszym serwerze, za 0 zł.
12 najbliższych fragmentów z bazy (PostgreSQL + pgvector).
Bramka tematu: jeśli najlepszy fragment nie przekracza progu 0,764, czat mówi wprost, że w bazie tego nie ma.
6 najlepszych fragmentów trafia do modelu odpowiedzi. Kosztuje to ok. 0,08 gr za odpowiedź.
Bramka wyjścia sprawdza odpowiedź przed wysłaniem: bez linków w tekście, bez kodu, bez wycieku instrukcji.
Źródła jako przypisy [1], [2] z adresami artykułów.

Kiedy warto, kiedy nie?

Warto: czat na stronie firmy, baza wiedzy dla pracowników, odpowiedzi z regulaminów, cenników i dokumentacji, które często się zmieniają. Zmiana dokumentu = przeliczenie jednego fragmentu, bez trenowania modelu.
Nie warto: gdy model ma nauczyć się stylu czy formatu (tu lepszy fine-tuning) albo gdy wszystkie dokumenty mieszczą się w jednym zapytaniu do modelu.

Najczęstsze pułapki

Czat odpowiada na wszystko. Bez progu podobieństwa model dostaje słabe fragmenty i dopowiada resztę z głowy.
Brak treści wygląda jak zły czat. U nas pytanie „czym są bazy wektorowe?” nie przechodziło, bo w bazie były tylko 3 tytuły o wektorach. Karty tego słownika powstały m.in. po to.
Brak źródeł. Odpowiedzi bez przypisów nie da się sprawdzić, więc nikt jej nie ufa.
Dane osobowe w pytaniach. Ludzie wpisują maile i numery telefonów. Maskuj je, zanim cokolwiek zapiszesz.

Powiązane pojęcia

Baza wektorowa · Embedding · Halucynacje AI · Prompt injection · Fine-tuning a RAG

Pytania i odpowiedzi

RAG czy fine-tuning?

RAG daje modelowi wiedzę, fine-tuning zmienia jego zachowanie. Do czatu firmowego prawie zawsze wystarcza RAG.

Ile kosztuje chatbot z RAG?

U nas ok. 0,08 gr za odpowiedź plus własny serwer. Na koncie Cloudflare klienta da się to zmieścić w darmowym limicie przy małym ruchu.

Czy RAG eliminuje halucynacje?

Zmniejsza je, nie eliminuje. Pomagają próg, przypisy i bramka wyjścia.

Źródła

Lewis i in.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, arXiv:2005.11401
Pomiary labu: kalibracja progu (21.10.2026), testy czatu promptfoo (27–28.10.2026)