RAG dla firm – jak AI odpowiada na podstawie firmowych dokumentów i ile to kosztuje

Zwykły czat AI odpowiada z tego, czego nauczył się z publicznych tekstów. Nie zna Twojego cennika, procedur ani umów z dostawcami. Zapytany o nie, zgaduje albo odpowiada ogólnikami.

RAG działa jak pracownik, który przed odpowiedzią zagląda do segregatora. System najpierw wyszukuje w dokumentach firmy kilka fragmentów pasujących do pytania. Potem model językowy, czyli program piszący odpowiedzi, układa z nich odpowiedź i wskazuje dokument źródłowy.

Dzięki temu nowy dokument jest dostępny od razu po dodaniu do zbioru. Nie trzeba ponownie uczyć modelu, a każdą odpowiedź można sprawdzić w źródle.

Przykład: inżynier pyta w Microsoft Teams o dopuszczalną tolerancję wymiaru dla konkretnego wyrobu. Asystent znajduje właściwą kartę technologiczną, podaje wartość i link do dokumentu. Jak to wygląda w praktyce, pokazuje nasze case study asystenta wiedzy dla inżynierów produkcji.

RAG opłaca się, gdy ludzie często szukają odpowiedzi w dużym zbiorze dokumentów, które się zmieniają. Gdy pytań jest mało albo dokumentów jest kilka, wystarczy prostsze rozwiązanie.

Często myli się RAG z douczaniem modelu na własnych danych (ang. fine-tuning). Douczanie zmienia sposób, w jaki model pisze, ale nie daje pewności, że poda aktualny fakt. Do pytań o procedury, cenniki i umowy lepiej sprawdza się RAG, bo wystarczy podmienić dokument.

Tabela poniżej pomaga dobrać rozwiązanie do sytuacji.

W gotowych narzędziach Microsoft większość tych elementów działa bez Twojego udziału. Przy rozwiązaniu budowanym każdy z nich jest osobną decyzją projektową. Poniżej opisujemy je w kolejności, w jakiej przechodzi przez nie dokument.

Najwięcej problemów z jakością powstaje w dwóch pierwszych krokach. Jeśli tabela z PDF zostanie źle zamieniona na tekst, żaden model tego później nie naprawi.

Dla większości średnich firm pracujących w Microsoft 365 rozsądna kolejność to najpierw gotowe narzędzie na jednym zbiorze dokumentów, a dopiero potem ewentualna budowa. Rozwiązanie budowane daje więcej kontroli, ale trzeba je utrzymywać przez lata.

Ceny w tabeli to ceny katalogowe producentów z października 2026 r., dla Microsoft przy płatności rocznej. Przed decyzją sprawdź aktualny cennik.

Pokażmy koszty na hipotetycznej firmie, która chce udostępnić pracownikom 20 000 dokumentów o średniej długości 5 stron. Model AI rozlicza tekst w tokenach, czyli kawałkach słów. Przyjmijmy ostrożnie 1 000 tokenów na stronę, bo polski tekst dzieli się na więcej tokenów niż angielski.

Cały zbiór to więc 20 000 × 5 × 1 000 = 100 mln tokenów. Przy cenie 0,13 USD za milion tokenów jednorazowa zamiana na postać do wyszukiwania kosztuje 13 USD, a tańszym modelem 2 USD. Tyle samo zapłacisz za ponowne przetworzenie, np. po zmianie modelu.

Pytania też trzeba przetworzyć, ale to grosze. 200 pytań dziennie po 50 tokenów przez 22 dni robocze daje 220 000 tokenów, czyli około 0,03 USD miesięcznie.

Większą pozycją jest model, który pisze odpowiedzi. Do każdego pytania dołączasz znalezione fragmenty, np. pięć po 500 tokenów, razem około 3 000 tokenów. Miesięcznie to 4 400 pytań × 3 000 = 13,2 mln tokenów, które mnożysz przez aktualną cenę wybranego modelu.

Największy koszt nie ma ceny w cenniku. To czas ludzi, którzy wybiorą dokumenty, usuną stare wersje, uporządkują uprawnienia i sprawdzą odpowiedzi. Tabela poniżej zbiera wszystkie składniki.

Jakość odpowiedzi zależy bardziej od dokumentów niż od wyboru modelu AI. Poniższa lista to minimum, które warto zrobić przed uruchomieniem.

Te kroki przydają się także bez AI. Uporządkowany zbiór procedur szybciej przeszuka również zwykła wyszukiwarka.

Przed uruchomieniem przygotuj zestaw kilkudziesięciu pytań, które pracownicy naprawdę zadają. Do każdego zapisz odpowiedź zatwierdzoną przez właściciela zbioru.

Oceniaj trzy rzeczy osobno. Czy system znalazł właściwy dokument. Czy odpowiedź jest z nim zgodna. I czy asystent przyznaje się do niewiedzy, gdy odpowiedzi w dokumentach nie ma.

Ostatni punkt jest najważniejszy. Asystent, który mówi „nie znalazłem tego w dokumentach”, jest bezpieczniejszy niż taki, który zawsze coś odpowie. W Copilot Studio można wyłączyć odpowiedzi, które nie opierają się na źródłach.

Test powtarzaj po każdej zmianie: nowym modelu, nowych dokumentach, innym podziale tekstu. Dostawcy regularnie wycofują starsze modele, więc taka zmiana prędzej czy później Cię czeka.

Asystent nie powinien pokazywać pracownikowi więcej, niż ten widzi w swoich folderach. Gotowe narzędzia Microsoft sprawdzają uprawnienia każdej osoby zalogowanej przez Microsoft Entra ID. W rozwiązaniu budowanym trzeba to zaprojektować i przetestować samodzielnie.

Przy usługach spoza Microsoft 365 ustal, w jakim regionie są przechowywane dane i czy dostawca nie używa ich do trenowania modeli. Jeśli w dokumentach są dane osobowe, potrzebna jest umowa powierzenia przetwarzania.

Gdy asystent ma odpowiadać klientom, od 2 sierpnia 2026 r. musi informować, że rozmówca rozmawia z AI. To obowiązek z art. 50 AI Act, a nie dobra praktyka.