Własny model AI czy API za tokeny: kiedy serwer w firmie naprawdę się opłaca

Przy modelu w chmurze płacisz za tokeny, czyli kawałki tekstu, które model czyta i pisze. Osobno liczy się tekst wysłany do modelu (wejście) i tekst odpowiedzi (wyjście). Rachunek rośnie razem z liczbą rozmów i dokumentów.

Własny model rozlicza się inaczej: płacisz za gotowość do pracy, a nie za zużycie. Serwer kosztuje tyle samo, czy obsłuży 10 zapytań, czy 10 tysięcy. Dlatego własny model wygrywa tylko przy dużym i stałym obciążeniu.

Uczciwe porównanie zestawia modele o podobnej jakości. Na jednym serwerze z kartą graficzną uruchomisz model open-weight, czyli taki, którego pliki producent udostępnia do pobrania. W wielu zadaniach biurowych dorównuje on modelom średniej klasy z chmury, ale zwykle nie najlepszym. Jakie modele wchodzą w grę i na jakim sprzęcie działają, opisujemy w osobnym przewodniku.

Liczymy dwa warianty dla serwera z jedną kartą 96 GB, na której zmieści się model z około 30 mld parametrów dla kilkudziesięciu jednoczesnych użytkowników. Pierwszy to serwer wynajmowany w serwerowni w UE, drugi to serwer kupiony i postawiony w firmie. Okres rozliczenia to 3 lata, bo po tym czasie sprzęt AI zwykle wymienia się na nowszy.

Ceny kart w Polsce w 2026 r. mocno się wahały, dlatego przy zakupie przyjmujemy okrągłe założenie: 100 tys. zł netto za serwer z jedną kartą 96 GB. Przed decyzją podstaw tu ofertę od swojego dostawcy. Wynajem ma cenę z cennika, więc jest pewniejszym punktem odniesienia.

Najbardziej niedoszacowana pozycja to ludzie. Ktoś musi aktualizować system i model, pilnować bezpieczeństwa, testować jakość po każdej zmianie i reagować na awarie. Przyjmujemy 0,2 etatu specjalisty przy pełnym koszcie pracodawcy 25 tys. zł miesięcznie, czyli 5 tys. zł. Jeśli masz już taki zespół i wolne moce, ta pozycja maleje.

Bierzemy ceny z cenników dostawców z 28 października 2026 r. i przeliczamy po średnim kursie NBP: 1 USD = 3,9624 zł. Dzielimy modele na trzy półki cenowe, bo różnice między nimi sięgają stu razy.

Najwięcej uwagi poświęcamy średniej półce, bo z nią naprawdę konkuruje własny serwer. Najdroższe modele podajemy dla skali, a najtańsze pokazują, dlaczego przy prostych zadaniach własny serwer rzadko ma sens. Ceny poszczególnych modeli i sposoby obniżania rachunku opisujemy w artykule o kosztach tokenów.

Załóżmy chatbota obsługi klienta, który codziennie prowadzi 1000 rozmów, czyli 30 tys. miesięcznie. Rozmowa trwa około 10 minut i ma 8 wymian. Przy każdej wymianie chatbot wysyła do modelu instrukcje, fragmenty bazy wiedzy i całą dotychczasową rozmowę, średnio 4 tys. tokenów. Odpowiedź ma około 150 tokenów.

Jedna rozmowa to więc 32 tys. tokenów wejściowych i 1,2 tys. tokenów odpowiedzi. Miesięcznie daje to 960 mln tokenów wejściowych i 36 mln tokenów odpowiedzi. To dużo, bo model za każdym razem czyta całą rozmowę od nowa.

Na średniej półce rachunek wynosi około 9 tys. zł miesięcznie, czyli tyle samo, co własny serwer. Wystarczy jednak włączyć pamięć podręczną (prompt caching), która pozwala płacić za powtarzane instrukcje i historię rozmowy ułamek ceny. Wtedy rachunek spada do około 4,7 tys. zł i API znów wygrywa.

Drugi przypadek to odczyt danych z dokumentów, np. faktur, zamówień albo protokołów. Firma przetwarza 20 tys. dokumentów miesięcznie. Każdy ma około 3 tys. tokenów tekstu, do tego tysiąc tokenów instrukcji. Odpowiedź z wyciągniętymi danymi ma około 500 tokenów.

Miesięcznie to 80 mln tokenów wejściowych i 10 mln tokenów odpowiedzi. Przy średniej półce rachunek wynosi około 1 tys. zł. Dokumenty rzadko muszą być gotowe w sekundę, więc można je wysyłać wsadowo, z odpowiedzią do 24 godzin. Wtedy cena spada o połowę, do około 500 zł.

Własny serwer za ponad 8 tys. zł miesięcznie nie ma tu ekonomicznego sensu. Wyjątkiem jest sytuacja, w której dokumentów nie wolno wysłać poza firmę. Wtedy jednak decyduje bezpieczeństwo danych, a nie koszt.

Trzeci przypadek to wewnętrzny asystent, który odpowiada na pytania o procedury, umowy i dokumenty firmy. Korzysta z niego 200 osób, każda zadaje średnio 15 pytań dziennie przez 21 dni roboczych. To 63 tys. pytań miesięcznie.

Każde pytanie to około 4 tys. tokenów wejściowych, bo asystent dołącza znalezione fragmenty dokumentów, i około 400 tokenów odpowiedzi. Miesięcznie daje to 252 mln tokenów wejściowych i 25,2 mln tokenów odpowiedzi. Przy średniej półce rachunek za API wynosi około 3 tys. zł.

Dla porównania pokazujemy też licencje na użytkownika. 200 licencji ChatGPT Business po 20 USD to około 15,9 tys. zł miesięcznie. 200 licencji Microsoft 365 Copilot Business po 18,20 EUR (cena regularna dla Polski) to około 16 tys. zł. Licencja daje jednak gotową aplikację i wiele funkcji. Asystenta na API trzeba zbudować i utrzymać, a tego kosztu cennik nie pokazuje.

Próg łatwo policzyć samemu. Dzielisz miesięczny koszt serwera przez cenę miliona tokenów w chmurze. W typowym użyciu na każde 10 tokenów wejściowych przypada około 1 token odpowiedzi, więc liczymy średnią ważoną z obu cen.

Na średniej półce milion tokenów w takiej proporcji kosztuje około 10,80 zł. Serwer za 8,4-9,5 tys. zł miesięcznie zaczyna się więc opłacać przy 780-880 mln tokenów miesięcznie. Jeśli masz już ludzi, którzy utrzymają serwer bez dodatkowego kosztu, próg spada do około 420 mln.

Te liczby zakładają, że jeden serwer udźwignie taki ruch. Przy kilkuset milionach tokenów miesięcznie i kilkudziesięciu użytkownikach naraz to realne dla modelu średniej wielkości, ale zawsze wymaga testu obciążenia na Twoich danych.

Rachunek z tabel to punkt wyjścia. W praktyce kilka czynników przesuwa próg w jedną albo w drugą stronę i warto je znać przed rozmową z zarządem.

Ceny w chmurze zmieniają się w obie strony. Przez ostatnie lata zwykle spadały, ale Google zapowiedział na 1 grudnia 2026 r. podwojenie ceny jednego ze swoich modeli. Własny serwer daje przewidywalny koszt, ale tylko wtedy, gdy jest dobrze wykorzystany.

Wiele firm nie musi wybierać jednego wariantu. Własny model może obsługiwać duży, powtarzalny ruch, np. klasyfikację maili czy odczyt prostych dokumentów. Trudne pytania, długie analizy i zadania wymagające najlepszego modelu trafiają do chmury.

Takie rozwiązanie ma sens dopiero wtedy, gdy powtarzalny ruch sam przekracza próg z poprzedniej sekcji. Wymaga też automatycznego kierowania zapytań do właściwego modelu, żeby decyzja nie zależała od pracownika.

Koszt to tylko jedna strona decyzji. Jeśli części danych nie wolno przekazać zewnętrznemu dostawcy, rozstrzyga to bezpieczeństwo, a nie rachunek. Ten wątek opisujemy w porównaniu AI w chmurze i na własnych serwerach.

Najpewniejsze dane daje kilkumiesięczny pilotaż w chmurze. Dostawcy pokazują dokładne zużycie tokenów, więc po 2-3 miesiącach wiesz, ile naprawdę zużywa Twój proces. To lepsza podstawa niż każdy szacunek, także nasz.

Liczenie zacznij od poniższych kroków i zapisz każde założenie. Gdy zmieni się cennik albo ruch, podmienisz jedną liczbę zamiast liczyć wszystko od nowa.