AI w chmurze czy na własnych serwerach (on-premise vs cloud) – jak wybrać rozwiązanie dla firmy

AI w chmurze oznacza, że model działa na serwerach dostawcy, np. Microsoft, Google, OpenAI czy Anthropic. Firma wysyła zapytanie, dostaje odpowiedź i płaci za zużycie albo za licencję na użytkownika. Sprzętem, aktualizacjami i dostępnością zajmuje się dostawca.

AI na własnych serwerach, czyli on-premise, oznacza, że model działa w serwerowni firmy albo na sprzęcie wynajętym wyłącznie dla niej. Dane nie opuszczają infrastruktury, nad którą firma ma kontrolę. Za to cały sprzęt i jego utrzymanie spada na firmę.

Na własnych serwerach uruchamia się modele typu open-weight, czyli takie, których pliki producent udostępnia do pobrania. Należą do nich np. modele z rodzin Llama, Mistral, Qwen i gpt-oss. Najmocniejsze modele OpenAI, Anthropic czy Google są dostępne tylko w chmurze.

Między tymi biegunami jest wariant pośredni: wydzielone środowisko w chmurze, tylko dla jednej firmy, w wybranym regionie. Dane są w nim szyfrowane kluczami, którymi zarządza firma, a nie dostawca. Dla wielu firm to rozsądny kompromis.

Najczęstsza obawa brzmi: „nasze dane posłużą do uczenia modelu i trafią do konkurencji”. W wersjach firmowych dużych dostawców warunki są inne niż w darmowych aplikacjach dla konsumentów. Warto je jednak sprawdzić w dokumentacji, a nie zakładać.

Przykład: Microsoft deklaruje, że w usłudze Microsoft Foundry zapytania i odpowiedzi nie trafiają do OpenAI i nie służą do uczenia modeli bez zgody klienta. W wariancie Data Zone dla usługi uruchomionej w kraju UE przetwarzanie odbywa się tylko w państwach Unii.

Trzeba też znać wyjątki. Microsoft przechowuje część zapytań przez pewien czas, by wykrywać nadużycia. Klient ma prawo złożyć wniosek o zmianę tych zasad. Chmura nie jest więc ani automatycznie bezpieczna, ani automatycznie zakazana.

RODO nie wymaga przetwarzania danych wyłącznie w UE. Dopuszcza przekazanie poza Europejski Obszar Gospodarczy z odpowiednimi zabezpieczeniami, opisanymi w rozdziale V. Podstawą jest umowa powierzenia przetwarzania danych z dostawcą i sprawdzenie, gdzie dane są przetwarzane.

Tabela poniżej zestawia trzy warianty w wymiarach, które najczęściej decydują o wyborze. Żaden wariant nie wygrywa we wszystkich wymiarach – to zawsze coś za coś.

Zwróć uwagę na ostatni wiersz. Własne serwery łatwiej pokazać audytorowi, ale nie zapewniają zgodności z przepisami same z siebie. Źle zabezpieczony serwer w firmie bywa groźniejszy niż dobrze skonfigurowana usługa chmurowa.

Własna infrastruktura AI to poważna inwestycja i stałe zobowiązanie. Ma sens wtedy, gdy przynajmniej jeden z poniższych warunków jest spełniony, a firma ma ludzi, którzy ją utrzymają.

Jeśli żaden warunek Cię nie dotyczy, własne serwery najczęściej oznaczają wyższy koszt i słabsze modele. W takiej sytuacji lepiej zainwestować w dobrą konfigurację chmury i porządek w uprawnieniach.

Chmura wygrywa wtedy, gdy liczy się szybkie uruchomienie i jakość odpowiedzi, a dane mogą być przetwarzane przez dostawcę na podstawie umowy. To sytuacja większości średnich firm, które zaczynają od asystenta dla pracowników, obsługi zapytań albo pracy z dokumentami.

Druga przesłanka to niepewność co do skali. Jeśli nie wiesz jeszcze, w których procesach AI się sprawdzi, kupowanie serwerów „na zapas” jest drogim zakładem. Chmura pozwala zmierzyć rzeczywiste zużycie i dopiero wtedy policzyć, czy własny sprzęt się opłaci.

Trzecia to jakość modeli. Jeśli proces wymaga długich dokumentów, wnioskowania w kilku krokach albo pracy z obrazami, modele dostępne tylko w chmurze zwykle radzą sobie lepiej. Różnicę warto sprawdzić na własnych przykładach przed decyzją.

Najczęstszy błąd to porównanie ceny karty graficznej z ceną zapytania w chmurze. Pełny koszt własnych serwerów obejmuje znacznie więcej pozycji, a koszt chmury też ma elementy, które łatwo przeoczyć. Obie listy znajdziesz poniżej.

Sprzęt dobiera się do wielkości modelu. Prosty rachunek: model z 70 mld parametrów zapisanych w 16 bitach, czyli 2 bajtach, potrzebuje około 140 GB pamięci na same parametry. To więcej niż 80 GB w jednej karcie NVIDIA H100 SXM, więc potrzebne są co najmniej dwie karty albo kompresja modelu, czyli zapis parametrów z mniejszą dokładnością.

Do porównania miesięcznego zestaw rachunek za chmurę z sumą amortyzacji sprzętu, energii, chłodzenia i czasu ludzi do utrzymania. Sprzęt do AI warto amortyzować w krótkim okresie, bo modele i karty szybko się starzeją. Własne serwery opłacają się dopiero wtedy, gdy ta suma jest stale niższa od rachunku za chmurę.

Wiele firm nie wybiera jednego wariantu, tylko łączy oba. Dane najbardziej wrażliwe przetwarza model na własnych serwerach, a pozostałe zadania trafiają do chmury, gdzie dostępne są najlepsze modele.

Weźmy hipotetyczną kancelarię doradczą na 120 osób. Analiza dokumentów klientów objętych tajemnicą zawodową działa na modelu open-weight na serwerze w firmie. Pisanie tekstów marketingowych i wyszukiwanie w publicznych przepisach odbywa się w chmurze.

Takie rozwiązanie wymaga dyscypliny. Bez jasnych reguł, które dane idą gdzie, i bez wspólnego zapisu zapytań szybko powstają dwa osobne światy, których nikt nie kontroluje. Poniżej warunki, które muszą być spełnione.

Niezależnie od wariantu poproś o pisemne odpowiedzi na poniższe pytania. Brak jasnej odpowiedzi na któreś z nich to sygnał, że trzeba drążyć dalej.

Odpowiedzi zestaw w jednej tabeli dla wszystkich ofert. Łatwiej wtedy zobaczyć, która tylko wygląda na tańszą, bo pomija część kosztów albo ryzyk.