DeepSeek – kiedy darmowy chatbot AI staje się zagrożeniem dla firmy

DeepSeek – chiński przełom, który wstrząsnął rynkiem AI

W styczniu 2025 roku chiński startup DeepSeek opublikował model R1, który według niezależnych testów dorównywał możliwościom GPT-4o i Claude 3.5 Sonnet – przy koszcie treningu szacowanym na zaledwie 6 milionów dolarów, podczas gdy zachodni konkurenci wydawali wielokrotnie więcej. Wydarzenie to wywołało natychmiastowy wstrząs na giełdach: akcje Nvidii w ciągu jednej sesji straciły ponad 17%, a inwestorzy zaczęli kwestionować dotychczasowe założenia o kosztach i bariery wejścia w świat zaawansowanej AI.

Model błyskawicznie zyskał miliony użytkowników – bezpłatna aplikacja DeepSeek znalazła się na szczycie list pobierań w App Store w kilkudziesięciu krajach jednocześnie. Dla właścicieli MŚP kusząca była możliwość korzystania z zaawansowanego asystenta AI całkowicie za darmo, bez konieczności opłacania subskrypcji. Właśnie ta dostępność sprawiła, że pracownicy wielu firm zaczęli używać narzędzia bez wiedzy swoich działów IT – i bez świadomości, jakie dane przekazują za granicę.

Co odkryli badacze bezpieczeństwa

Kilka dni po premierze aplikacji badacze z firmy Wiz Research odkryli otwarty, publicznie dostępny serwer bazy danych należący do DeepSeek. W eksponowanej bazie znajdowały się ponad milion rekordów zawierających historię rozmów użytkowników, klucze API, metadane systemowe i logi aplikacji – wszystko to bez żadnego hasła czy tokena dostępu. Każda osoba znająca adres serwera mogła swobodnie przeglądać te dane przez przeglądarkę internetową.

Niezależnie od tego problemem okazała się podatność na jailbreaking, czyli obejście wbudowanych zabezpieczeń modelu. Badacze wykazali, że DeepSeek jest znacznie bardziej podatny na takie ataki niż zachodni konkurenci, co w środowisku firmowym może prowadzić do generowania szkodliwych treści lub manipulacji przez nieuczciwych użytkowników.

Analiza kodu aplikacji mobilnej ujawniła ponadto niepokojące wzorce:

• Dane są transmitowane na serwery w Chinach bez możliwości wyboru europejskiej lokalizacji
• Aplikacja zawiera mechanizmy zdalnej aktualizacji zachowania bez wiedzy użytkownika
• Historia rozmów może być powiązana z kontem i numerem telefonu użytkownika
• Szyfrowanie end-to-end nie jest stosowane w komunikacji z serwerami firmy

Zakazy i reakcja regulatorów na świecie

Reakcja instytucji rządowych i regulatorów była szybka i zdecydowana. Włoski Garante – organ ochrony danych – zablokował dostęp do DeepSeek już w lutym 2025 roku, powołując się na brak odpowiedzi firmy na pytania dotyczące przetwarzania danych obywateli UE. Postępowania wyjaśniające wszczęły też organy ochrony danych w Irlandii, Francji i Niemczech.

Poza Europą zakazy i oficjalne ostrzeżenia ogłosiły między innymi:

• USA – Marynarka Wojenna, NASA, Departament Obrony i kilkanaście agencji federalnych zakazało używania DeepSeek na urządzeniach służbowych
• Tajwan – całkowity zakaz w całym sektorze publicznym ze względów bezpieczeństwa narodowego
• Korea Południowa – zakaz w ministerstwach i agencjach rządowych po stwierdzeniu nieprawidłowego przesyłu danych
• Australia – zakaz na urządzeniach rządowych na wniosek służb wywiadowczych
• Wielka Brytania – parlamentarzyści wezwali do zakazu w instytucjach publicznych

ENISA (Europejska Agencja ds. Cyberbezpieczeństwa) wydała wytyczne zalecające firmom przeprowadzenie szczegółowej oceny ryzyka przed wdrożeniem jakiegokolwiek narzędzia AI przetwarzającego dane poza Europejskim Obszarem Gospodarczym.

RODO i prawna pułapka przesyłu danych do Chin

Z perspektywy prawa europejskiego używanie DeepSeek w firmie wiąże się z konkretnym ryzykiem prawnym, którego wiele MŚP nie jest świadomych. Chiny nie posiadają decyzji adekwatności Komisji Europejskiej – co oznacza, że przesył danych osobowych na chińskie serwery jest domyślnie niezgodny z RODO, bez względu na to, że korzystanie z aplikacji jest bezpłatne.

Sytuacja jest szczególnie poważna, gdy pracownicy wklejają do czatu AI treści zawierające dane osobowe: imiona i dane kontaktowe klientów, numery umów, informacje medyczne czy dane finansowe. Każdy taki przypadek może stanowić naruszenie ochrony danych, za które odpowiada pracodawca jako administrator danych – nie pracownik, który sięgnął po narzędzie.

Firmy działające w sektorach regulowanych są szczególnie narażone:

• Ochrona zdrowia – dane pacjentów objęte szczególną ochroną RODO
• Finanse i ubezpieczenia – dane klientów podlegają dodatkowo regulacjom DORA i KNF
• Kancelarie prawne i notarialne – tajemnica zawodowa i dane stron postępowań
• E-commerce i handel – dane zakupowe i płatnicze klientów

Kary za naruszenia RODO mogą sięgnąć 4% globalnego rocznego obrotu lub 20 mln euro – niezależnie od wielkości firmy. Brak formalnej polityki dotyczącej używania zewnętrznych narzędzi AI może stać się podstawą postępowania ze strony UODO.

Jak chronić firmę – konkretne kroki

Przypadek DeepSeek pokazuje, że Shadow AI – niekontrolowane korzystanie z narzędzi sztucznej inteligencji przez pracowników bez wiedzy działu IT – stało się realnym zagrożeniem dla każdej firmy, niezależnie od jej wielkości. Badania wskazują, że ponad 60% pracowników używa przynajmniej jednego zewnętrznego narzędzia AI w pracy, często bez zgody pracodawcy. Dobra wiadomość jest taka, że można się przed tym skutecznie chronić.

Krok 1: Stwórz listę zatwierdzonych narzędzi AI. Sporządź wykaz narzędzi dopuszczonych do użytku w firmie. Przy weryfikacji każdego sprawdź: lokalizację serwerów przetwarzających dane, politykę prywatności i warunki korzystania, zgodność z RODO oraz historię incydentów bezpieczeństwa.

Krok 2: Przeszkol pracowników. Pracownicy muszą wiedzieć, jakich danych nie wolno wprowadzać do zewnętrznych narzędzi AI. Pomocna jest prosta zasada: jeśli informacji nie umieściłbyś publicznie w internecie, nie wklejaj jej do zewnętrznego chatbota.

Krok 3: Wybierz bezpieczne alternatywy. Dla firm chcących korzystać z AI bez ryzyka wycieku danych dostępne są: Microsoft 365 Copilot (dane pozostają w środowisku dzierżawcy i nie służą do trenowania modeli), Azure OpenAI Service z możliwością wyboru europejskiej lokalizacji danych, lub lokalne modele AI takie jak Ollama z modelami Llama czy Mistral, gdzie dane w ogóle nie opuszczają infrastruktury firmy.

Krok 4: Przeprowadź audyt IT. Regularny audyt pozwoli wykryć, czy pracownicy korzystają z nieautoryzowanych narzędzi AI i jakie dane mogli udostępnić. To punkt wyjścia do budowy świadomej polityki bezpieczeństwa AI i ochrony przed sankcjami RODO.