Shadow AI w firmie – ukryte ryzyko niekontrolowanych narzędzi AI

Czym jest Shadow AI i dlaczego różni się od Shadow IT

Shadow IT – używanie nieautoryzowanych aplikacji w firmie – to zjawisko znane od lat. Shadow AI to jego nowa, znacznie groźniejsza odsłona: pracownicy korzystają z zewnętrznych modeli językowych (ChatGPT, Claude, Gemini, Copilot) bez wiedzy, zgody ani nadzoru działu IT i zarządu.

Kluczowa różnica polega na tym, że tradycyjne Shadow IT zazwyczaj dotyczy narzędzi przechowujących dane w chmurze jakiegoś dostawcy. Shadow AI idzie krok dalej – wprowadzane dane mogą być używane do trenowania modeli, analizowane przez operatora usługi lub przechowywane na serwerach poza Unią Europejską, całkowicie poza kontrolą firmy i wymaganiami RODO.

Według raportu firmy Cyberhaven ponad 11% danych wklejanych przez pracowników do narzędzi AI stanowią informacje wrażliwe. W firmach bez sformalizowanej polityki AI ten odsetek jest znacznie wyższy. Problem dotyczy branż pozornie odległych od technologii – biur rachunkowych, kancelarii prawnych, agencji marketingowych czy firm produkcyjnych.

Co pracownicy wklejają do zewnętrznych modeli AI?

Pracownicy sięgają po AI, aby przyspieszyć codzienną pracę – i trudno im się dziwić. Problem w tym, co wklejają do tych narzędzi. Najczęstsze kategorie wrażliwych danych trafiających do ChatGPT i podobnych serwisów:

• Dane klientów – imiona, adresy, numery telefonów, adresy e-mail, numery zamówień i historia zakupów
• Informacje finansowe – fragmenty umów, faktury, salda kont, budżety projektów i prognozy sprzedaży
• Tajemnice handlowe – plany strategiczne, opisy nowych produktów, oferty przygotowane dla klientów
• Dane pracowników – zakresy obowiązków, oceny pracownicze, informacje o wynagrodzeniach
• Korespondencja służbowa – e-maile wklejane do tłumaczenia lub streszczenia, protokoły ze spotkań zarządu
• Kod źródłowy – fragmenty aplikacji wklejane w celu debugowania lub wyjaśnienia działania

Każda z tych kategorii może stanowić naruszenie RODO, umów o poufności (NDA) lub wewnętrznych polityk bezpieczeństwa – nawet gdy pracownik działał w dobrej wierze, chcąc jedynie poprawić swoją produktywność.

Głośne incydenty, które zmieniły podejście firm do AI

Najbardziej znany przypadek pochodzi z 2023 roku: inżynierowie Samsunga wkleili do ChatGPT poufny kod źródłowy oraz notatki z wewnętrznych spotkań. Informacje trafiły do systemu, który mógł je wykorzystać do trenowania modelu. Samsung błyskawicznie zablokował dostęp do zewnętrznych narzędzi AI na wszystkich urządzeniach firmowych.

Podobne incydenty odnotowały kancelarie prawne (fragmenty akt sądowych wklejane do AI w celu streszczenia), firmy farmaceutyczne (dane z badań klinicznych) oraz instytucje finansowe (dane transakcyjne klientów). W 2025 roku kilka europejskich firm otrzymało upomnienia od organów ochrony danych za niewystarczający nadzór nad przepływem danych osobowych do narzędzi AI.

Dla małych i średnich firm ryzyko jest równie realne, a nierzadko większe – ze względu na brak zasobów do szybkiego wykrycia i reakcji na incydent. Konsekwencje mogą obejmować kary z RODO sięgające 4% rocznego obrotu, utratę zaufania klientów i trwałą utratę przewagi konkurencyjnej.

Jak wykryć Shadow AI w swojej organizacji?

Zanim stworzysz politykę bezpiecznego AI, musisz wiedzieć, z jakimi narzędziami masz już do czynienia. Kilka skutecznych metod wykrywania Shadow AI w firmie:

1. Analiza ruchu sieciowego – monitoring DNS i proxy ujawnia połączenia z domenami takimi jak openai.com, claude.ai, gemini.google.com czy perplexity.ai. Większość organizacji jest zaskoczona liczbą takich połączeń.
2. Microsoft Defender for Cloud Apps – automatycznie wykrywa nieautoryzowane aplikacje SaaS, w tym narzędzia AI, klasyfikuje je według poziomu ryzyka i pokazuje, którzy pracownicy ich używają.
3. Microsoft Purview DLP – może wykrywać i blokować przesyłanie wrażliwych kategorii danych do zewnętrznych usług przez przeglądarkę, zanim dojdzie do incydentu.
4. Anonimowe ankiety wśród pracowników – proste pytanie o to, z jakich narzędzi AI korzystają w pracy, często ujawnia zaskakująco długą listę serwisów nieznanych działowi IT.
5. Analiza logów proxy i firewall – przeszukanie logów z ostatnich 30–90 dni pod kątem żądań HTTP kierowanych do znanych domen modeli językowych.

Warto pamiętać, że celem wykrywania nie jest karanie pracowników, lecz zrozumienie skali zjawiska i zaprojektowanie odpowiednich, proporcjonalnych środków kontroli.

Polityka bezpiecznego AI w firmie – co powinna zawierać?

Polityka AI to dokument regulujący, jak pracownicy mogą korzystać z narzędzi sztucznej inteligencji w pracy. Celem nie jest zakaz – lecz bezpieczne i świadome korzystanie, które nie naraża firmy na ryzyko prawne i reputacyjne. Kluczowe elementy dobrej polityki AI dla MŚP:

• Lista zatwierdzonych narzędzi – np. Microsoft 365 Copilot (dane pozostają wyłącznie w dzierżawie Microsoft Twojej firmy), zatwierdzone modele lokalne lub zewnętrzne narzędzia z podpisaną umową DPA zgodną z RODO
• Klasyfikacja danych – jasne zasady określające, jakich kategorii informacji nie wolno wprowadzać do zewnętrznych modeli AI (dane osobowe, finansowe, tajemnice handlowe, dane pracowników)
• Obowiązkowe szkolenia – każdy pracownik musi przejść krótkie przeszkolenie z zasad korzystania z AI i rozumieć, dlaczego te zasady istnieją
• Procedura zgłaszania incydentów – co zrobić, gdy pracownik przez pomyłkę wprowadził wrażliwe dane do nieautoryzowanego narzędzia AI
• Konsekwencje naruszeń – jasne zasady odpowiedzialności, proporcjonalne do skali i intencji naruszenia
• Regularny przegląd polityki – co 6–12 miesięcy, bo rynek narzędzi AI zmienia się wyjątkowo dynamicznie

Gotowe wzory polityki AI dla firm można znaleźć w zasobach ENISA (Agencja UE ds. Cyberbezpieczeństwa) oraz w dokumentacji Center for Internet Security (CIS Controls).

Narzędzia, które pomogą zapanować nad AI w firmie

Poza polityką warto wdrożyć techniczne środki kontroli ograniczające niekontrolowany przepływ danych do zewnętrznych modeli AI. Sprawdzone rozwiązania dla MŚP:

• Microsoft 365 Copilot – jako oficjalne, zarządzane przez IT narzędzie AI, które działa wyłącznie na danych Twojej organizacji w ramach Microsoft 365 i zgodnie z warunkami umowy nie trenuje globalnych modeli
• Microsoft Purview DLP – reguły wykrywające i blokujące wysyłanie danych oznaczonych jako poufne do zewnętrznych serwisów, w tym narzędzi AI, z poziomu przeglądarki
• Filtrowanie DNS i web proxy – warunkowe lub całkowite blokowanie dostępu do wybranych serwisów AI z sieci firmowej, z możliwością wyjątków dla zatwierdzonych narzędzi
• Microsoft Defender for Cloud Apps – ciągłe monitorowanie użycia aplikacji SaaS i narzędzi AI, z alertami przy próbach przesyłania wrażliwych danych
• Conditional Access w Entra ID – wymuszanie korzystania z zatwierdzonych narzędzi wyłącznie z zarządzanych urządzeń firmowych

Firmy, które wdrożyły podejście trójwarstwowe – politykę, szkolenia i techniczne środki kontroli – skutecznie ograniczają ryzyko wycieku danych przez AI, zachowując jednocześnie pełną produktywność zespołów. Jeśli chcesz wdrożyć te rozwiązania w swojej firmie, skontaktuj się z NovaSys – pomożemy na każdym etapie.