Bezpieczeństwo danych przy wdrożeniu AI - jakie dane, jakim kanałem i jak nie oddać tajemnic firmy

Bezpieczne wdrożenie AI w firmie jest możliwe, ale zależy od tego, jakim kanałem dane trafiają do modelu. W darmowych i prywatnych wersjach czatów rozmowy mogą służyć do trenowania modeli, jeśli użytkownik tego nie wyłączy. W pakietach firmowych i w API OpenAI, Anthropic i Google dane klientów domyślnie nie są używane do trenowania, a OpenAI pozwala przetwarzać zapytania API w regionie europejskim. Największe ryzyko nie leży więc w samym modelu, tylko w pracownikach wklejających dane do prywatnych narzędzi i w źle zbudowanych integracjach.

Skąd naprawdę biorą się wycieki, czym różnią się prywatny czat, pakiet firmowy, API i własny serwer (trenowanie, przechowywanie, region UE), mapa danych i dozwolonych kanałów, wymagania wobec dostawcy, maskowanie i przypadek biura rachunkowego.

W tym wpisie pokazuję, skąd naprawdę biorą się wycieki, czym różnią się czat w przeglądarce, pakiet firmowy, API i własny serwer, jak dopasować kanał do rodzaju danych (z gotową mapą), czego wymagać od dostawcy, jak wygląda bezpieczny przepływ danych z maskowaniem i jak zrobiło to biuro rachunkowe, które bało się wysłać cokolwiek do AI.

Skąd naprawdę biorą się wycieki

• Shadow AI. Pracownicy na własną rękę wklejają umowy, cenniki i dane klientów do prywatnych kont w darmowych narzędziach. To problem braku zasad i dostępnych narzędzi, a nie technologii. Szerzej we wpisie o shadow AI.
• Nieszczelne integracje. Klucze API zapisane w kodzie, brak maskowania danych, aplikacje od przypadkowych dostawców, którzy w regulaminie zastrzegają sobie prawo do Twoich danych.
• Ataki na aplikacje i agentów AI. Ukryte instrukcje w mailach i dokumentach mogą skłonić model do ujawnienia danych. Szczegóły we wpisach o prompt injection i bezpieczeństwie agentów AI.
• Oszustwa z użyciem AI z zewnątrz. Atakujący nie musi włamywać się do Twoich systemów - wystarczy, że sklonuje głos prezesa i zadzwoni do księgowości. Opisuję to we wpisie o deepfake i oszustwach AI.

Czat w przeglądarce, pakiet firmowy, API czy własny serwer

Dwie rzeczy, o których firmy często nie wiedzą. Po pierwsze, „nie trenujemy na Twoich danych" to nie to samo co „nie przechowujemy Twoich danych" - u OpenAI dane z API są domyślnie trzymane do 30 dni w logach do wykrywania nadużyć, a zerowa retencja wymaga akceptacji dostawcy. Po drugie, ustawienia trzeba świadomie włączyć: region przetwarzania, okres przechowywania i dostęp administratora nie ustawią się same.

Mapa: jakie dane jakim kanałem

Najprostszy sposób na porządek to podzielić dane na cztery klasy i przypisać każdej dozwolone kanały. Taką mapę warto wpisać do polityki AI w firmie:

Taka tabela rozwiązuje większość pytań pracowników w stylu „czy mogę to wkleić?" bez angażowania działu IT za każdym razem.

Czego wymagać od dostawcy

Zanim podłączysz narzędzie do firmowych danych, sprawdź, czy dostawca:

• Podpisze umowę powierzenia przetwarzania danych (DPA) zgodną z RODO.
• Zapewnia brak trenowania na Twoich danych w umowie, a nie tylko w materiałach marketingowych.
• Jasno określa okres przechowywania danych i pozwala go skrócić.
• Umożliwia przetwarzanie w regionie UE (data residency).
• Publikuje listę podwykonawców, którzy mają dostęp do danych.
• Ma certyfikaty SOC 2, ISO 27001 lub równoważne.
• Szyfruje dane w transmisji i w spoczynku.
• Daje logi i kontrolę dostępu dla administratora.

Jeśli kupujesz gotową aplikację opartą na modelach dużych dostawców, zadaj te pytania również jej producentowi - to on, a nie OpenAI czy Anthropic, decyduje, co dzieje się z danymi po drodze.

Bezpieczny przepływ danych z maskowaniem

Przy danych osobowych i poufnych dobrze sprawdza się architektura, w której model w ogóle nie widzi danych identyfikujących:

1. 1.Źródło. Mail albo rekord z CRM trafia do systemu orkiestracji.
2. 2.Maskowanie. Zanim cokolwiek trafi do modelu, skrypt zastępuje nazwiska, NIP-y, adresy i numery kont znacznikami, na przykład [KLIENT_1].
3. 3.Zapytanie do API. Zamaskowany tekst trafia do modelu przez szyfrowane połączenie, najlepiej w regionie UE.
4. 4.Odpowiedź. Model zwraca szkic ze znacznikami.
5. 5.Przywrócenie danych. W Twoim środowisku znaczniki są zamieniane z powrotem na prawdziwe dane.
6. 6.Akceptacja i zapis. Człowiek zatwierdza wynik, a dokument trafia do szyfrowanego miejsca docelowego.

Przykład z praktyki: biuro rachunkowe i RODO

Wdrażałem automatyzację odpowiedzi na maile dla średniego biura rachunkowego. Biuro tonęło w pytaniach klientów o statusy rozliczeń, a każda odpowiedź zawierała kwoty, numery kont i dane z ZUS. Właściciel bał się wysłać do AI cokolwiek.

Zastosowałem model przez API z pełnym maskowaniem. AI rozpoznawało, że klient pyta o „ZUS za lipiec", ale przed wysłaniem zapytania nazwa firmy była zamieniana na znacznik. Model przygotowywał odpowiedź, a ostateczny mail składał się już lokalnie, na serwerach biura.

Efekt: czas odpowiedzi spadł z 2 dni do 15 minut, a dane identyfikujące klientów nigdy nie trafiły do modelu.

Logi, dostęp i klucze

• Ścieżka audytu. Każde zapytanie do modelu jest logowane w systemie orkiestracji: kiedy, przez kogo i z jakiego procesu.
• Kontrola dostępu. Z narzędzi AI korzysta wyznaczona grupa pracowników, najlepiej przez logowanie firmowe (SSO).
• Klucze API. Przechowywane w sejfie albo zmiennych środowiskowych, nigdy w kodzie, i regularnie zmieniane.
• Agenci AI. Gdy AI ma wykonywać działania w systemach, potrzebne są osobne konta, wąskie uprawnienia i limity - opisuję je we wpisie o bezpieczeństwie agentów AI.

RODO i AI Act w skrócie

RODO obowiązuje bez zmian: potrzebujesz podstawy prawnej, minimalizacji danych, umowy powierzenia z dostawcą i czasem oceny skutków (DPIA). Kiedy prompt staje się przetwarzaniem danych osobowych i kiedy potrzebujesz DPIA, opisuję we wpisie o RODO a AI. AI Act wprowadza obowiązki stopniowo - dla większości firm używających AI w procesach wewnętrznych oznacza to przede wszystkim spis używanych systemów, przejrzystość wobec klientów tam, gdzie jest wymagana, i szkolenia pracowników. Szczegóły w przewodniku po AI Act.

Najczęstsze błędy

• Zakaz bez alternatywy. Pracownicy i tak korzystają z AI, tylko na prywatnych kontach. Lepiej dać im bezpieczne narzędzie i jasne zasady.
• Klucze API w kodzie. Jeden wyciek repozytorium i ktoś korzysta z Twojego budżetu i danych.
• Zaufanie do „magicznych" aplikacji. Ładna aplikacja od nieznanego dostawcy z dostępem do CRM, bez umowy powierzenia i bez sprawdzenia, co robi z danymi.
• Brak akceptacji człowieka. AI wysyłające umowy czy oferty bez zatwierdzenia to ryzyko prawne i wizerunkowe.
• Założenie, że ustawienia domyślne wystarczą. Region, retencja i dostęp administratora trzeba świadomie skonfigurować.

---

Projektuję wdrożenia AI tak, żeby dane klientów i tajemnice firmy były bezpieczne - od mapy danych i wyboru narzędzi przez maskowanie i region przetwarzania po logi i uprawnienia. Robię to w ramach doradztwa AI i budowy aplikacji AI. Napisz do mnie - zaczynam od przeglądu, jakie dane i jakimi kanałami trafiają dziś do AI w Twojej firmie.

Warto przeczytać dalej:

• RODO a AI w praktyce - dane osobowe w promptach, DPIA i umowy z dostawcami modeli
• Shadow AI - pracownicy używają AI bez Twojej wiedzy i to jest Twój problem
• Bezpieczeństwo agentów AI - uprawnienia, sandboxing i dziennik działań, zanim agent coś zepsuje
• Polityka AI w firmie i ISO/IEC 42001 - zasady korzystania z AI, które nie hamują innowacji