Czego dowiesz się z tego artykułu?

  • Jak rozpoznać Shadow AI, zanim niezatwierdzone narzędzie stanie się stałym elementem pracy placówki.
  • Jak sklasyfikować trzy typowe zastosowania jako: zaakceptuj, przenieś do zatwierdzonego środowiska albo zatrzymaj.
  • Gdzie AI może przygotować szkic, a gdzie personel musi zatwierdzić decyzję dotyczącą danych pacjenta.
  • Jak w 14 dni zbudować allowlistę i mierzyć spadek użyć ad hoc bez nagradzania ciszy.

Nie zaczynaj od komunikatu „od dziś zakazujemy wszystkich narzędzi AI”. Pierwszą decyzją managera powinno być odkrycie, gdzie AI już weszło do pracy, zanim pracownicy przestaną o tym mówić. Shadow AI to używanie modeli, kont lub aplikacji poza zatwierdzonym procesem placówki — często po to, by szybciej napisać mail, skrócić notatkę albo uporządkować dokument.

W relacji UODO z 10 czerwca 2026 roku padła informacja, że 54% pracowników korzystających z AI nie informuje o tym pracodawcy. Materiał nie podaje metodologii tego wskaźnika, więc nie traktowałbym go jako statystyki dla polskich placówek medycznych. To jednak mocny sygnał zarządczy: brak zgłoszenia oznacza brak decyzji o celu, zakresie danych, odpowiedzialności i śladzie użycia.

W polskiej przychodni problem robi się poważny, gdy do prywatnego konta trafia treść wiadomości pacjenta, fragment dokumentacji albo notatka z wizyty. AI może porządkować bezpiecznie przygotowany materiał roboczy, ale człowiek zatwierdza komunikat do pacjenta, wpis kliniczny i każdą decyzję dotyczącą danych. Ten tekst nie zastępuje oceny IOD ani porady prawnej; daje managerowi sposób na rozpoczęcie właściwej rozmowy.

Najważniejsze

  • Badaj zadania, nie listę modnych aplikacji. To samo narzędzie może być dopuszczalne dla tekstu bez danych i niedopuszczalne dla wiadomości pacjenta.
  • Nie pytaj od razu „kto to zrobił?”. Najpierw ustal cel, rodzaj danych, konto, miejsce zapisu wyniku i osobę zatwierdzającą.
  • Stosuj trzy decyzje: zaakceptuj w opisanych granicach, przenieś do zatwierdzonego środowiska albo zatrzymaj.
  • Dane i decyzje kliniczne pozostają pod kontrolą ludzi. Lekarz zatwierdza treść medyczną, a manager z IOD ustalają zasady przetwarzania.
  • Wzrost zgłoszeń na początku jest dobrym sygnałem. Spadku ryzyka nie wolno mylić z ciszą po ogłoszeniu zakazu.

Shadow AI rzadko wygląda jak incydent

Najczęściej zaczyna się od zdania: „chciałem tylko poprawić styl odpowiedzi”. Recepcja kopiuje wiadomość do generatora tekstu, manager streszcza notatki ze zmiany, a lekarz testuje szkic materiału edukacyjnego. Intencja bywa rozsądna, lecz proces omija zatwierdzone konto, umowę, reguły retencji i logi. Placówka nie potrafi potem odtworzyć, co trafiło do usługi ani gdzie zapisano wynik.

Sygnałem ostrzegawczym są prywatne konta używane na służbowym komputerze, brak odpowiedzi na pytanie o historię danych oraz wyniki AI wklejane do EDM lub maila bez oznaczenia wersji roboczej. Samo usunięcie imienia nie musi wystarczyć, jeśli opis pozwala ponownie rozpoznać osobę. Równie słabą kontrolą jest założenie, że wyłączenie jednej opcji trenowania rozwiązuje wszystkie kwestie dostępu, retencji i odpowiedzialności.

Ja bym szukał przede wszystkim procesu, który obiecuje oszczędność kilku minut, ale nie ma właściciela. Brak właściciela i brak śladu to ważniejsze czerwone flagi niż nazwa modelu. Jeśli nikt nie potrafi powiedzieć, kto zatwierdza wynik i co dzieje się po błędzie, zastosowanie wymaga zatrzymania lub przeniesienia do kontrolowanego środowiska.

Najpierw zadanie, potem aplikacja

Dobra inwentaryzacja nie zbiera treści rozmów ani przykładowych dokumentów. Zbiera cel zadania, minimalny zakres danych, miejsce pracy i dalsze użycie wyniku. Dzięki temu manager może ocenić zastosowanie bez proszenia zespołu o ponowne kopiowanie danych pacjenta do ankiety.

Zadanie i ryzykoMinimalny zakres i decyzjaKto zatwierdzaJaki zostaje ślad
Szkic maila — ryzyko skopiowania realnej wiadomości pacjentaZatwierdzony szablon bez treści zgłoszenia. Przenieś do służbowego konta; zatrzymaj kopiowanie wiadomościKierownik rejestracji; zakres ustalają manager i IODWersja szablonu, użytkownik, data zatwierdzenia, kanał wysyłki
Podsumowanie spotkania — ryzyko danych pacjenta lub oceny pracownikaUstalenia o procedurze bez danych osobowych. Zaakceptuj tylko w opisanym zastosowaniuWłaściciel procesu sprawdza fakty i publikuje wynikNazwa zastosowania, konto służbowe, data przeglądu
Szkic wpisu po wizycie — ryzyko błędu klinicznego i utraty kontroli nad danymiPrzenieś albo zatrzymaj do czasu zatwierdzenia środowiska, integracji i zasad danychLekarz zatwierdza wpis; IOD i administrator oceniają procesŹródło, wersja szkicu, korekty, osoba i czas zatwierdzenia

Ta mapa nie zastępuje rejestru czynności przetwarzania ani oceny skutków dla ochrony danych. Ma dać managerowi pierwszą decyzję operacyjną, a IOD — czytelny opis faktycznego użycia. Kluczowe pytanie brzmi nie „czy używamy AI?”, lecz „czy umiemy odtworzyć cel, dane, wynik i decyzję człowieka?”.

Przy wpisie klinicznym human-in-the-loop nie może oznaczać automatycznego kliknięcia „akceptuj”. Lekarz musi przeczytać szkic, poprawić błędy i świadomie zatwierdzić finalną dokumentację. Jeżeli system nie pokazuje źródła treści, zmian albo osoby zatwierdzającej, nie powinien stać się skrótem do EDM.

Co wychodzi z poufnej ankiety w przychodni

Przykład modelowy — scenariusz pokazuje sposób myślenia o porządkowaniu Shadow AI. Nie opisuje realnej placówki ani danych konkretnego pacjenta.

Prywatna przychodnia specjalistyczna w Polsce zatrudnia modelowo 15 osób. Manager uruchamia poufną ankietę, w której nie prosi o nazwy pacjentów, treść promptów ani zrzuty ekranu. Pyta tylko o rodzaj zadania, kategorię danych, używane konto, miejsce wklejenia wyniku i osobę zatwierdzającą. W pierwszym tygodniu zespół zgłasza sześć zastosowań — więcej, niż zakładał właściciel.

Jedno z nich dotyczy kopiowania wiadomości pacjentów do prywatnego generatora tekstu. Placówka natychmiast zatrzymuje ten sposób pracy, zabezpiecza dostępne informacje o zdarzeniu i uruchamia własną procedurę oceny z IOD. Nie rozstrzyga w artykule, czy doszło do naruszenia; to wymaga analizy faktów. Drugie zastosowanie — streszczenie procedury organizacyjnej bez danych osobowych — trafia do służbowego, zatwierdzonego konta i dostaje właściciela.

Trzecie zastosowanie to szkic materiału edukacyjnego tworzony na fikcyjnym scenariuszu. Może pozostać na allowliście, jeśli bazuje na zatwierdzonych źródłach placówki, nie udaje indywidualnego zalecenia i lekarz zatwierdza treść przed udostępnieniem pacjentom. AI przygotowuje wersję roboczą; człowiek odpowiada za sens kliniczny, zakres informacji i publikację.

Zaakceptuj, przenieś albo zatrzymaj

Zaakceptuj zastosowanie, gdy zadanie ma jasno opisany cel, działa na zatwierdzonym koncie, nie wymaga danych pacjenta, a człowiek sprawdza wynik. Przenieś je, gdy wartość operacyjna jest realna, lecz potrzebne są kontrolowane środowisko, umowa, role, retencja lub logi. Zatrzymaj je, gdy personel kopiuje dokumentację do prywatnego narzędzia, model samodzielnie tworzy komunikat kliniczny albo placówka nie potrafi odtworzyć przepływu danych.

To ma sens, gdy placówka jasno komunikuje, że zgłoszenie nie służy karaniu, szybko odpowiada na bezpieczne pomysły i potrafi wskazać zatwierdzoną alternatywę. Ludzie zgłaszają praktyki wtedy, gdy widzą drogę do legalnego i użytecznego rozwiązania, a nie wyłącznie zakaz.

To nie ma sensu, gdy ankieta zbiera przykładowe wiadomości pacjentów, nazwiska użytkowników przed wyjaśnieniem celu albo obiecuje pełną anonimowość w pięcioosobowym zespole. Poufność trzeba opisać uczciwie, a osobny kanał incydentowy powinien przejąć sprawy, w których dane mogły już opuścić zatwierdzone systemy.

Pierwszy krok: 14 dni pilotażu procesu zgłoszeń

Plan nie musi zaczynać się od zakupu platformy governance. Potrzebne są krótki komunikat bez obwiniania, prosty formularz i osoba podejmująca decyzję. Sugeruję ustawić jeden wspólny termin przeglądu, żeby zgłoszenia nie utknęły między managerem, IOD i dostawcą.

  1. Dni 1–2 — komunikat i kanały. Wyjaśnij różnicę między ankietą procesową a pilnym zgłoszeniem możliwego incydentu. Nie proś o treść danych, pliki, hasła ani zrzuty ekranu.
  2. Dni 3–5 — inwentaryzacja zadań. Zbierz cel, kategorię danych, rodzaj konta, miejsce użycia wyniku, osobę zatwierdzającą i powód sięgnięcia po AI.
  3. Dni 6–8 — triage. Manager, właściciel procesu i IOD nadają każdemu zastosowaniu decyzję: zaakceptuj, przenieś albo zatrzymaj. Sprawy kliniczne trafiają także do lekarza odpowiedzialnego.
  4. Dni 9–11 — pierwsza allowlista. Dla każdego dopuszczonego użycia zapisz narzędzie i konto, dane dozwolone i zakazane, człowieka zatwierdzającego, wymagany ślad oraz datę ponownego przeglądu.
  5. Dni 12–14 — rozmowa z zespołem. Pokaż przykłady bez danych pacjenta, ścieżkę zgłaszania nowego pomysłu i zatwierdzoną alternatywę dla zastosowań przeniesionych lub zatrzymanych.

Jeżeli po ankiecie placówka planuje formalny pilotaż, kolejnym krokiem może być rejestr danych przed pilotażem AI. Z kolei zasady dla poszczególnych ról warto połączyć ze szkoleniem zespołu z AI. Najpierw odkrywasz stan faktyczny, potem dokumentujesz i szkolisz — nie odwrotnie.

Metryka, która nie nagradza ciszy

W pierwszych dniach liczba zgłoszonych zastosowań prawdopodobnie wzrośnie. To nie jest pogorszenie bezpieczeństwa, tylko poprawa widoczności. Dopiero po ustaleniu baseline’u można oceniać, czy maleje liczba użyć ad hoc i czy pracownicy wybierają zaakceptowane ścieżki.

Manager powinien śledzić pięć prostych wskaźników:

  • liczbę rozpoznanych zastosowań oraz udział tych z decyzją i właścicielem;
  • czas od zgłoszenia nowego zastosowania do decyzji;
  • liczbę zastosowań zaakceptowanych, przeniesionych i zatrzymanych;
  • liczbę zgłoszeń ad hoc po publikacji allowlisty, porównaną z pierwszym okresem;
  • udział zastosowań z określonym człowiekiem zatwierdzającym i wymaganym śladem.

Brak zgłoszeń nie dowodzi braku Shadow AI, podobnie jak sama allowlista nie dowodzi zgodności każdego użycia. Osobno prowadzi się zdarzenia wymagające oceny bezpieczeństwa lub RODO; osobno rozwój bezpiecznych zastosowań. Ja bym jutro rano wysłał pięciominutową ankietę i obiecał zespołowi odpowiedź na każde zgłoszenie w ciągu tygodnia. Pierwszym wynikiem ma być mapa rzeczywistości, nie idealna polityka napisana bez wiedzy o codziennej pracy.

Źródła