Shadow AI

Co to shadow AI?

Shadow AI pojawia się, gdy pracownicy najpierw samodzielnie wdrażają, a potem wykorzystują narzędzia GenAI bez zgody czy nadzoru działu IT. Częstym przykładem jest nieautoryzowane użycie modeli GenAI do automatyzacji zadań takich jak kodowanie czy analiza danych. Choć może to przyśpieszyć pracę, działanie to naraża organizacje na poważne ryzyka związane z bezpieczeństwem danych.

Przykładowe dane narażone na ryzyko z powodu wykorzystania nieautoryzowanych narzędzi GenAI:

• Dane kontaktowe klientów,
• Kod źródłowy (w tym własne algorytmy, skrypty, linki do repozytoriów GitHub),
• Dane pracowników (CV),
• Własność intelektualna (projekty produktów, tajemnice handlowe),
• Umowy (szkice umów, warunki transakcji).

Zjawisko shadow AI budzi poważne wątpliwości z punktu widzenia zgodności z wieloma regulacjami. Poniżej analizujemy problemy, jakie mogą się pojawić, gdy pracownicy korzystają z nieautoryzowanych modeli GenAI.

Ryzyko kontraktowe

W praktyce biznesowej shadow AI bardzo często łączy się z tym, że pracownicy „na własną rękę” akceptują regulaminy narzędzi GenAI (np. w wersji SaaS). W wielu przypadkach z prawnego punktu widzenia może to oznaczać zawieranie umów pozostających w takim przypadku poza kontrolą działu prawnego. Prowadzić to może do problemów IP (np. niewłaściwych, niekorzystnych licencji), braku jasności co do praw własności intelektualnej w zakresie wygenerowanych treści, a także ryzyka tzw. vendor lock‑in, gdy organizacja zaczyna operacyjnie zależeć od jednego dostawcy narzędzia GenAI.

RODO

Rozporządzenie o ochronie danych osobowych (RODO) to rozporządzenie unijne, zawierające przepisy o ochronie osób fizycznych w związku z przetwarzaniem danych osobowych oraz przepisy o swobodnym przepływie danych osobowych ^[2]. Wykorzystanie shadow AI w organizacji może wiązać się ze znacznymi wyzwaniami w zakresie zgodności z tym rozporządzeniem. Po pierwsze, w art. 5 RODO wymieniono podstawowe zasady przetwarzania danych osobowych. Przykładowo, pracownik korzysta z nieautoryzowanych modeli GenAI do analizowania historii przeglądania stron internetowych przez klientów i tworzy ukierunkowane reklamy. Model GenAI przetwarza dane osobowe bez wiedzy i zgody osoby, której dane dotyczą oraz poza ustalonymi przez organizację zasadami przetwarzania danych, może to prowadzić do naruszenia art. 5 RODO ^[3].

Po drugie, zgodnie z art. 30 każdy administrator oraz – gdy ma to zastosowanie – przedstawiciel administratora prowadzą rejestr czynności przetwarzania danych osobowych, za które odpowiadają. Jednak w przypadku shadow AI nie wiadomo, kto, jakie dane i w jakich celu przetwarza. Działanie to uniemożliwia zachowanie zgodności z przepisami.

Należy także zwrócić uwagę, że publicznie dostępne modele GenAI w większości wykorzystują serwery zlokalizowane poza Unią Europejską (UE). W tym przypadku może dojść do przekazania danych osobowych do państw trzecich, co jest dozwolone wyłącznie, jeśli ten kraj zapewni odpowiedni stopień ochrony.

AI Act

Rozporządzenie o sztucznej inteligencji stanowi kluczowy dokument, który zawiera ramy regulacyjne dla rozwoju, wdrażania i użytkowania AI na terenie UE ^[4]. Wykorzystanie shadow AI omija następujące wymagania przewidziane w AI Act:

• Brak możliwości określenia kategorii ryzyka systemu,
• Brak dostępnej dokumentacji lub oceny ryzyka,
• Brak kontroli nad przejrzystością danych,
• Brak gwarancji nadzoru ludzkiego.

Data Act

Rozporządzenie w sprawie zharmonizowanych przepisów dotyczących sprawiedliwego dostępu do danych i ich wykorzystania, potocznie nazywane Data Act, wprowadziło zmiany w sposobie zarządzania danymi generowanymi przez urządzenia połączone z Internetem ^[5]. Jednym z kluczowych aspektów zgodności z Data Act jest zapewnienie kontroli nad cyklem życia danych – od momentu ich pozyskania, przez przetwarzanie, aż po udostępnienie innym podmiotom. Jednak, kiedy pracownik przesyła zastrzeżone dane do nieautoryzowanego modelu GenAI w celu ich analizy, tworzy nowe, niekontrolowane dane.

Błędy wywoływane przez AI

Z perspektywy zarządów i działów biznesowych kluczowym problemem jest nie tylko ryzyko naruszenia RODO, AI Act czy Data Act, ale także bardziej przyziemne ryzyko błędnych decyzji biznesowych opartych na niezweryfikowanych wynikach modeli GenAI. Shadow AI potęguje to ryzyko – pracownicy używają modeli do analizy danych czy tworzenia rekomendacji, których nikt nie oznacza jako wygenerowanych przez AI, nie weryfikuje ani nie dokumentuje. Może to skutkować realnymi stratami finansowymi lub sporami z kontrahentami.

Reputacja firmy

Naruszenie danych związane z wykorzystaniem nieautoryzowanych modeli GenAI może podważyć zaufanie klientów i zaszkodzić reputacji firmy. Jeśli treści generowane przez modele GenAI są niedokładne lub wprowadzające w błąd mogą prowadzić do dezinformacji, co dodatkowo obniża wiarygodność marki. Może to także prowadzić do problemów finansowych związanych z pogorszeniem pozycji na rynku.

Jakie działania powinny podjąć przedsiębiorstwa?

Wśród kluczowych komponentów mechanizmu ograniczania ryzyka w sferze shadow AI należy wymienić:

• dobre, czyli przede wszystkim adekwatne i odpowiednio szczegółowe, opisanie w politykach wewnętrznych zasad korzystania z narzędzi AI na potrzeby danej organizacji;
• monitoring;
• bieżąca kontrola;
• przegląd i okresowa aktualizacja zasad.

Ważne jest także dostarczenie listy autoryzowanych narzędzi GenAI w organizacji. Całkowity zakaz korzystania z modeli GenAI jest niepraktyczny. Bez wątpienia pracownicy znajdą sposób na obejście tego zakazu, co doprowadzi do jeszcze większego rozpowszechniania się i wykorzystania nielegalnych rozwiązań opartych na GenAI. Organizacje powinny udostępnić listę zatwierdzonych narządzi GenAI, które spełniają standardy bezpieczeństwa i zgodności z przepisami, oraz jasne wytyczne dotyczące ich użytkowania.

Jak możemy pomoć?

Aby ograniczyć ryzyko kontraktowe i vendor lock‑in możemy pomóc w:

• audycie wewnętrznym faktycznie używanych narzędzi GenAI (także tych pozostających „w cieniu”) oraz powiązanych z nimi umów i regulaminów,
• wypracowaniu wzorcowych klauzul kontraktowych (IP, odpowiedzialność, poufność, RODO, warunki wyjścia i migracji danych),
• przygotowaniu i wdrożeniu procedury, w której każde nowe narzędzie AI przechodzi szybki, ale usystematyzowany przegląd prawny i bezpieczeństwa przed dopuszczeniem go do użytku w organizacji.

Z kolei w celu zmniejszenia ryzyka błędów wywołanych przez AI możemy:

• zaprojektować i wdrożyć politykę zapewniającą nadzór człowieka nad AI („human in the loop”) oraz zasady weryfikacji wyników GenAI (np. obowiązkowe oznaczanie i akceptacja decyzji przez człowieka w określonych procesach),
• opracować wewnętrzne standardy archiwizacji (kto, kiedy, jak korzystał z AI, na podstawie jakich danych i jakie decyzje podjęto),
• przygotować klauzule kontraktowe ograniczające odpowiedzialność organizacji w relacjach B2B, gdy w procesie świadczenia usług lub tworzenia dokumentów wykorzystuje się narzędzia GenAI. ​

Możemy też pomóc zbudować Governance AI jako element szerszego programu zgodności (compliance / GRC), w tym:

• pomóc zbudować spójny system AI governance (polityki, procedury, rejestry systemów i przypadków zastosowań, czy matryce ryzyka zgodne z AI Act),
• przeprowadzić warsztaty dla kadry menedżerskiej i kluczowych zespołów (IT, HR, marketing, sprzedaż, R&D) pokazujące praktyczne konsekwencje i ryzyka korzystania z shadow AI oraz „dozwolone” przez Państwa organizację scenariusze użycia,
• zaprojektować cykliczne audyty AI (w tym shadow AI) jako stały element programu compliance.

Jeżeli poszukujesz wsparcia w procesie dostosowania Twojej organizacji do wymogów wynikających z RODO, AI Act oraz Data Act – zapraszamy do kontaktu.

Źródła: