AI a RODO — co firma powinna sprawdzić przed użyciem narzędzi AI?

Firma może korzystać z narzędzi sztucznej inteligencji, ale gdy do systemu trafiają dane osobowe lub jego wynik dotyczy konkretnej osoby, zastosowanie ma ogólne rozporządzenie o ochronie danych, czyli RODO. Nie wystarczy, że dostawca opisuje usługę jako „zgodną z RODO”. Przed wdrożeniem trzeba określić cel użycia, zakres danych, podstawę prawną, role stron, okres przechowywania informacji i wpływ wyniku na klienta, pracownika lub kandydata. Dlatego pracownicy nie powinni samodzielnie wklejać dokumentów firmowych do przypadkowo wybranych narzędzi AI.

RODO a sztuczna inteligencja – kiedy przepisy mają zastosowanie?

RODO a sztuczna inteligencja łączą się wtedy, gdy system AI przetwarza dane osobowe. Dane osobowe to informacje dotyczące osoby zidentyfikowanej albo możliwej do zidentyfikowania, takie jak imię, adres e-mail, numer telefonu, wizerunek, historia zakupów lub zestaw informacji pozwalający ustalić tożsamość. Samo użycie technologii AI nie przesądza jeszcze o zastosowaniu RODO. Decyduje rodzaj danych i sposób ich wykorzystania.

Dane osobowe nie występują wyłącznie w polu, do którego wpisujesz polecenie. Firma powinna przeanalizować cały przepływ informacji:

• dane wejściowe, takie jak prompt, dokument, nagranie, zdjęcie lub arkusz;
• operacje systemu i dostawcy, w tym logi, pamięć rozmów, analitykę i wykorzystanie treści do rozwoju modelu;
• dane wyjściowe, takie jak odpowiedź, profil, rekomendacja, streszczenie lub scoring dotyczący konkretnej osoby.

Także wynik systemu może zawierać dane osobowe, nawet gdy początkowy prompt ich nie obejmował. Ocena nie może więc kończyć się na sprawdzeniu treści wprowadzanej przez pracownika. Trzeba ustalić, jakie informacje powstają, gdzie są zapisywane i kto może uzyskać do nich dostęp.

Dane poufne nie zawsze są danymi osobowymi. Strategia marketingowa lub plan cenowy mogą stanowić tajemnicę przedsiębiorstwa, ale nie muszą dotyczyć osoby fizycznej. Z kolei publicznie dostępny profil zawodowy nadal może zawierać dane osobowe podlegające ochronie.

RODO może nie mieć zastosowania do konkretnej operacji, gdy firma używa wyłącznie danych rzeczywiście anonimowych. Usunięcie imienia i nazwiska nie gwarantuje jednak anonimizacji. Pozostałe informacje, na przykład stanowisko, miejscowość, wiek i historia zatrudnienia, mogą nadal umożliwiać rozpoznanie osoby.

Przetwarzanie danych przez AI – role firmy i dostawcy systemu

Firma korzystająca z narzędzia AI najczęściej pozostaje administratorem procesu biznesowego, ponieważ określa jego cel i sposób wykorzystania wyniku. Dostawca może działać jako podmiot przetwarzający dane w imieniu firmy, jako odrębny administrator albo pełnić różne role w zależności od operacji. Rola strony wynika z rzeczywistego wykorzystania danych, a nie wyłącznie z nazwy wpisanej do regulaminu.

Przed wdrożeniem trzeba sprawdzić, czy dostawca używa danych jedynie do wykonania polecenia. Dokumentacja usługi powinna również wyjaśniać, czy treści trafiają do logów, analityki, systemów bezpieczeństwa lub procesu ulepszania modelu. Znaczenie mają również okres retencji, lokalizacja danych, lista podwykonawców oraz zasady transferu informacji poza Europejski Obszar Gospodarczy.

Umowa powierzenia jest potrzebna, gdy dostawca przetwarza dane osobowe w imieniu firmy jako podmiot przetwarzający. Sama umowa nie rozwiązuje jednak problemów związanych z podstawą prawną, zakresem danych i prawami osób. Jeżeli dostawca wykorzystuje część informacji do własnych celów, jego rola wymaga osobnej oceny.

Pracownicy powinni korzystać z zatwierdzonych kont firmowych, a nie z prywatnych profili. Konto organizacyjne może ułatwić zarządzanie dostępem, ustawieniami retencji i historią aktywności, ale nie stanowi automatycznej gwarancji zgodności.

Zgodne narzędzie nie gwarantuje zgodnego procesu.

Dostawca może zapewniać funkcje wspierające ochronę danych, a mimo to firma może używać narzędzia niezgodnie z RODO. Do naruszenia może dojść na przykład wtedy, gdy pracownik bez podstawy prawnej prześle pełne CV kandydata, mimo że do wykonania zadania wystarczył anonimowy fragment. Deklarację „GDPR compliant” należy traktować jako informację do zweryfikowania, a nie certyfikat legalności każdego zastosowania.

Przejrzystość działania AI i obowiązek informacyjny

Osoba, której dane trafiają do systemu AI, powinna otrzymać zrozumiałą informację o administratorze, celu przetwarzania, podstawie prawnej, odbiorcach, okresie przechowywania i przysługujących prawach. Obowiązek informacyjny może mieć zastosowanie także wtedy, gdy firma pozyskała dane z innego źródła niż bezpośrednio od tej osoby.

Nie trzeba przedstawiać pełnego kodu modelu ani technicznej dokumentacji jego architektury. Komunikat musi jednak pozwalać zrozumieć, do czego dane są wykorzystywane i jakie konsekwencje może wywołać proces. Przy profilowaniu lub zautomatyzowanym podejmowaniu decyzji zakres informacji może być szerszy.

Podstawy prawne przetwarzania i trenowanie modeli AI

Nie istnieje podstawa prawna określana jako „użycie AI”. Firma najpierw ustala konkretny cel, a następnie dobiera odpowiednią przesłankę z art. 6 RODO. Rozwój modelu, jego trenowanie, testowanie, walidacja i późniejsze zastosowanie mogą stanowić odrębne operacje wymagające osobnej oceny.

Zgoda może być właściwa w określonych sytuacjach, ale nie działa jako uniwersalne pozwolenie na użycie danych w AI. Musi być dobrowolna, konkretna, świadoma i jednoznaczna, a jej wycofanie powinno być równie łatwe jak udzielenie. Zgoda może być niewłaściwa, gdy osoba nie ma realnego wyboru, na przykład w relacji pracownik–pracodawca.

Prawnie uzasadniony interes również może stanowić podstawę przetwarzania, ale tylko po spełnieniu trzech warunków. Firma wskazuje zgodny z prawem interes, wykazuje niezbędność operacji, a następnie porównuje go z prawami i rozsądnymi oczekiwaniami osób.

Publiczna dostępność informacji nie tworzy automatycznej podstawy do pobierania danych i trenowania modelu. Treści opublikowane na stronie internetowej lub w serwisie społecznościowym nadal mogą być danymi osobowymi. Znaczenie ma kontekst publikacji, oczekiwania osoby, zakres pozyskiwanych informacji i możliwość sprzeciwu.

W 2023 r. włoski organ nadzorczy czasowo ograniczył przetwarzanie związane z ChatGPT. Zastrzeżenia dotyczyły między innymi przejrzystości, podstaw przetwarzania danych używanych do trenowania oraz mechanizmów realizacji praw osób. Po wdrożeniu części wymaganych środków ograniczenie zostało zawieszone, dlatego nie należy przedstawiać go jako nadal obowiązującego zakazu działania usługi.

Przypadek ten pokazuje, że ocena narzędzia nie może ograniczać się do jego funkcji. Firma powinna również sprawdzić politykę prywatności, warunki przetwarzania, mechanizm sprzeciwu i sposób obsługi żądań dotyczących danych.

Anu Talus, przewodnicząca Europejskiej Rady Ochrony Danych, wskazała w komunikacie z 18 grudnia 2024 r.: „We need to ensure these innovations are done ethically, safely, and in a way that benefits everyone.”

Jak przeprowadzić test równowagi?

Test równowagi zaczyna się od wskazania konkretnego interesu firmy. Następnie trzeba wykazać, że przetwarzanie danych jest konieczne, a tego samego celu nie można osiągnąć metodą mniej ingerującą w prywatność. Ostatni etap polega na porównaniu interesu organizacji z prawami, wolnościami i rozsądnymi oczekiwaniami osób.

Ocena powinna uwzględniać charakter danych, skalę operacji, możliwe konsekwencje, relację firmy z osobą i dostępne zabezpieczenia. Wynik testu trzeba udokumentować przed rozpoczęciem przetwarzania. Przy tej podstawie znaczenie może mieć również zapewnienie skutecznego prawa do sprzeciwu.

Minimalizacja danych, dane wrażliwe w AI i bezpieczeństwo

Do systemu AI należy przekazywać wyłącznie informacje potrzebne do osiągnięcia jasno określonego celu. Jeżeli do przygotowania streszczenia wystarczy jeden fragment umowy, pracownik nie powinien przesyłać całego dokumentu wraz z danymi stron i podpisami. Ta sama zasada dotyczy historii korespondencji, baz klientów, nagrań i załączników.

Bez zatwierdzonego procesu nie należy wprowadzać do narzędzia:

• dokumentacji medycznej i danych zdrowotnych;
• skanów dokumentów oraz numerów identyfikacyjnych;
• pełnych CV, akt osobowych i ocen pracowniczych;
• baz klientów i kompletnej historii korespondencji;
• danych finansowych, historii kredytowej i informacji o płatnościach;
• danych biometrycznych służących jednoznacznej identyfikacji osoby.

Nie jest to bezwzględny zakaz używania takich danych w systemach AI. Ich przetwarzanie wymaga jednak odpowiedniej podstawy, zatwierdzonego narzędzia, ograniczonego celu i zabezpieczeń dostosowanych do ryzyka. W przypadku danych zdrowotnych lub biometrycznych trzeba również sprawdzić, czy zachodzi jeden z wyjątków przewidzianych w art. 9 RODO.

Środki bezpieczeństwa mogą obejmować kontrolę dostępu, szyfrowanie, logowanie operacji, ograniczenie retencji i wyłączenie wykorzystywania danych do rozwoju modelu. Firma powinna również określić zatwierdzone zastosowania, osoby uprawnione oraz procedurę reagowania na incydenty.

Ocena skutków dla ochrony danych, czyli DPIA, jest potrzebna przed rozpoczęciem operacji mogącej powodować wysokie ryzyko dla praw i wolności osób. Nie każde narzędzie AI wymaga DPIA, ale próg ryzyka może zostać osiągnięty przy systematycznej ocenie osób, profilowaniu, dużej skali danych szczególnych kategorii lub decyzjach o istotnych skutkach.

Anonimizacja danych a pseudonimizacja

Pseudonimizacja utrudnia bezpośrednie przypisanie informacji do osoby, ale nie wyłącza RODO, gdy ponowne powiązanie nadal jest możliwe. Pełna anonimizacja wymaga oceny, czy osobę można wyodrębnić, połączyć z innymi informacjami lub zidentyfikować na podstawie wnioskowania.

Usunięcie nazwiska może nie wystarczyć, gdy pozostają stanowisko, data zdarzenia, lokalizacja lub nietypowy opis sytuacji. Przy modelach AI należy również ocenić ryzyko wydobycia danych osobowych z modelu. Alternatywą w niektórych procesach mogą być dane syntetyczne, pod warunkiem że nie odwzorowują informacji pozwalających zidentyfikować prawdziwą osobę.

Prawa osób fizycznych i zautomatyzowane decyzje AI

Osoba zachowuje prawa wynikające z RODO również wtedy, gdy jej dane są przetwarzane przez system AI. Zależnie od podstawy i okoliczności może chodzić o dostęp, sprostowanie, usunięcie, ograniczenie, sprzeciw lub wycofanie zgody. Firma powinna zaprojektować proces tak, aby obsługa tych żądań była możliwa także w środowisku opartym na modelu AI.

Brak łatwego dostępu do danych zapisanych w modelu nie usuwa obowiązków administratora. Nie oznacza to jednak, że każde żądanie usunięcia automatycznie prowadzi do usunięcia całego modelu. Zakres działania zależy od podstawy prawnej, możliwości identyfikacji danych i wyjątków przewidzianych w przepisach.

Prawo do sprzeciwu może mieć znaczenie, gdy przetwarzanie opiera się na prawnie uzasadnionym interesie. W 2025 r. włoski organ nadzorczy informował użytkowników o możliwości sprzeciwu wobec wykorzystania publicznych treści do trenowania systemów AI Meta. Przykład pokazuje, że treść publiczna nie staje się przez to pozbawiona ochrony.

Dodatkowej oceny wymaga proces, w którym AI samodzielnie decyduje o zatrudnieniu, cenie, przyznaniu świadczenia lub dostępie do usługi. Art. 22 RODO dotyczy określonych decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują skutki prawne lub podobnie istotnie wpływają na osobę.

Samo wykorzystanie rekomendacji AI jako wsparcia nie oznacza automatycznie naruszenia art. 22. Nadzór człowieka musi być jednak rzeczywisty, a osoba zatwierdzająca wynik powinna móc go zakwestionować, zmienić lub odrzucić. Mechaniczne kliknięcie „zatwierdź” nie zapewnia realnej ingerencji.

AI Act a RODO – jak ocenić ryzyko systemów AI przed wdrożeniem?

AI Act i RODO mogą mieć zastosowanie do tego samego wdrożenia, ale regulują inne obszary. RODO koncentruje się na przetwarzaniu danych osobowych, natomiast AI Act określa obowiązki związane z systemami i modelami AI, rolami operatorów oraz poziomem ryzyka. Zgodność z jednym rozporządzeniem nie zastępuje zgodności z drugim.

RODO a AI Act

RODO:
koncentruje się na danych osobowych, wymaga celu i podstawy prawnej, reguluje prawa osób oraz obowiązki administratorów i podmiotów przetwarzających. Środki ochrony dobiera się do charakteru operacji i ryzyka dla praw oraz wolności.

AI Act:
koncentruje się na systemach i modelach AI. Rozdziela obowiązki według roli operatora i poziomu ryzyka, wprowadza określone zakazy, obowiązki przejrzystości oraz wymagania dotyczące wybranych systemów.

Klasyfikacja systemu na gruncie AI Act nie rozstrzyga, czy firma ma podstawę prawną do przetwarzania danych osobowych. Z drugiej strony spełnienie wymogów RODO nie oznacza jeszcze wykonania wszystkich obowiązków dotyczących danego systemu AI.

Przed zakupem lub udostępnieniem narzędzia pracownikom przeprowadź siedem kroków:

1. Opisz konkretny cel wykorzystania narzędzia.
2. Zmapuj dane wejściowe, operacje wykonywane przez dostawcę i dane wyjściowe.
3. Określ role firmy, dostawcy oraz jego podwykonawców.
4. Wybierz i udokumentuj podstawę prawną przetwarzania.
5. Ogranicz zakres danych, okres retencji i liczbę osób z dostępem.
6. Sprawdź prawa osób, automatyczne decyzje i potrzebę przeprowadzenia DPIA.
7. Zatwierdź narzędzie, przygotuj instrukcję dla pracowników i zaplanuj ponowną ocenę.

Proces nie kończy się w dniu uruchomienia usługi. Zmiana regulaminu, listy podwykonawców, celu wykorzystania albo ustawień trenowania może wymagać ponownej analizy. Firma powinna również szkolić pracowników i dokumentować dopuszczone zastosowania.

Przy procesach obejmujących rekrutację, zdrowie, biometrię, systematyczne profilowanie lub decyzje o istotnych skutkach potrzebna może być konsultacja z inspektorem ochrony danych albo prawnikiem. Prezes Urzędu Ochrony Danych Osobowych ujął podstawową zasadę następująco: „RODO pozostaje fundamentem ochrony prawnej.”

Stan regulacyjny AI Act jest etapowy i może się zmieniać. Przed publikacją procedury lub uruchomieniem systemu firma powinna sprawdzić terminy stosowania obowiązków w oficjalnych materiałach Komisji Europejskiej, zgodnie ze stanem na 29 lipca 2026 r. Ten artykuł ma charakter informacyjny i nie zastępuje analizy konkretnego wdrożenia.

---

FAQ