4crypto.eu
Bezpłatna konsultacja
Compliance · Rozporządzenie UE · 2026

AI Act w 2026 r. - rozporządzenie 2024/1689, klasyfikacja ryzyka, GPAI, AI literacy, kary do 35 mln EUR

Autor: dr inż. Adam Czubak Czas czytania: 15 min Aktualizacja: 2026-05-15

Ratio legis

AI Act odpowiada na rosnącą obawę, że systemy AI mogą prowadzić do systemowej dyskryminacji, manipulacji zachowaniami lub zagrożenia praw podstawowych - bez transparentności i odpowiedzialności proporcjonalnej do skali wpływu. Ratio legis to wprowadzenie podejścia opartego na ryzyku: praktyki zagrażające demokracji i godności ludzkiej są zakazane, systemy wysokiego ryzyka są ściśle regulowane z obowiązkami dostawcy i użytkownika, a innowacja w obszarach niskoryzykowych pozostaje swobodna. Cel jest ambitny: Europa jako region, w którym AI rozwija się zgodnie z wartościami praw podstawowych, a nie wbrew nim - z karami wyższymi niż w RODO (do 35 mln EUR lub 7% obrotu) jako gwarancja egzekucji.

AI Act [1] (rozporządzenie 2024/1689 z 13 czerwca 2024 r.) to pierwsza na świecie kompleksowa regulacja sztucznej inteligencji. Rozporządzenie wprowadza podejście oparte na ryzyku - im wyższe potencjalne szkody, tym surowsze obowiązki. Cztery poziomy ryzyka: nieakceptowalne (8 praktyk zakazanych), wysokie (szczegółowe obowiązki dostawców i użytkowników), ograniczone (obowiązki transparentności) oraz minimalne (bez specjalnych wymagań).

AI Act wszedł w życie 1 sierpnia 2024 r. z fazowym stosowaniem do 2027 r. Już od 2 lutego 2025 r. obowiązują dwie kluczowe regulacje: zakaz 8 praktyk niedopuszczalnych (art. 5) oraz AI literacy (art. 4) - obowiązek zapewnienia kompetencji AI pracownikom. Od 2 sierpnia 2025 r. obowiązują przepisy dla GPAI (general-purpose AI - GPT-4, Claude, Gemini, LLaMA). Większość pozostałych obowiązków - od 2 sierpnia 2026 r. Artykuł porządkuje strukturę AI Act, opisuje 4 poziomy ryzyka, praktyki zakazane, obowiązki dostawców i użytkowników, GPAI, AI literacy, sankcje oraz mapping do RODO [2], NIS2 [7] i ISO/IEC 42001 [6].

Czym jest AI Act - geneza i kalendarium

Pełna nazwa: Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji oraz zmieniające rozporządzenia (Akt w sprawie sztucznej inteligencji) [1].

Geneza

Prace nad AI Act rozpoczęły się w 2018 r. Pierwszy projekt został zaprezentowany przez Komisję Europejską 21 kwietnia 2021 r. Trzyletnie negocjacje zakończyły się w grudniu 2023 r. politycznym porozumieniem. Formalne przyjęcie - 13 czerwca 2024 r.

Cele AI Act:

  • Bezpieczeństwo - ochrona zdrowia, bezpieczeństwa, praw podstawowych przed potencjalnymi szkodami AI.
  • Zaufanie - budowanie zaufania społecznego do AI.
  • Innowacje - wsparcie europejskiego ekosystemu AI (sandbox, MŚP).
  • Jednolity rynek - jednakowe zasady dla AI w całej UE.

Kalendarium stosowania

AI Act wszedł w życie 1 sierpnia 2024 r. (20 dni po publikacji 12 lipca 2024 r.). Stosowanie jest fazowe:

  • 2 lutego 2025 - art. 5 (praktyki zakazane) + art. 4 (AI literacy).
  • 2 sierpnia 2025 - GPAI (rozdział V), AI Office, organy krajowe, kary.
  • 2 sierpnia 2026 - systemy wysokiego ryzyka z załącznika III, transparentność, większość pozostałych obowiązków.
  • 2 sierpnia 2027 - systemy wysokiego ryzyka z załącznika I (jako komponenty produktów regulowanych).

Struktura rozporządzenia

AI Act składa się z 13 rozdziałów (113 artykułów) oraz 13 załączników:

  • Rozdział I (art. 1-4) - przepisy ogólne, AI literacy.
  • Rozdział II (art. 5) - praktyki zakazane.
  • Rozdział III (art. 6-49) - systemy wysokiego ryzyka.
  • Rozdział IV (art. 50) - obowiązki transparentności dla niektórych systemów AI.
  • Rozdział V (art. 51-56) - GPAI.
  • Rozdział VI (art. 57-63) - sandbox i wsparcie innowacji.
  • Rozdział VII (art. 64-70) - governance (AI Office, AI Board).
  • Rozdział IX-XI (art. 79-98) - monitoring, kary, prawo do skargi.
  • Załączniki: I (produkty regulowane), II (kary, alternatywne wartości), III (przypadki wysokiego ryzyka), IV-XII (techniczne).

Zakres podmiotowy i terytorialny

AI Act stosuje się szeroko - ekstraterytorialnie, analogicznie do RODO.

Role w AI Act

Rozporządzenie definiuje cztery główne role:

  1. Provider (dostawca) - rozwijający system AI lub modyfikujący go pod swoją marką. Główny adresat obowiązków.
  2. Deployer (użytkownik) - używa system AI we własnej działalności (poza użytkiem osobistym).
  3. Importer - wprowadza system AI z państw trzecich na rynek UE.
  4. Distributor - inny niż dostawca/importer udostępniający system w łańcuchu dystrybucji.

Zakres terytorialny (art. 2)

AI Act stosuje się do:

  • Dostawców wprowadzających systemy AI na rynek UE, niezależnie od miejsca siedziby.
  • Użytkowników (deployerów) z siedzibą lub lokalizacją w UE.
  • Dostawców i użytkowników z państw trzecich, gdy wyniki systemu AI są używane w UE.
  • Importerów i dystrybutorów systemów AI w UE.

Wyłączenia (art. 2 ust. 3-12)

  • Systemy AI do celów wojskowych, obrony, bezpieczeństwa narodowego.
  • Badania, rozwój i prototypowanie przed wprowadzeniem na rynek.
  • Działalność osobista o charakterze niekomercyjnym.
  • Niektóre systemy open-source (z wyjątkami).
  • Działalność organów ścigania na podstawie umów międzynarodowych.

4 poziomy ryzyka

AI Act klasyfikuje systemy AI w czterech poziomach ryzyka:

1. Ryzyko nieakceptowalne - ZAKAZANE

Praktyki AI niezgodne z fundamentalnymi prawami i wartościami UE. 8 praktyk zakazanych (art. 5) - szczegóły w osobnym rozdziale poniżej.

2. Ryzyko wysokie - REGULOWANE

Systemy AI z dwóch grup (art. 6):

  • Załącznik I - AI jako komponenty bezpieczeństwa produktów regulowanych unijnie (urządzenia medyczne, motoryzacja, lotnictwo, dźwigi, zabawki).
  • Załącznik III - 8 obszarów wysokiego ryzyka (biometria, infrastruktura krytyczna, edukacja, zatrudnienie/HR, dostęp do usług, ściganie, migracja, sprawiedliwość).

Obowiązki: ocena zgodności, dokumentacja techniczna, system zarządzania jakością, post-market monitoring, rejestracja w bazie UE, oznaczenie CE.

3. Ryzyko ograniczone - TRANSPARENTNOŚĆ

Niektóre systemy AI wymagają obowiązków transparentności (art. 50):

  • Chatboty - użytkownik musi wiedzieć, że rozmawia z AI.
  • Treści generowane przez AI (deepfake, obrazy, audio, wideo) - obowiązek oznaczenia.
  • Systemy rozpoznawania emocji i kategoryzacji biometrycznej - informacja dla osób.

4. Ryzyko minimalne - WOLNE

Większość systemów AI (np. filtry antyspamowe, AI w grach, automatyczna korekta) - brak specjalnych obowiązków poza ogólnymi przepisami (RODO, prawo konsumenckie).

GPAI - osobna kategoria

General-purpose AI (model[13]e bazowe, foundation models) - mają osobne obowiązki, niezależnie od klasyfikacji ryzyka konkretnego zastosowania. Szczegóły w osobnym rozdziale.

8 praktyk zakazanych (art. 5)

Od 2 lutego 2025 r. art. 5 AI Act zakazuje 8 praktyk wykorzystania AI:

1. Manipulacja podświadoma

Systemy wdrażające techniki podświadome, manipulacyjne lub wprowadzające w błąd, z celem lub skutkiem znaczącego zniekształcania zachowania osoby i powodowania jej lub innej osobie znaczącej szkody.

2. Wykorzystywanie podatności

Systemy wykorzystujące podatności konkretnych grup osób ze względu na wiek, niepełnosprawność, sytuację społeczno-ekonomiczną - dla zniekształcenia ich zachowania.

3. Soc[20]ial scoring przez podmioty publiczne

Klasyfikacja osób na podstawie zachowania lub cech osobowych z dyskryminacją lub nieproporcjonalnym traktowaniem. Wzorowane na chińskim "social credit system".

4. Predictive policing

Ocena ryzyka popełnienia przestępstwa przez konkretną osobę wyłącznie na podstawie profilowania lub oceny cech osobowych.

5. Nieukierunkowane scrapowanie wizerunków

Tworzenie lub rozszerzanie baz rozpoznawania twarzy przez nieukierunkowane scrapowanie zdjęć z internetu lub CCTV. Wprost wymierzone w Clearview AI i podobne firmy.

6. Rozpoznawanie emocji w pracy i edukacji

Systemy emotion recognition w miejscu pracy lub instytucjach edukacyjnych - z wyjątkami dla celów medycznych lub bezpieczeństwa.

7. Kategoryzacja biometryczna wrażliwych atrybutów

Systemy biometryczne kategoryzujące osoby według wrażliwych atrybutów: rasy, poglądów politycznych, przekonania religijne, orientacja seksualna, członkostwo w związku zawodowym.

8. Zdalna identyfikacja biometryczna real-time

Real-time remote biometric identification w miejscach publicznie dostępnych przez organy ścigania - z wąskimi wyjątkami (poszukiwanie ofiar przestępstw, zapobieganie atakom terrorystycznym, ściganie podejrzanych o ciężkie przestępstwa).

Konsekwencje naruszenia

Praktyki zakazane są podstawą dla najwyższych kar AI Act - do 35 mln EUR lub 7% rocznego światowego obrotu (wyższa z kwot).

Systemy wysokiego ryzyka

Systemy wysokiego ryzyka to drugi co do surowości reżim AI Act. Klasyfikacja w dwóch grupach:

Załącznik I - produkty regulowane UE

Systemy AI używane jako komponenty bezpieczeństwa produktów regulowanych przez wymienione akty prawa UE:

  • Urządzenia medyczne (rozporządzenie 2017/745 MDR, 2017/746 IVDR).
  • Motoryzacja - homologacja typu pojazdu (rozporządzenie 2018/858).
  • Lotnictwo (rozporządzenie EASA).
  • Zabawki (dyrektywa 2009/48).
  • Dźwigi i podnośniki (dyrektywa 2014/33).
  • Maszyny (dyrektywa 2006/42, rozporządzenie 2023/1230).
  • Sprzęt morski, kolejowy.

Stosowanie - od 2 sierpnia 2027 r.

Załącznik III - 8 obszarów wysokiego ryzyka

Stosowanie - od 2 sierpnia 2026 r.

1. Biometria

  • Zdalna identyfikacja biometryczna (poza wyjątkami zakazanymi z art. 5).
  • Klasyfikacja biometryczna na podstawie wrażliwych atrybutów.
  • Rozpoznawanie emocji.

2. Infrastruktura krytyczna

AI używana w zarządzaniu i eksploatacji infrastruktury cyfrowej, transportu, dostawców gazu, wody, ciepła, energii.

3. Edukacja i szkolenia zawodowe

  • AI determinujący dostęp do edukacji.
  • AI oceniający wyniki uczenia.
  • AI oceniający poziom edukacyjny.
  • AI monitorujący zakazane zachowania podczas testów.

4. Zatrudnienie i HR

  • AI w rekrutacji i selekcji (CV screening, ATS z AI).
  • AI podejmujący decyzje wpływające na warunki pracy.
  • AI w awansach lub rozwiązywaniu stosunku pracy.
  • AI monitorujący wydajność i zachowanie pracowników.
  • AI w przydzielaniu zadań na platformach (gig economy).

5. Dostęp do usług prywatnych i publicznych

  • Credit scoring (AI oceniający zdolność kredytową).
  • AI w ubezpieczeniach (z wyjątkami dla niektórych typów).
  • AI w dostępie do świadczeń publicznych.
  • AI w priorytetyzacji służb ratunkowych (dispatch).

6. Egzekwowanie prawa

  • Ocena ryzyka osoby przez organy ścigania (poza zakazaną w art. 5).
  • AI w analizie kryminalistycznej.
  • AI w profilowaniu w postępowaniu karnym.

7. Migracja, azyl, kontrola graniczna

  • AI w wnioskach o azyl, wizach, zezwoleniach na pobyt.
  • AI w ocenie wiarygodności dowodów.
  • AI w kontrolach granicznych.

8. Wymiar sprawiedliwości i procesy demokratyczne

  • AI w badaniu i interpretacji prawa.
  • AI w alternative dispute resolution.
  • AI wpływający na wynik wyborów lub zachowanie wyborców.

Wyjątki

System AI w obszarach załącznika III nie jest wysokiego ryzyka, jeśli (art. 6 ust. 3): nie stwarza istotnego ryzyka szkody, służy tylko ograniczonej, proceduralnej funkcji, lub ulepsza wynik wcześniejszej działalności człowieka, lub wykrywa wzorce decyzyjne bez wpływu na ocenę bez przeglądu człowieka, lub wykonuje przygotowawcze zadania. Wymaga udokumentowania.

Obowiązki dostawców systemów wysokiego ryzyka

Art. 8-15 AI Act definiuje szczegółowe obowiązki dostawców (providerów) systemów wysokiego ryzyka:

  1. System zarządzania ryzykiem (art. 9) - udokumentowany, iteracyjny, obejmujący cały cykl życia.
  2. Dane i zarządzanie danymi (art. 10) - zestawy danych treningowych, walidacyjnych i testowych. Wymogi: reprezentatywność, brak błędów, anonimizacja gdy możliwa, dokumentacja źródeł.
  3. Dokumentacja techniczna (art. 11) - przed wprowadzeniem na rynek, zgodnie z załącznikiem IV. Aktualizacja przez cały cykl życia.
  4. Rejestrowanie zdarzeń (logowanie) (art. 12) - automatyczne logi umożliwiające monitorowanie i identyfikację ryzyka.
  5. Transparentność (art. 13) - instrukcje dla użytkownika (deployera) zawierające informacje o funkcjach, ograniczeniach, ryzykach.
  6. Nadzór człowieka (art. 14) - human oversight projektowany w systemie. Człowiek musi móc interweniować, zatrzymać, zignorować output.
  7. Dokładność, odporność, cyberbezpieczeństwo (art. 15) - system musi być odporny na błędy, awarie, niezgodności i ataki cybernetyczne.
  8. System zarządzania jakością (art. 17) - QMS obejmujący strategię, governance, dokumentację.
  9. Ocena zgodności (art. 43) - przed wprowadzeniem na rynek. Typowo self-assessment, dla niektórych przypadków (biometria) - przez notified body.
  10. Deklaracja zgodności UE i oznaczenie CE (art. 47-48).
  11. Rejestracja w bazie UE (art. 49) - publiczna baza systemów AI wysokiego ryzyka.
  12. Post-market monitoring (art. 72) - aktywne monitorowanie po wprowadzeniu na rynek, raportowanie poważnych incydentów do organów nadzoru.
  13. Raportowanie poważnych incydentów (art. 73) - do 15 dni (w niektórych przypadkach 2 dni).

Notified bodies

Akredytowane jednostki oceny zgodności wykonują ocenę zgodności dla niektórych systemów (głównie biometria) - bardziej rygorystyczna procedura niż self-assessment.

Obowiązki użytkowników (deployers)

Użytkownik (deployer) - podmiot używający systemu AI we własnej działalności. Obowiązki (art. 26):

  1. Używanie zgodnie z instrukcjami dostawcy.
  2. Zapewnienie nadzoru człowieka - jak zaprojektowano przez dostawcę.
  3. Monitoring systemu, weryfikacja outputs.
  4. Logowanie - przechowywanie logów min. 6 miesięcy.
  5. Informowanie pracowników przed wdrożeniem systemu AI wysokiego ryzyka w miejscu pracy.
  6. Informowanie osób, których dotyczy system AI (np. kandydatów do pracy, klientów ubiegających się o kredyt).
  7. Fundamental Rights Impact Assessment (FRIA, art. 27) - dla niektórych użytkowników (podmiotów publicznych, dostawców usług publicznych) przed pierwszym użyciem systemu AI wysokiego ryzyka.
  8. Współpraca z organami nadzoru.
  9. Raportowanie incydentów dostawcy i organom nadzoru.

FRIA (Fundamental Rights Impact Assessment)

Analogicznie do DPIA z RODO. Obowiązkowa dla użytkowników będących podmiotami publicznymi lub świadczących usługi publiczne (banki, ubezpieczyciele w niektórych przypadkach). Ocena obejmuje:

  • Zakres procesów decyzyjnych z udziałem AI.
  • Okres używania.
  • Kategorie osób dotkniętych.
  • Ryzyko dla praw podstawowych.
  • Środki nadzoru człowieka.
  • Plan reagowania w razie ryzyka.

GPAI - general-purpose AI

Rozdział V (art. 51-56) AI Act wprowadza specjalny reżim dla modeli AI ogólnego przeznaczenia - GPT, Claude, Gemini, LLaMA, Mistral i podobne. Stosowanie od 2 sierpnia 2025 r.

Definicja GPAI

Model AI wytrenowany na dużym zbiorze danych z użyciem dużej skali samouczenia, wykazujący znaczącą ogólność i zdolny wykonywać szeroką gamę różnych zadań. Może być integrowany w wielu systemach downstream.

Dwa poziomy obowiązków

1. Standardowe GPAI

Obowiązki (art. 53):

  • Dokumentacja techniczna modelu - architektura, parametry, dane treningowe (źródła, rozmiar, charakterystyka).
  • Informacja dla dostawców downstream - integratorzy modelu w swoich produktach muszą rozumieć możliwości i ograniczenia.
  • Polityka praw autorskich - jak respektowane są utwory chronione prawem autorskim w trenowaniu (zwłaszcza opt-out z art. 4 dyrektywy DSM 2019/790).
  • Podsumowanie treści treningowych - publiczne, w szablonie określonym przez AI Office.
  • Współpraca z AI Office.

2. GPAI z ryzykiem systemowym

Klasyfikowane jako "z ryzykiem systemowym" gdy moc obliczeniowa trenowania przekracza 10^25 FLOPs (operacji zmiennoprzecinkowych). Aktualnie odpowiada modelom GPT-4, Claude 3, Gemini Ultra i podobnym.

Dodatkowe obowiązki (art. 55):

  • Ocena modelu - model evaluation, w tym adversarial[10] testing.
  • Ocena ryzyka systemowego i mityacja.
  • Raporty incydentów do AI Office i krajowych organów - serious incidents.
  • Cyberbezpieczeństwo - polityka, środki, ochrona przed wyciekiem wag modelu.
  • Ochrona przed jailbreakami i misuse.
  • Plan reagowania na incydenty.

Code of Practice dla GPAI

AI Office koordynuje opracowanie Code of Practice dla GPAI - dobrowolne ramy implementacji, opracowane wspólnie z głównymi dostawcami (OpenAI, Anthropic, Google, Meta) i ekspertami zewnętrznymi. Dostawcy podpisujący Code mają prezumpcję zgodności.

Open-source GPAI

GPAI udostępniane na licencjach open-source (z otwartą wagą, transparentnymi parametrami) mają uproszczone obowiązki - z wyjątkiem GPAI z ryzykiem systemowym, dla których pełne obowiązki obowiązują niezależnie od licencji.

AI Literacy (art. 4)

Art. 4 AI Act - od 2 lutego 2025 r. dostawcy i użytkownicy systemów AI muszą zapewnić wystarczający poziom AI literacy pracowników i innych osób operujących systemami AI w ich imieniu.

Co to AI literacy

Praktyczna znajomość obejmująca:

  • Jak działają systemy AI (uczenie maszynowe, deep learning).
  • Jakie mają możliwości i ograniczenia.
  • Jak rozpoznać błędne dane wyjściowe (halucynacje, biased outputs).
  • Jak rozumieć ryzyka prywatności i bezpieczeństwa (prompt injection, data leakage).
  • Jak interpretować wyniki w kontekście decyzji biznesowych.
  • Etyka AI i odpowiedzialność.

Zakres obowiązku

Obowiązek wszechobecny:

  • Dotyczy każdej organizacji używającej AI - od korporacji po małe biuro używające ChatGPT.
  • Skala szkolenia proporcjonalna do ryzyka - inżynier ML w startup AI vs analityk używający Copilot w pracy biurowej.
  • Brak konkretnych norm szkoleniowych - elastyczność, jak realizować.

Praktyczna implementacja

Typowe podejścia:

  • Moduł AI w szkoleniach security awareness - integracja z istniejącymi szkoleniami (zob. Security Awareness).
  • Polityka użycia AI w organizacji - co wolno, co nie wolno (np. zakaz wprowadzania danych poufnych do publicznych LLM).
  • Cykliczne aktualizacje - AI rozwija się szybko, szkolenia muszą być aktualizowane min. raz w roku.
  • Dokumentacja - lista uczestników szkoleń, certyfikaty ukończenia, daty.
  • Specjalizowane szkolenia dla ról krytycznych - inżynierowie ML, analitycy bezpieczeństwa AI, prawnicy.

Konsekwencje braku AI literacy

Bezpośrednia kara z AI Act jest ograniczona, ale brak AI literacy ma poważne konsekwencje:

  • Wzrost ryzyka incydentów (data leakage, prompt injection).
  • Zwiększone ryzyko stwierdzenia "winy organizacyjnej" w razie incydentu z AI.
  • Niewystarczająca podstawa dla zatrudniania AI w organizacji.
  • Wpływ na ocenę "due diligence" w razie kontroli.

Sandbox regulacyjne

Art. 57-63 AI Act wprowadza obowiązkowy AI Regulatory Sandbox w każdym państwie członkowskim. Termin uruchomienia - 2 sierpnia 2026 r.

Co to sandbox

Środowisko testowe, w którym dostawcy AI mogą:

  • Testować innowacyjne systemy AI pod nadzorem regulatora.
  • Otrzymywać indywidualne wytyczne regulacyjne.
  • Korzystać z elastyczniejszego podejścia do niektórych wymogów AI Act (z zachowaniem podstawowych praw).
  • Prowadzić realne testy przed wprowadzeniem na rynek.

Cele sandbox

  • Wsparcie innowacji.
  • Lepsza interpretacja regulacji w praktycznych przypadkach.
  • Dialog regulator-innowator.
  • Ułatwienie dla MŚP (priorytetowy dostęp, niższe opłaty).

Polska implementacja

W Polsce na maj 2026 r. - sandbox w trakcie projektowania. Prawdopodobnie pod Ministerstwem Cyfryzacji. Pierwsze uruchomienie - druga połowa 2026 r.

Sankcje i AI Office

Trzy progi kar

Art. 99 AI Act wprowadza trzy progi kar dla podmiotów (dostawców i użytkowników):

Najwyższy próg - praktyki zakazane

Naruszenie art. 5 (praktyki zakazane): do 35 mln EUR lub 7% rocznego światowego obrotu. Wyższa z kwot.

To najwyższe kary w europejskim prawie - wyższe niż RODO (20 mln EUR / 4%) i NIS2 (10 mln EUR / 2%).

Średni próg - większość pozostałych obowiązków

Naruszenia większości pozostałych obowiązków (art. 6-49, 64-98): do 15 mln EUR lub 3% obrotu.

Niższy próg - nieprawdziwe informacje

Podanie nieprawdziwych, niekompletnych lub mylących informacji organom nadzoru: do 7,5 mln EUR lub 1,5% obrotu.

Specjalne kary dla GPAI (art. 101)

Dla dostawców GPAI - kary do 3% rocznego światowego obrotu lub 15 mln EUR. Dla OpenAI to byłyby setki milionów USD.

Specjalne kary dla MŚP

Małe i średnie przedsiębiorstwa - kary obniżone (z minimum kwoty zamiast maximum).

AI Office

European AI Office [3] - organ koordynacyjny w Komisji Europejskiej (DG CNECT). Funkcje:

  • Nadzór nad GPAI - bezpośredni nadzór nad dostawcami GPAI.
  • Koordynacja między państwami członkowskimi.
  • Wytyczne i Code of Practice.
  • Wsparcie sandbox i innowacji.
  • Współpraca międzynarodowa (USA, UK, OECD).

Organy krajowe

Każde państwo członkowskie wyznacza:

  • Notifying authority - notyfikuje notified bodies.
  • Market surveillance authority - nadzór rynkowy, kontrole.
  • Single contact point dla ENISA, AI Office.

W Polsce decyzja o organach jest w procedowaniu - prawdopodobnie podział kompetencji między Ministerstwo Cyfryzacji (koordynacja), PUODO (biometria), KNF (AI w finansach), Ministerstwo Zdrowia (AI medyczna).

AI Board

European Artificial Intelligence Board - organ doradczy złożony z przedstawicieli państw członkowskich, ENISA, EDPS i AI Office. Wytyczne, opinie, koordynacja.

Mapping do RODO, NIS2, ISO 42001

AI Act vs RODO

Komplementarne. AI Act reguluje systemy AI niezależnie od typu danych. RODO [2] reguluje przetwarzanie danych osobowych niezależnie od technologii. Większość systemów AI używa danych osobowych - oba regulacje stosują się łącznie.

Punkty styku:

  • Trening AI na danych osobowych - wymaga podstawy prawnej RODO i DPIA.
  • Profilowanie i decyzje automatyczne - art. 22 RODO + obowiązki AI Act.
  • Biometria - AI Act zakazy + RODO art. 9.
  • Transparentność - klauzula informacyjna RODO + obowiązki transparentności AI Act art. 50.

Zob. artykuł o RODO.

AI Act vs NIS2

Dostawcy GPAI często są również podmiotami NIS2 jako dostawcy infrastruktury cyfrowej lub cloud computing [7]. Cyberbezpieczeństwo modelu AI = AI Act art. 15 + NIS2 art. 21. Zob. artykuł o NIS2.

AI Act vs ISO/IEC 42001

ISO/IEC 42001:2023 [6] - AI Management System. To pierwsza norma międzynarodowa dla systemu zarządzania AI. Daje strukturę implementacyjną wymagań AI Act:

  • System zarządzania ryzykiem AI.
  • Polityki AI.
  • Cykl PDCA dla AI governance.
  • Dokumentacja.

Certyfikacja ISO/IEC 42001 nie jest wymagana przez AI Act, ale znacznie ułatwia dowodzenie zgodności - analogicznie do roli ISO 27001 dla RODO i KSC.

AI Act vs NIST AI RMF

NIST AI Risk Management Framework [5] - amerykański framework zarządzania ryzykiem AI. Dobrowolny w USA, ale używany globalnie jako referencja. Kompatybilny z AI Act i ISO 42001.

AI Act vs DSA

Digital Services Act [8] reguluje platformy cyfrowe. Algorytmy rekomendacyjne na platformach (VLOPs) - regulowane przez DSA + AI Act dla systemów wysokiego ryzyka.

Checklist: 10 punktów AI Act compliance

Lista dla każdej organizacji używającej AI. Bazowa lista, niezależnie od wielkości i poziomu ryzyka.

  1. Inwentarz AI w organizacji. Lista wszystkich systemów AI używanych (w tym SaaS jak ChatGPT, Copilot, Gemini). Klasyfikacja ryzyka.
  2. AI literacy dla pracowników (od 2.02.2025). Szkolenia, dokumentacja uczestników. Aktualizacje min. raz w roku.
  3. Polityka użycia AI w organizacji - co wolno, co nie, dane wrażliwe (zakaz w publicznych LLM), bezpieczne kanały.
  4. Praktyki zakazane sprawdzone (art. 5). Czy żaden z używanych systemów nie wpada w 8 zakazów?
  5. Systemy wysokiego ryzyka zidentyfikowane. Czy używamy AI w obszarach załącznika III (HR, kredyt, biometria, edukacja)?
  6. Obowiązki dostawcy jeśli sami tworzymy AI - system zarządzania ryzykiem, dokumentacja, ocena zgodności.
  7. Obowiązki użytkownika - FRIA jeśli podmiot publiczny, informacja dla pracowników i klientów.
  8. Transparentność (art. 50) - oznaczanie chatbotów, deepfake'ów, treści AI.
  9. Mapping do RODO - klauzula informacyjna obejmująca AI, DPIA dla profilowania.
  10. Plan dla GPAI - jak organizacja będzie używać GPAI bezpiecznie, zgodnie z prawami autorskimi i polityką.

Najczęściej zadawane pytania

Co to AI Act?

AI Act to rozporządzenie Parlamentu Europejskiego i Rady UE 2024/1689 z 13 czerwca 2024 r. ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji. To pierwsza na świecie kompleksowa regulacja AI.

Główne założenia:

  • Podejście oparte na ryzyku - regulacja proporcjonalna do potencjalnych szkód.
  • Klasyfikacja systemów AI w 4 poziomach ryzyka.
  • Zakaz praktyk niedopuszczalnych.
  • Szczegółowe obowiązki dla systemów wysokiego ryzyka.
  • Osobny rozdział dla GPAI.

AI Act wszedł w życie 1 sierpnia 2024 r. z fazowym stosowaniem do 2027 r.

Kiedy AI Act obowiązuje?

Wejście w życie - 1 sierpnia 2024 r. Stosowanie fazowe:

  • 2 lutego 2025 - praktyki zakazane (art. 5) + AI literacy (art. 4).
  • 2 sierpnia 2025 - GPAI, AI Office, organy krajowe, kary.
  • 2 sierpnia 2026 - większość pozostałych obowiązków (systemy wysokiego ryzyka z załącznika III, transparentność).
  • 2 sierpnia 2027 - systemy wysokiego ryzyka z załącznika I.

To 36 miesięcy fazowego wprowadzania.

Co to AI literacy?

Art. 4 AI Act wymaga, by dostawcy i użytkownicy systemów AI zapewnili wystarczający poziom AI literacy pracowników i innych osób operujących systemami AI w ich imieniu.

AI literacy to praktyczna znajomość:

  • Jak działają systemy AI.
  • Jakie mają możliwości i ograniczenia.
  • Jak rozpoznać błędne dane wyjściowe.
  • Jak rozumieć ryzyka prywatności i bezpieczeństwa.
  • Jak interpretować wyniki.

Wymóg obowiązuje od 2 lutego 2025 r. dla wszystkich podmiotów używających AI. Praktycznie: szkolenia security awareness powinny zawierać moduł AI.

Co to system wysokiego ryzyka?

System wysokiego ryzyka to system AI z dwóch grup (art. 6):

  1. Załącznik I - systemy AI jako komponenty produktów regulowanych (medical devices, motoryzacja, lotnictwo, zabawki).
  2. Załącznik III - systemy AI w 8 obszarach: biometria, infrastruktura krytyczna, edukacja, zatrudnienie i HR, dostęp do usług, egzekwowanie prawa, migracja, wymiar sprawiedliwości.

Praktyczne przykłady: credit scoring, AI w rekrutacji, AI w klasyfikacji emocji pracowników, biometria do identyfikacji. Dostawcy mają liczne obowiązki: ocena zgodności, rejestracja w bazie UE, system zarządzania jakością, monitoring po wdrożeniu.

Jakie praktyki są zakazane?

Art. 5 AI Act wymienia 8 zakazanych praktyk od 2 lutego 2025 r.:

  1. Manipulacja zachowaniem przez techniki podświadome.
  2. Wykorzystywanie podatności konkretnych grup.
  3. Social scoring przez podmioty publiczne.
  4. Predictive policing wyłącznie na podstawie profilowania.
  5. Tworzenie baz rozpoznawania twarzy przez nieukierunkowane scrapowanie.
  6. Rozpoznawanie emocji w miejscu pracy lub edukacji.
  7. Kategoryzacja biometryczna według wrażliwych atrybutów.
  8. Zdalna identyfikacja biometryczna w czasie rzeczywistym przez organy ścigania (z wąskimi wyjątkami).
Czy mała firma używająca ChatGPT podlega AI Act?

Tak, w pewnym zakresie. Firma używająca ChatGPT jest użytkownikiem (deployer) systemu AI.

Obowiązki:

  1. AI literacy (art. 4) - obowiązkowe szkolenia.
  2. Transparentność wobec klientów - jeśli używasz chatbota, klient musi wiedzieć.
  3. Etykiety dla treści generowanej AI.
  4. Nie używać do praktyk zakazanych z art. 5.
  5. Jeśli wdrażasz system wysokiego ryzyka - dodatkowe obowiązki.

Mała firma używająca ChatGPT do tworzenia treści marketingowych - obowiązki głównie wokół AI literacy i transparentności.

Co to GPAI?

GPAI (General-Purpose AI) - modele AI ogólnego przeznaczenia, wytrenowane na dużych zbiorach danych, zdolne do wielu zadań (np. GPT-4, Claude, Gemini, LLaMA).

AI Act art. 51-56 wprowadza dwa poziomy obowiązków:

  1. Standardowe GPAI - obowiązki transparentności, polityka praw autorskich, podsumowanie treści treningowych.
  2. GPAI z systemowym ryzykiem - dodatkowe obowiązki gdy moc obliczeniowa przekracza próg 10^25 FLOPs - ocena modelu, raporty incydentów, cyberbezpieczeństwo.

Aktualnie obejmują: OpenAI, Anthropic, Google, Meta, Mistral, Cohere.

Jakie kary za AI Act?

AI Act art. 99 wprowadza trzy progi kar:

  1. Do 35 mln EUR lub 7% rocznego światowego obrotu - za naruszenia art. 5 (praktyki zakazane).
  2. Do 15 mln EUR lub 3% obrotu - za większość pozostałych obowiązków.
  3. Do 7,5 mln EUR lub 1,5% obrotu - za nieprawdziwe informacje.

To najwyższe kary w europejskim prawie - wyższe niż RODO (20 mln EUR / 4%).

Dla GPAI kary do 3% globalnego obrotu - dla OpenAI to byłyby setki milionów USD.

Sandbox - jak skorzystać?

AI Act art. 57-63 wprowadza obowiązkowy AI Regulatory Sandbox w każdym państwie członkowskim. Sandbox to środowisko, w którym dostawcy AI mogą testować innowacyjne systemy pod nadzorem regulatora.

Cele: wsparcie innowacji, lepsza interpretacja regulacji, dialog regulator-innowator.

W Polsce sandbox będzie prowadzony przez organ wyznaczony do nadzoru AI Act (prawdopodobnie Ministerstwo Cyfryzacji) - decyzja jest w toku.

Korzyści: kontrolowane środowisko testowe, indywidualne wytyczne, redukcja ryzyka prawnego. Dla MŚP - dodatkowe ułatwienia.

AI Act vs RODO?

Komplementarne. AI Act reguluje systemy AI niezależnie od typu danych. RODO reguluje przetwarzanie danych osobowych. Większość systemów AI używa danych osobowych - oba regulacje stosują się łącznie.

Punkty styku:

  • Trening AI na danych osobowych - wymaga podstawy RODO i DPIA.
  • Profilowanie i decyzje automatyczne - art. 22 RODO + obowiązki AI Act.
  • Biometria - AI Act zakazy + RODO art. 9.
  • Transparentność - klauzula RODO + obowiązki AI Act.

Organizacja używająca AI musi spełniać obie regulacje równolegle.

Kto nadzoruje AI Act w Polsce?

Na poziomie europejskim - AI Office w Komisji Europejskiej, DG CNECT. Odpowiada za nadzór nad GPAI, koordynację, wytyczne.

Na poziomie krajowym - każde państwo członkowskie wyznacza organy nadzoru. W Polsce na maj 2026 r. ustawa transponująca AI Act jest w procedowaniu. Rozważane opcje:

  • Utworzenie nowego organu (Komisja ds. AI).
  • Rozszerzenie kompetencji Ministerstwa Cyfryzacji lub PUODO.
  • Podział kompetencji między istniejące organy (PUODO, KNF, MZ, MC jako koordynator).

Decyzja zostanie ogłoszona w ustawie wykonawczej.

Czy chatbot na stronie wymaga rejestracji?

Zwykły chatbot informacyjny (FAQ, wsparcie klienta) nie wymaga rejestracji - to nie jest system wysokiego ryzyka.

Wymaga jednak:

  1. Transparentność (art. 50) - użytkownik musi wiedzieć, że rozmawia z AI.
  2. AI literacy (art. 4) - pracownicy zarządzający chatbotem.
  3. Obowiązki RODO - jeśli przetwarza dane osobowe.

Chatbot wymaga rejestracji, jeśli świadczy decyzje kwalifikujące jako wysokoryzykowe - np. chatbot oceniający kandydatów do pracy lub klasyfikujący wnioski o kredyt. Wtedy: ocena zgodności, dokumentacja techniczna, monitoring, oznaczenie CE.

Potrzebujesz konsultacji w zakresie AI Act?

Bezpłatna 30-60 minutowa konsultacja. Bez zobowiązań. Sprawdzamy status AI w organizacji, mapujemy obowiązki, omawiamy plan dla AI literacy i polityki użycia AI.

Zadzwoń: +48 691 122 312 office@4crypto.eu

Powiązane treści

Compliance i regulacje

Usługi związane

Bibliografia i źródła

Wszystkie cytowane źródła są publicznie dostępne. Rozporządzenia UE, wytyczne ENISA i normy ISO odsyłają do oryginalnych dokumentów.

  1. [1]regulationParlament Europejski, Rada UE (2024). Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji (AI Act). Dz.U. UE L · https://eur-lex.europa.eu/eli/reg/2024/1689/oj
  2. [2]regulationParlament Europejski, Rada UE (2016). Rozporządzenie (UE) 2016/679 (RODO). Dz.U. UE L 119, 4.5.2016 · https://eur-lex.europa.eu/eli/reg/2016/679/oj
  3. [3]guidelineKomisja Europejska, DG CNECT (2024). AI Office - European AI Office, organ koordynacyjny ds. AI Act · https://digital-strategy.ec.europa.eu/en/policies/ai-office
  4. [4]reportEuropean Union Agency for Cybersecurity (ENISA) (2024). ENISA Threat Landscape for Artificial Intelligence · https://www.enisa.europa.eu/publications/artificial-intelligence-cybersecurity-challenges
  5. [5]standardNational Institute of Standards and Technology (NIST) (2023). NIST AI Risk Management Framework (AI RMF 1.0) · https://www.nist.gov/itl/ai-risk-management-framework
  6. [6]standardISO/IEC (2023). ISO/IEC 42001:2023 - Information technology - Artificial intelligence - Management system · https://www.iso.org/standard/81230.html
  7. [7]regulationParlament Europejski, Rada UE (2022). Dyrektywa Parlamentu Europejskiego i Rady (UE) 2022/2555 (NIS2). Dz.U. UE L 333, 27.12.2022 · https://eur-lex.europa.eu/eli/dir/2022/2555/oj
  8. [8]regulationParlament Europejski, Rada UE (2022). Rozporządzenie (UE) 2022/2065 - Digital Services Act (DSA). Dz.U. UE L · https://eur-lex.europa.eu/eli/reg/2022/2065/oj
  9. [9]standardNational Institute of Standards and Technology (NIST) (2024). AI 600-1: Artificial Intelligence Risk Management Framework - Generative AI Profile. NIST. DOI: 10.6028/NIST.AI.600-1 · https://doi.org/10.6028/NIST.AI.600-1
  10. [10]standardVassilev, A., Oprea, A., Fordyce, A., Anderson, H. (2024). NIST AI 100-2 E2024: Adversarial Machine Learning - A Taxonomy and Terminology of Attacks and Mitigations. NIST. DOI: 10.6028/NIST.AI.100-2e2024 · https://doi.org/10.6028/NIST.AI.100-2e2024
  11. [11]standardInternational Organization for Standardization (2023). ISO/IEC 23894:2023 - Guidance on risk management for AI systems. ISO/IEC · https://www.iso.org/standard/77304.html
  12. [12]reportEuropean Union Agency for Cybersecurity (ENISA) (2023). Multilayer Framework for Good Cybersecurity Practices for AI. ENISA · https://www.enisa.europa.eu/publications/multilayer-framework-for-good-cybersecurity-practices-for-ai
  13. [13]reportEuropean Union Agency for Cybersecurity (ENISA) (2021). Securing Machine Learning Algorithms. ENISA · https://www.enisa.europa.eu/publications/securing-machine-learning-algorithms
  14. [14]standardSouppaya, M., Scarfone, K., Dodson, D. (2022). NIST SP 800-218: Secure Software Development Framework (SSDF) Version 1.1. NIST. DOI: 10.6028/NIST.SP.800-218 · https://doi.org/10.6028/NIST.SP.800-218
  15. [15]standardInternational Organization for Standardization (2022). ISO/IEC 27001:2022 - Information security management systems - Requirements. ISO/IEC · https://www.iso.org/standard/27001
  16. [16]reportEuropean Union Agency for Cybersecurity (ENISA) (2023). Foresight Cybersecurity Threats for 2030. ENISA · https://www.enisa.europa.eu/publications/enisa-foresight-cybersecurity-threats-for-2030
  17. [17]reportCrowdStrike (2024). 2024 CrowdStrike Global Threat Report. CrowdStrike · https://www.crowdstrike.com/global-threat-report/
  18. [18]reportMicrosoft (2024). Microsoft Digital Defense Report 2024. Microsoft Threat Intelligence · https://www.microsoft.com/en-us/security/security-insider/microsoft-digital-defense-report-2024
  19. [19]standardMITRE Corporation (2024). MITRE ATT&CK Framework v15 (Enterprise, Mobile, ICS). MITRE · https://attack.mitre.org/
  20. [20]peer-reviewedVielberth, M., B�hm, F., Fichtinger, I., Pernul, G. (2020). Security Operations Center: A Systematic Study and Open Challenges. IEEE Access, vol. 8, pp. 227756-227779. DOI: 10.1109/ACCESS.2020.3045514 · https://doi.org/10.1109/ACCESS.2020.3045514