13 marca 2024 r. Parlament Europejski poinformował o uchwaleniu rozporządzenia ustanawiającego zharmonizowane przepisy dot. sztucznej inteligencji powszechnie nazywane AI Act. Jest to pierwsza na świecie kompleksowa regulacja mająca na celu ochronę praw podstawowych, demokracji i praworządności przed sztuczną inteligencją wysokiego ryzyka, przy jednoczesnym wspieraniu innowacji w środowisku AI.

Co jest zakazane?
Te zastosowania AI, które zagrażają prawom obywateli – biometryczne systemy kategoryzacji oparte na wrażliwych cechach (np. płeć, rasa, pochodzenie etniczne czy wyznawana religia) oraz rozpoznawania emocji np. w miejscu pracy czy szkole. Zakazano social scoring (systemów służących do klasyfikacji osób na podstawie ich cech czy zachowań) oraz nieukierunkowanego pobierania wizerunków twarzy z Internetu lub nagrań CCTV w celu tworzenia baz danych twarzy. AI Act przewiduje wyjątki w zakresie wykorzystywania systemów identyfikacji biometrycznej, dla organów ścigania w czasie rzeczywistym np. w sytuacjach poszukiwania osób zaginionych czy zapobiegania atakom terrorystycznym.
Jakie obowiązki przewidziano dla systemów wysokiego ryzyka?
Te systemy należy m. in. wyposażyć w techniczne możliwości automatycznego rejestrowania zdarzeń w trakcie całego cyklu ich życia oraz sporządzić dokumentację techniczną przed wprowadzeniem danego systemu do obrotu lub oddaniem go do użytku. Dokumentacja techniczna ma wykazać, że dany system spełnia wymogi określone w AI Act. Systemy AI wysokiego ryzyka należy projektować w taki sposób, aby zapewniały wystarczającą przejrzystość ich działania, umożliwiającą podmiotom stosującym AI interpretację wyników działania systemu i ich właściwe wykorzystanie. Ponadto, systemy mają być tak zaprojektowane, aby w okresie ich wykorzystywania, mogły je skutecznie nadzorować osoby fizyczne. Z kolei obywatelom zapewniono możliwość składania skarg do odpowiedniego organu nadzoru rynku.
Wymagania dot. przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI
Chodzi m. in. o systemy, które wchodzą w bezpośrednią interakcję z osobami fizycznymi – należy je projektować w taki sposób, aby zainteresowane osoby fizyczne były informowane o tym, że prowadzą interakcję z systemem AI, chyba że jest to oczywiste z punktu widzenia osoby fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu korzystania z AI. Wobec systemów AI, generujących treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu, należy zapewnić, aby wyniki działania systemu AI zostały oznakowane w formacie nadającym się do odczytu maszynowego i były wykrywalne jako sztucznie wygenerowane lub zmanipulowane.
AI Act musi zostać formalnie zatwierdzony przez Radę UE, a wejdzie w życie 20 dni po opublikowaniu w Dzienniku Urzędowym UE.

Treść AI Act dostępna w języku polskim pod linkiem: Akt w sprawie sztucznej inteligencji