Definiowanie incydentów AI i powiązanych terminów – raport OECD
Działająca w ramach Organizacji Współpracy Gospodarczej i Rozwoju (OECD) grupa ekspercka ds. incydentów AI opracowała raport dot. definicji incydentów związanych ze sztuczną inteligencją (AI) oraz powiązanej terminologii.
Grupa dąży do opracowania wspólnego ramowego systemu zgłaszania incydentów AI, umożliwiającego właściwą ocenę szkód i ryzyk w kontekście AI. Ramy te pomogą zidentyfikować kluczowe rodzaje szkód, takie jak fizyczne, środowiskowe, ekonomiczne i reputacyjne, szkody dla interesu publicznego i praw podstawowych. Będą również uwzględniać dodatkowe wymiary szkód, takie jak m. in. poziom dotkliwości, zakres, skala geograficzna.
Należy następnie ustanowić przejrzyste taksonomie do kategoryzowania incydentów według każdego wymiaru szkody. Ocena jak poważny był incydent AI, szkoda, uszkodzenia lub zakłócenia (np. aby określić, czy zdarzenie jest klasyfikowane jako incydent czy poważny incydent) zależy od kontekstu i jest pozostawiona do dalszej dyskusji.
Definicje zawarte w raporcie mają służyć jako podstawa do rozwoju i udoskonalania wspólnego systemu zgłaszania incydentów AI oraz na rzecz inicjatywy OECD AI Incidents Monitor (AIM).
Raport proponuje, aby zdarzenie, w którym rozwój lub wykorzystanie systemu sztucznej inteligencji powoduje rzeczywistą szkodę, określono mianem incydentu AI (AI incident), natomiast zdarzenie, w którym rozwój lub wykorzystanie systemu sztucznej inteligencji jest potencjalnie szkodliwe, określono mianem zagrożenia związanego z AI (AI hazard):
- Incydent AI
To zdarzenie, okoliczność lub seria zdarzeń, w których rozwój, użycie lub awaria jednego lub więcej systemów AI bezpośrednio lub pośrednio prowadzi do jednej z następujących szkód:
– obrażenia lub szkody dla zdrowia osoby lub grupy osób;
– zakłócenia w zarządzaniu i funkcjonowaniu infrastruktury krytycznej;
– naruszenia praw człowieka lub obowiązków wynikających z obowiązującego prawa, mających na celu ochronę praw podstawowych, pracowniczych i własności intelektualnej;
– szkody dla mienia, społeczności lub środowiska.
Definicja ta pokrywa się niemal w całości z definicją „poważnego incydentu” w AI Act (art. 3 pkt 49), które raport traktuje jako podzbiór incydentów AI.
- Zagrożenie AI
To zdarzenie, okoliczność lub seria zdarzeń, w których rozwój, użycie lub awaria jednego lub więcej systemów AI mogłyby prawdopodobnie prowadzić do incydentu AI, tj. jednej ze szkód analogicznych jak dla incydentu AI.
Choć definicje zawarte w raporcie, na szeroką skalę, mają wspierać międzynarodową interoperacyjność, zapewniając jednocześnie jurysdykcjom elastyczność w określaniu zakresu incydentów i zagrożeń, dokument ten jest istotny również dla biznesu, pomagając potencjalnie w ocenie i zarządzaniu ryzykiem związanym z technologiami AI.
Całość raportu dostępna pod linkiem: OECD Artificial Intelligence Papers
