Grupa 272 międzynarodowych ekspertów uszeregowała 24 ryzyka związane ze sztuczną inteligencją, oceniając prawdopodobieństwo, dotkliwość, podatność i odpowiedzialność za przeciwdziałanie (Saeri i in., MIT FutureTech, 2026). Taki ranking i firmowy rejestr ryzyk posługują się podobnym językiem, ale mają inną jednostkę analizy, więc przepisanie listy z jednego do drugiego daje dokument, na podstawie którego trudno cokolwiek zrobić.
Różnica nie polega na tym, że eksperci zajmują się sprawami poważniejszymi. Polega na tym, że kategoria ryzyka to jeszcze nie ekspozycja, ekspozycja to jeszcze nie priorytet, a priorytet to jeszcze nie kontrola z przypisaną odpowiedzialnością.
Kluczowe wnioski
- Badanie objęło 24 ryzyka w siedmiu domenach, oceniane w trzech rundach przez 272 ekspertów; wszystkie rundy ukończyło 214 osób, czyli 79% (Saeri i in., 2026).
- Liczba 272 nie oznacza 272 ocen każdego ryzyka. Eksperci oceniali domeny, w których deklarowali wiedzę, więc efektywne liczebności wynosiły od 34 do 163.
- Wyniki są średnimi subiektywnych rozkładów prawdopodobieństwa, a nie zaobserwowanymi częstościami zdarzeń. Autorzy wprost ostrzegają przed traktowaniem poziomu 10% jako twardego progu.
- Za ograniczanie ryzyka odpowiadają, według badanych, przede wszystkim twórcy modeli ogólnego przeznaczenia i podmioty odpowiedzialne za zarządzanie. W firmowym rejestrze podmiot zewnętrzny nie może jednak pełnić funkcji wewnętrznego właściciela ryzyka, bo organizacja nie ma mandatu do zlecania mu działań.
- Ranking może służyć jako sygnał tematów przyciągających uwagę ekspertów, regulatorów i opinii publicznej. Do zbudowania rejestru potrzeba jeszcze pięciu kroków, których w nim nie ma.
Co dokładnie zmierzono w tym badaniu
Badanie to trzyrundowe studium delfickie przeprowadzone pod koniec 2025 roku, w którym eksperci oceniali 24 ryzyka według pięciu kryteriów: prawdopodobieństwa szkody, dotkliwości, podatności sektorów i podmiotów, odpowiedzialności za przeciwdziałanie oraz ogólnego poziomu zagrożenia.
Ryzyka pogrupowano w siedmiu domenach: dyskryminacja i treści szkodliwe; prywatność i bezpieczeństwo; dezinformacja; złośliwi aktorzy i nadużycia; interakcja człowieka z maszyną; szkody społeczno-gospodarcze i środowiskowe; oraz bezpieczeństwo, awarie i ograniczenia systemów.
Pięć zagrożeń ocenionych najwyżej w perspektywie pięciu lat to niebezpieczne zdolności modeli, dynamika wyścigu konkurencyjnego, broń i cyberataki, centralizacja władzy oraz dezinformacja (Saeri i in., 2026).
Skala dotkliwości
Warto ją znać w całości, bo w omówieniach zwykle cytuje się z niej tylko najwyższy poziom.
| Poziom | Oryginał | Próg finansowy |
|---|---|---|
| znikomy | negligible | poniżej 10 tys. dolarów |
| drobny | minor | od 10 tys. do 1 mln dolarów |
| znaczący | substantial | od 1 do 100 mln dolarów |
| poważny | severe | od 100 mln do 10 mld dolarów |
| katastrofalny | catastrophic | od 100 mld dolarów wzwyż, albo ponad milion zgonów, albo skutki w skali cywilizacyjnej |
Osiemnaście z 24 ryzyk uzyskało średnio ponad 10% przypisywanego prawdopodobieństwa skutku katastrofalnego w scenariuszu bez interwencji. Po uwzględnieniu realistycznych działań ograniczających pięć ryzyk zachowało poziom powyżej 10% (Saeri i in., 2026).
To zdanie bywa skracane do postaci, w której przestaje być prawdziwe. Nie jest tak, że „18 zagrożeń ma ponad 10% ryzyka katastrofy”. Eksperci przypisali im średnio taki poziom subiektywnego prawdopodobieństwa, przy określonym horyzoncie, scenariuszu i skali.
Dlaczego ranking ryzyka i rejestr firmy odpowiadają na inne pytania
Bo badanie agreguje skutki dla populacji, sektorów i społeczeństwa, a firma priorytetyzuje własną ekspozycję i własną zdolność ograniczenia skutku. To ta sama różnica, co między statystyką zdrowia publicznego a kartą pacjenta.
Widać to najlepiej na przykładzie samej skali. Autorzy badania opisują kompromis, który podjęli w fazie pilotażowej: podnieśli dolny próg poziomu katastrofalnego z 10 do 100 mld dolarów, ponieważ część rodzajów szkód już przekraczała 10 mld rocznie. Skutkiem ubocznym była luka między poziomem poważnym a katastrofalnym, którą sami ilustrują przykładem straty rzędu 50 mld dolarów.
Nie jest to wada badania, tylko dowód na coś ogólniejszego: skala ryzyka jest narzędziem analitycznym, a nie właściwością świata. Poprawienie jednego progu stworzyło przerwę przy sąsiednim. Firmowa macierz ryzyka ma dokładnie tę samą naturę, tylko rzadziej się o tym pamięta, bo widnieje w procedurze i wygląda na obiektywną.
Wniosek praktyczny jest taki, że progi z cudzej skali nie przenoszą się do własnej. Strata rzędu 20 mln dolarów jest w badaniu poziomem znaczącym, lecz dla wielu polskich organizacji przekraczałaby roczny limit tolerancji ryzyka albo nawet skalę ich działalności.
Dlaczego odpowiedzialność w badaniu to nie to samo co właściciel ryzyka
Badanie pyta, kto w całym ekosystemie ma największą możliwość i powinność ograniczenia zagrożenia. Rejestr pyta, kto wewnątrz organizacji ma mandat, zasoby i obowiązek uruchomić konkretne działanie. To dwa różne pytania i tylko na drugie odpowiedź da się wpisać do dokumentu, który ma cokolwiek uruchamiać.
Badani wskazali twórców modeli i podmioty rządowe jako odpowiedzialnych za ograniczanie ryzyka, a użytkowników i społeczeństwo jako najbardziej narażonych (Saeri i in., 2026). Autorzy sami zaznaczają przy tym, że odpowiedzialność mierzyli zbiorczo, zamiast rozdzielić jej składniki.
Dla firmy oznacza to rzecz prostą i niewygodną. Pozycja w rejestrze, przy której jako właściciel figuruje wyłącznie „dostawca modelu” albo „regulator”, nie uruchamia wewnętrznego działania. Firma może opisać zależność od podmiotu zewnętrznego, ale nadal potrzebuje własnej funkcji odpowiedzialnej za reakcję, monitorowanie i decyzję o akceptacji ryzyka.
Warto przy okazji przypisywać właścicielstwo do roli albo funkcji, a nie do nazwiska. Rejestr przypisany do osoby dezaktualizuje się przy pierwszej zmianie kadrowej, a potrzebna jest jednoznaczna odpowiedzialność, nie konkretny człowiek.
Jak przełożyć kategorię z rankingu na pozycję w rejestrze
Kategoria z taksonomii jest punktem wyjścia, nie pozycją rejestru. Między jednym a drugim jest pięć kroków, a każdy z nich wymaga wiedzy, której w żadnym rankingu nie ma, bo dotyczy konkretnej organizacji.
Przykład pierwszy, prywatność i bezpieczeństwo.
| Krok | Treść |
|---|---|
| Kategoria z badania | naruszenie prywatności |
| Ekspozycja firmy | pracownik przesyła dane klienta do niewłaściwej przestrzeni roboczej |
| Zdarzenie | ujawnienie informacji chronionej |
| Skutek | wyznaczony według firmowej macierzy, nie według skali z badania |
| Kontrola | zapobieganie utracie danych, uprawnienia, zasady użycia, monitorowanie |
| Właściciel | funkcja odpowiedzialna za bezpieczeństwo informacji |
Przykład drugi, produkcja. Kategoria „brak zdolności lub odporności systemu” przekłada się na model używany do planowania produkcji. Zdarzeniem jest błędna rekomendacja harmonogramu, skutkiem przestój albo brak komponentów, kontrolą walidacja wyniku, rozwiązanie zapasowe i monitorowanie, a właścicielem funkcja odpowiedzialna za proces produkcyjny.
Przykład trzeci, finanse. Kategoria „fałszywe lub wprowadzające w błąd informacje” przekłada się na model generujący komentarz zarządczy do danych finansowych. Zdarzeniem jest niezgodność komentarza z danymi źródłowymi, skutkiem błędna decyzja albo błędny raport, kontrolą uzgodnienie z danymi i przegląd przez człowieka, a właścicielem funkcja odpowiedzialna za sprawozdawczość. Podobny problem pojawia się przy agentach AI działających bez wystarczającego nadzoru.
We wszystkich trzech przypadkach kategoria z rankingu może być wspólna dla wielu firm, ale pozostałe pięć kroków zależy od konkretnej organizacji. To dlatego przepisanie samej listy nie tworzy operacyjnego rejestru.
Czego brakuje w rankingu, aby zbudować rejestr ryzyka AI
Brakuje w nim warstwy operacyjnej, opisanej wyżej, oraz kilku ryzyk wdrożeniowych, które w szerokiej taksonomii nie występują w gotowej postaci, choć w praktyce wypełniają rejestry.
Należą do nich koncentracja na jednym dostawcy, niedostępność modelu albo interfejsu programistycznego, konieczność wycofania zmiany po aktualizacji modelu, zmiana cennika w trakcie roku budżetowego, zależności integracyjne między narzędziami oraz umowny podział odpowiedzialności z dostawcą. Pokazuje to również opis incydentu, w którym agent AI włamał się do trzech firm: jedna szeroka kategoria nie zastępuje scenariusza zdarzenia i przypisanej kontroli.
Żadne z nich nie musi być zagrożeniem cywilizacyjnym i dlatego szerokie badanie ryzyk globalnych nie musi ujmować go w gotowej postaci. Dla konkretnej firmy takie ryzyko może otrzymać wyższy priorytet operacyjny niż część pozycji z pierwszej piątki rankingu, jeśli ekspozycja jest bezpośrednia, skutek mierzalny, a właściciel ma realny wpływ na kontrolę.
Jak czytać taki ranking, żeby był użyteczny
Jako sygnał tematów, które mogą wpływać na debatę regulacyjną i uwagę opinii publicznej, a nie jako listę zadań dla organizacji. W tej roli ranking uzupełnia, ale nie zastępuje, firmowej oceny ryzyka.
Wysokie oceny ekspertów mogą wskazywać obszary, które będą przedmiotem dalszych badań, debaty publicznej lub działań regulatorów. Firma śledząca takie rankingi może wcześniej rozpocząć analizę ekspozycji, ale sam ranking nie przesądza o przyszłym obowiązku prawnym.
Druga użyteczna rola to kontrola kompletności własnej taksonomii. Warto przejść 24 kategorie i przy każdej zadać jedno pytanie: czy mamy ekspozycję w tym obszarze i czy jest odnotowana. Odpowiedź „nie mamy” jest wynikiem wartościowym, o ile została udzielona świadomie, a nie przez pominięcie.
Taki przegląd zajmuje mniej czasu, niż się wydaje, i daje trzy możliwe wyniki na kategorię. Pierwszy: ekspozycja istnieje i jest w rejestrze, wtedy sprawdzamy tylko, czy opis nadal odpowiada rzeczywistości. Drugi: ekspozycja istnieje, ale w rejestrze jej nie ma, i to jest jedyne realne znalezisko takiego ćwiczenia.
Trzeci możliwy wynik łatwo zaksięgować nieprecyzyjnie: ekspozycji nie ma, bo firma nie prowadzi działalności w tym obszarze. Warto go zapisać wraz z uzasadnieniem, zamiast po prostu pominąć kategorię. Za rok, przy kolejnym przeglądzie, uzasadnienie pozwoli sprawdzić, czy przesłanka nadal obowiązuje, a samo pominięcie nie zostawia po sobie żadnego śladu.
Trzecia rola jest komunikacyjna. Zarząd, który czyta w prasie o rankingu ryzyk sztucznej inteligencji, zadaje potem pytanie o miejsce firmy na tej liście. Przygotowana wcześniej odpowiedź, pokazująca różnicę między kategorią a ekspozycją, jest lepsza niż improwizacja na posiedzeniu.
Kluczowe pytania i decyzje
Czy powinienem dopisać do rejestru ryzyka z pierwszej piątki rankingu?
Nie, jeśli firma nie ma wobec nich żadnej ekspozycji ani wpływu; wpis bez właściciela i kontroli obciąża rejestr, nie zmniejsza ryzyka. Tak, jeśli jesteś w stanie wskazać konkretną ekspozycję, zdarzenie i funkcję odpowiedzialną.
Czy mogę użyć skali dotkliwości z badania?
Nie do wyceny skutku; progi liczone w miliardach dolarów nie mają zastosowania w większości organizacji. Tak jako punktu odniesienia przy dyskusji o tym, gdzie postawić własne progi i dlaczego akurat tam.
Czy warto w ogóle śledzić takie badania?
Tak, jako sygnał wyprzedzający wobec regulacji i jako listę kontrolną kompletności. Nie, jeśli oczekujesz od nich priorytetów operacyjnych, bo mierzą co innego.
Kiedy ta analiza się nie sprawdzi
Jeśli firma sama jest dostawcą modeli albo narzędzi AI. Wtedy część ryzyk, które dla użytkownika są odległe, staje się jej własną ekspozycją, a wskazanie twórców modeli jako odpowiedzialnych przestaje być wpisem niewykonalnym i staje się wpisem o niej samej.
Jeśli rejestr ryzyk w firmie i tak nie działa. Tekst zakłada, że organizacja ma działający proces, do którego można coś przełożyć. Tam, gdzie rejestr jest dokumentem odświeżanym raz do roku przed audytem, problem leży gdzie indziej i nie rozwiąże go żadna taksonomia.
Jeśli ryzyka systemowe zmaterializują się szybciej niż regulacja. Założenie, że zagrożenia cywilizacyjne docierają do firmy głównie przez przepisy, jest prawdziwe w spokojnym scenariuszu i przestaje być prawdziwe przy zdarzeniu skokowym.
Podsumowanie
Ranking 272 ekspertów jest dobrym badaniem, które odpowiada na inne pytanie niż to, które zadaje sobie firma. Mierzy zagrożenie w skali populacji i sektorów, wskazuje odpowiedzialnych w skali ekosystemu i porządkuje kategorie, których wcześniej nikt tak nie zestawił.
Dla organizacji użyteczna jest z tego przede wszystkim taksonomia, a więc lista obszarów, wobec których warto sprawdzić własną ekspozycję. Wszystko pozostałe, czyli ekspozycja, zdarzenie, skutek, kontrola i właściciel, powstaje wewnątrz firmy i nie przenosi się z zewnątrz.
Warto też zachować dystans do samych liczb, i to nie z ostrożności, tylko dlatego, że tak je opisują autorzy. Są to średnie subiektywnych ocen ekspertów, dane o przekonaniach, a nie o zaobserwowanych częstościach zdarzeń. Poziom 10% jest w tym badaniu punktem odniesienia pozwalającym porównać 24 rozkłady, a nie granicą, po przekroczeniu której coś się dzieje.
Najbardziej praktyczny wniosek jest zarazem najprostszy. Cudza taksonomia oszczędza czas na etapie wymyślania kategorii, czyli w tej części pracy, która i tak jest najłatwiejsza. Trudna część, to znaczy ustalenie, co konkretnie może się wydarzyć u nas, ile to będzie kosztowało i kto ma temu zapobiec, zostaje po naszej stronie niezależnie od tego, jak dobry ranking mamy pod ręką.
O autorze
Remigiusz Pruszczak: ekspert GenAI i trener AI, makler papierów wartościowych z uprawnieniami do wykonywania czynności doradztwa inwestycyjnego (licencja nr 2343). Ponad 30 lat w finansach. Od 17 lat prowadzi szkolenia, a od 2025 roku również z generatywnej AI, między innymi dla banków, instytucji finansowych, kancelarii oraz firm z sektorów regulowanych i produkcji. Szkolenia realizuje we współpracy z EY Academy of Business Polska, Warszawskim Instytutem Bankowości, Bankowym Ośrodkiem Doradztwa i Edukacji oraz CFA Society Poland. Więcej na stronie „O mnie”.
Źródła
- Alexander K. Saeri, Jess Graham, Michael Noetel, Peter Slattery, Neil Thompson i in., „Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts”, arXiv:2606.04490, 3 czerwca 2026
- MIT FutureTech, strona publikacji, 4 czerwca 2026
- Pełny raport w wersji PDF
- „Agenci AI w firmie: produktywność bez nadzoru”
- „Agent AI włamał się do trzech firm”
