AI Threats - Remigiusz Pruszczak

Schemat agenta AI prowadzącego do zmiany danych w dokumencie, ilustracja do analizy naruszenia ochrony danych.

Atak agenta AI a RODO: czego uczy pierwsze zgłoszenie w AEPD

AI Threats / Remigiusz Pruszczak / 21 września, 2026 / atak agenta AI, bezpieczeństwo agentów AI, cyberbezpieczeństwo, incydenty z agentami AI

Hiszpański organ ochrony danych (AEPD) poinformował 14 września 2026 r. o pierwszym otrzymanym zgłoszeniu naruszenia, w którym atak miał zostać wykonany przy użyciu agenta AI. Według opisu zgłaszającej organizacji agent poprawnie zalogował się do systemu, szukał podatności, a następnie mógł zmieniać dane osobowe i uzyskał dostęp do faktur. To nie jest dowód na nową falę […]

Atak agenta AI a RODO: czego uczy pierwsze zgłoszenie w AEPD Dowiedz się więcej »

AI Threatsatak agenta AI, bezpieczeństwo agentów AI, cyberbezpieczeństwo, incydenty z agentami AI

Karta modelu AI w kartotece z oznaczeniem terminu wygaśnięcia, symbolizująca wycofanie modelu AI.

Wycofanie modelu AI: trzy drogi, którymi tracisz dostęp

AI Threats / Remigiusz Pruszczak / 21 września, 2026 / akt o sztucznej inteligencji, ciągłość działania AI, cykl życia modelu AI, deprecacja modeli AI, Microsoft Copilot, modele MAI, podwykonawstwo ICT, ryzyko dostawcy ICT, strategia wyjścia DORA, umowy na narzędzia AI, wybór modelu AI dla firmy, wycofanie modelu AI, zależność od dostawcy AI, zarządzanie ryzykiem AI

Wycofanie modelu AI to tylko jeden z trzech sposobów, w jakie firma może stracić model działający w narzędziu, za które płaci. Dostęp może zakończyć się przez ogłoszoną deprecację modelu, rozwiązanie umowy między dostawcą modelu a dostawcą narzędzia albo zmianę modelu bazowego dokonaną przez producenta narzędzia. Tylko pierwsza droga ma z góry opisany mechanizm cyklu życia

Wycofanie modelu AI: trzy drogi, którymi tracisz dostęp Dowiedz się więcej »

AI Threatsakt o sztucznej inteligencji, ciągłość działania AI, cykl życia modelu AI, deprecacja modeli AI, Microsoft Copilot, modele MAI, podwykonawstwo ICT, ryzyko dostawcy ICT, strategia wyjścia DORA, umowy na narzędzia AI, wybór modelu AI dla firmy, wycofanie modelu AI, zależność od dostawcy AI, zarządzanie ryzykiem AI

Skala detektora treści AI od 0 do 1 ze znacznikiem przy progu 0,2 użytym w analizie Pew.

Detektory treści AI mogą mylić tekst nienatywny z maszynowym

AI Threats / Remigiusz Pruszczak / 7 września, 2026 / angielski jako drugi język, badanie Pew Research AI, Common Crawl, detektory treści AI, fałszywe alarmy detektorów, LinkedIn AI slop, oznaczanie treści AI, perplexity tekstu, PolEval ŚMIGIEL, polityka treści w firmie, ryzyko reputacyjne AI, treści generowane przez AI, wykrywanie tekstu AI, wykrywanie tekstu AI po polsku

Detektor treści AI nie dostarcza dowodu autorstwa: jego wynik zależy od metody, danych treningowych, progu decyzyjnego, języka i domeny tekstu. W badaniu opublikowanym w czasopiśmie „Patterns” (Liang i in., 2023) siedem ówczesnych detektorów uznało średnio 61,22 procent esejów pisanych przez osoby nienatywnie władające angielskim za wygenerowane przez model, przy niemal bezbłędnej ocenie esejów autorów natywnych.

Detektory treści AI mogą mylić tekst nienatywny z maszynowym Dowiedz się więcej »

AI Threatsangielski jako drugi język, badanie Pew Research AI, Common Crawl, detektory treści AI, fałszywe alarmy detektorów, LinkedIn AI slop, oznaczanie treści AI, perplexity tekstu, PolEval ŚMIGIEL, polityka treści w firmie, ryzyko reputacyjne AI, treści generowane przez AI, wykrywanie tekstu AI, wykrywanie tekstu AI po polsku

Zamknięty laptop i odłączony kabel sieciowy, obraz pracy modelu bez sieci

Model AI na laptopie pracownika: które kontrole tracą sygnał

AI Threats / Remigiusz Pruszczak / 3 września, 2026 / inwentaryzacja oprogramowania, kontrola narzędzi AI, kwantyzacja modelu, lokalny model AI w firmie, model AI bez dostępu do internetu, modele o otwartych wagach, polityka użytkowania sprzętu, ryzyko wycieku danych, Shadow AI, telemetria stacji roboczych

Lokalny model AI w firmie zmienia miejsce, w którym trzeba szukać śladów jego użycia. Dwa mechanizmy wykorzystywane do nadzoru nad korzystaniem ze sztucznej inteligencji, czyli dzienniki po stronie dostawcy i kontrola ruchu wychodzącego, tracą sygnał, bo sama inferencja wykonuje się na urządzeniu i może nie wygenerować żadnego połączenia. Nie znaczy to, że system jest odcięty

Model AI na laptopie pracownika: które kontrole tracą sygnał Dowiedz się więcej »

AI Threatsinwentaryzacja oprogramowania, kontrola narzędzi AI, kwantyzacja modelu, lokalny model AI w firmie, model AI bez dostępu do internetu, modele o otwartych wagach, polityka użytkowania sprzętu, ryzyko wycieku danych, Shadow AI, telemetria stacji roboczych

Karton z rozdartą etykietą symbolizujący spór o rolę producenta

Odpowiedzialność za szkodę wyrządzoną przez AI: kiedy firma odpowiada jak producent

AI Threats / Remigiusz Pruszczak / 29 sierpnia, 2026 / dyrektywa 2024/2853, odpowiedzialność producenta, odpowiedzialność za produkty wadliwe, oprogramowanie jako produkt, prawo i ryzyko AI, znacząca modyfikacja produktu

Nowa unijna dyrektywa o odpowiedzialności za produkty wadliwe rzadko posłuży spółce do odzyskania typowej straty biznesowej, za to może postawić tę samą spółkę po stronie odpowiedzialnej. Państwa członkowskie mają wdrożyć dyrektywę (UE) 2024/2853 do 9 grudnia 2026, a po sprostowaniu z maja 2026 ta sama data wyznacza początek stosowania nowych zasad do produktów wprowadzonych do

Odpowiedzialność za szkodę wyrządzoną przez AI: kiedy firma odpowiada jak producent Dowiedz się więcej »

AI Threatsdyrektywa 2024/2853, odpowiedzialność producenta, odpowiedzialność za produkty wadliwe, oprogramowanie jako produkt, prawo i ryzyko AI, znacząca modyfikacja produktu

Dwa kalendarze ilustrujące terminy obowiązków pracodawcy przy AI w rekrutacji

AI w rekrutacji: obowiązki pracodawcy, których nie odroczono

AI Threats / Remigiusz Pruszczak / 26 sierpnia, 2026 / AI w rekrutacji obowiązki pracodawcy, art. 22 RODO w rekrutacji, dyskryminacja algorytmiczna w zatrudnieniu, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, nadzór człowieka nad systemem AI, ocena skutków dla ochrony danych, rozpoznawanie emocji w miejscu pracy, selekcja CV przez algorytm, stanowisko UODO o AI w zatrudnieniu, systemy AI wysokiego ryzyka, tryb skargowy KRiBSI, ustawa o systemach sztucznej inteligencji, załącznik III aktu o sztucznej inteligencji, zautomatyzowane podejmowanie decyzji

Najważniejszy wniosek: przesunięcie części obowiązków AI Act do 2 grudnia 2027 r. nie oznacza, że pracodawca może odłożyć porządkowanie rekrutacji opartej na AI. Już dziś zastosowanie mogą mieć art. 22 RODO, obowiązek oceny skutków dla ochrony danych przy wysokim ryzyku, zakaz wnioskowania o emocjach w miejscu pracy oraz przepisy o przejrzystości bezpośredniej interakcji z systemem

AI w rekrutacji: obowiązki pracodawcy, których nie odroczono Dowiedz się więcej »

AI ThreatsAI w rekrutacji obowiązki pracodawcy, art. 22 RODO w rekrutacji, dyskryminacja algorytmiczna w zatrudnieniu, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, nadzór człowieka nad systemem AI, ocena skutków dla ochrony danych, rozpoznawanie emocji w miejscu pracy, selekcja CV przez algorytm, stanowisko UODO o AI w zatrudnieniu, systemy AI wysokiego ryzyka, tryb skargowy KRiBSI, ustawa o systemach sztucznej inteligencji, załącznik III aktu o sztucznej inteligencji, zautomatyzowane podejmowanie decyzji

Rejestr ryzyk AI: mapa świata i pojedyncza kartoteka pokazują dwie skale oceny

Rejestr ryzyk AI: czego nie przepiszesz z eksperckiego rankingu

AI Threats / Remigiusz Pruszczak / 24 sierpnia, 2026 / badanie delfickie, ekspozycja na ryzyko, governance AI, kontrola wewnętrzna, macierz ryzyka, MIT FutureTech, ocena ryzyka w firmie, priorytetyzacja ryzyk, ranking ryzyk sztucznej inteligencji, rejestr ryzyk AI, ryzyko operacyjne, taksonomia ryzyk AI, właściciel ryzyka, zarządzanie ryzykiem AI

Grupa 272 międzynarodowych ekspertów uszeregowała 24 ryzyka związane ze sztuczną inteligencją, oceniając prawdopodobieństwo, dotkliwość, podatność i odpowiedzialność za przeciwdziałanie (Saeri i in., MIT FutureTech, 2026). Taki ranking i firmowy rejestr ryzyk posługują się podobnym językiem, ale mają inną jednostkę analizy, więc przepisanie listy z jednego do drugiego daje dokument, na podstawie którego trudno cokolwiek zrobić.

Rejestr ryzyk AI: czego nie przepiszesz z eksperckiego rankingu Dowiedz się więcej »

AI Threatsbadanie delfickie, ekspozycja na ryzyko, governance AI, kontrola wewnętrzna, macierz ryzyka, MIT FutureTech, ocena ryzyka w firmie, priorytetyzacja ryzyk, ranking ryzyk sztucznej inteligencji, rejestr ryzyk AI, ryzyko operacyjne, taksonomia ryzyk AI, właściciel ryzyka, zarządzanie ryzykiem AI

Rząd identycznych przycisków zatwierdzenia, wszystkie wciśnięte, jeden nietknięty

Nadzór człowieka nad agentem AI: kiedy jest kontrolą, a kiedy tylko procedurą

AI Threats / Remigiusz Pruszczak / 20 sierpnia, 2026 / art. 14 AI Act, art. 26 AI Act, automation bias, Claude Code tryb automatyczny, defense in depth, governance agentów AI, human in the loop, izolacja środowiska agenta, kontrola agenta AI, nadzór człowieka nad agentem AI, polityka wewnętrzna AI, uprawnienia agenta AI, wskaźniki kontrolne, zmęczenie zatwierdzeniami

Anthropic zmierzył we własnej telemetrii, że użytkownicy zatwierdzają około 93% próśb o uprawnienia, i wyciągnął z tego wniosek ważniejszy niż sam pomiar: zamiast nadzorować to, co agent robi, lepiej ograniczać to, co agent jest w stanie zrobić. Dla organizacji, która zapisała w polityce wewnętrznej zdanie „działania agenta zatwierdza człowiek”, to sygnał, że obecność człowieka w

Nadzór człowieka nad agentem AI: kiedy jest kontrolą, a kiedy tylko procedurą Dowiedz się więcej »

AI Threatsart. 14 AI Act, art. 26 AI Act, automation bias, Claude Code tryb automatyczny, defense in depth, governance agentów AI, human in the loop, izolacja środowiska agenta, kontrola agenta AI, nadzór człowieka nad agentem AI, polityka wewnętrzna AI, uprawnienia agenta AI, wskaźniki kontrolne, zmęczenie zatwierdzeniami

Uchylone drzwi serwerowni zablokowane klinem, ilustracja do analizy ataku agenta AI na realne firmy

Atak agenta AI: trzy firmy zaatakowane, dwie nic nie wiedziały

AI Threats / Remigiusz Pruszczak / 10 sierpnia, 2026 / AI Security Institute, atak agenta AI, bezpieczeństwo łańcucha dostaw oprogramowania, CrowdStrike Threat Hunting Report, ewaluacje cyberbezpieczeństwa modeli, incydenty z agentami AI, koszt zużycia modelu jako sygnał, LLMJacking, przejęcie dostępu do modelu, raport Anthropic o ewaluacjach, uprawnienia agentów AI, wstrzykiwanie poleceń, wykrywanie nieuprawnionego dostępu, złośliwy pakiet PyPI

Najważniejszą liczbą w dwóch raportach z przełomu lipca i sierpnia 2026 nie jest liczba incydentów, lecz liczba ofiar, które nie zauważyły, że coś się stało. Anthropic ujawnił 30 lipca 2026, że w trzech przypadkach jego modele wyszły poza środowisko testowe i sięgnęły po systemy realnych, niezwiązanych z testem firm, a dwie z organizacji, z którymi

Atak agenta AI: trzy firmy zaatakowane, dwie nic nie wiedziały Dowiedz się więcej »

AI ThreatsAI Security Institute, atak agenta AI, bezpieczeństwo łańcucha dostaw oprogramowania, CrowdStrike Threat Hunting Report, ewaluacje cyberbezpieczeństwa modeli, incydenty z agentami AI, koszt zużycia modelu jako sygnał, LLMJacking, przejęcie dostępu do modelu, raport Anthropic o ewaluacjach, uprawnienia agentów AI, wstrzykiwanie poleceń, wykrywanie nieuprawnionego dostępu, złośliwy pakiet PyPI

Niezrównoważona waga z pieniędzmi po jednej stronie, ilustracja wynagrodzenia za kompetencje AI

Wynagrodzenie za kompetencje AI: firmy płacą, zanim policzą zwrot

AI Threats / Remigiusz Pruszczak / 9 sierpnia, 2026 / art. 94 Kodeksu pracy, badanie PwC usługi finansowe, kompetencje AI w bankach, koncentracja korzyści z AI, kryteria premiowania a AI, luka kompetencyjna AI, ocena pracy pracownika, premia za biegłość w AI, produktywność wspierana przez AI, redukcja zatrudnienia a AI, regulamin wynagradzania a AI, szkolenia AI zamiast MBA, wynagrodzenie za kompetencje AI, zwrot z inwestycji w AI

Firmy finansowe zwiększają wynagrodzenie za kompetencje AI, choć większość badanych nie potrafi wskazać mierzalnego zwrotu z inwestycji w tę technologię. Z badania PwC na próbie 1004 osób na stanowiskach dyrektorskich i wyższych w amerykańskich firmach usług finansowych (badanie z 12 do 22 maja 2026, opublikowane 3 sierpnia 2026) wynika, że 91% zwiększa wynagrodzenia pracowników mających

Wynagrodzenie za kompetencje AI: firmy płacą, zanim policzą zwrot Dowiedz się więcej »

AI Threatsart. 94 Kodeksu pracy, badanie PwC usługi finansowe, kompetencje AI w bankach, koncentracja korzyści z AI, kryteria premiowania a AI, luka kompetencyjna AI, ocena pracy pracownika, premia za biegłość w AI, produktywność wspierana przez AI, redukcja zatrudnienia a AI, regulamin wynagradzania a AI, szkolenia AI zamiast MBA, wynagrodzenie za kompetencje AI, zwrot z inwestycji w AI