Nadzór masowy, analiza wielkich zbiorów i sztuczna inteligencja nie są jednym narzędziem. Pierwsze pojęcie opisuje skalę ingerencji lub liczbę osób objętych systemem. Drugie dotyczy przetwarzania danych o rozmiarze, szybkości albo różnorodności przekraczającej zwykły warsztat. Trzecie obejmuje systemy wykonujące zadania takie jak klasyfikacja, rozpoznawanie wzorców, generowanie treści i wspieranie decyzji. Każde może wystąpić bez pozostałych.

Organ może masowo przechwytywać dane za pomocą prostych reguł, zastosować zaawansowany model do jednej legalnie obserwowanej osoby albo analizować duży, zagregowany zbiór statystyczny bez decyzji o jednostkach. Zlanie tych przypadków utrudnia ocenę, ponieważ inne są podstawy prawne, błędy i gwarancje.

W przeciwdziałaniu terroryzmowi technologie te mogą pomóc znaleźć połączenie między sprawami, odróżnić imienników, priorytetyzować materiał, tłumaczyć dokumenty i szybciej udostępniać analitykowi źródła. Mogą też nadać pozór naukowej pewności słabym danym, objąć podejrzeniem ogrom niewinnych ludzi, utrwalać nierówność oraz automatyzować błąd na skalę niemożliwą dla pojedynczego człowieka.

Pytaniem nie jest więc, czy AI jest „dobra” albo „zła”. Trzeba ustalić, jaki problem ma rozwiązać, jakie dane są konieczne, jak wynik wpływa na człowieka, jak często system się myli, kto weryfikuje wynik, czy istnieje mniej ingerująca metoda oraz kiedy narzędzie ma zostać wyłączone. Większy zbiór i bardziej złożony model nie stanowią samodzielnej odpowiedzi.

Skala pozyskania, skala analizy i skala skutku

System może objąć miliony rekordów na wejściu, lecz przekazać człowiekowi kilka zagregowanych trendów. Może też analizować małą listę i wywoływać dotkliwy skutek wobec każdej wskazanej osoby. Ocena ingerencji powinna rozdzielać pozyskanie, retencję, łączenie, zapytanie, model, ręczny przegląd i działanie.

Im wcześniej dane są identyfikowalne i im później można je połączyć, tym większa rzeczywista zdolność państwa. Twierdzenie, że „nikt nie czyta wszystkich wiadomości”, nie odpowiada na pytanie o przechwycenie, filtrowanie i możliwość odtworzenia relacji. Z kolei przechowanie materiału bez możliwości rozsądnego wyszukania może mieć mniejszą bieżącą użyteczność, ale nadal tworzy ryzyko wycieku i przyszłego użycia.

Europejski Trybunał Praw Człowieka w sprawie Big Brother Watch oceniał system masowego przechwytywania przez gwarancje obejmujące cały proces, a nie tylko końcowe otwarcie treści. Wskazał znaczenie niezależnej autoryzacji, kategorii selektorów i dodatkowej kontroli selektorów związanych z konkretną osobą.1 Techniczna architektura jest zatem częścią prawnej oceny.

Nadzór masowy nie jest po prostu dużą liczbą nakazów

Ukierunkowane działanie zaczyna się od osoby, urządzenia, konta lub innego określonego celu i przesłanek odnoszących się do niego. System masowy obejmuje szerszy strumień, zanim wybór materiału nastąpi na późniejszym etapie. Granica może być złożona, ale różnica ma znaczenie dla liczby osób postronnych i rodzaju kontroli.

Milion odrębnych, prawidłowo uzasadnionych czynności nie staje się automatycznie tym samym co jeden blankietowy dostęp do populacji. Z drugiej strony rozbicie szerokiego programu na wiele technicznych zapytań nie czyni go ukierunkowanym. Należy oceniać rzeczywisty zakres, a nie nazwę procedury.

Masowy system może być prawnie dopuszczalny w określonym reżimie i celu, ale nie oznacza to dowolności. Potrzebuje jasnego mandatu, niezależnej autoryzacji, reguł selekcji, minimalizacji danych osób niezwiązanych, limitów retencji, kontroli przekazania i skutecznego nadzoru. Wyjątkowa skala wymaga gwarancji dostosowanych do skali.

Big data jest obietnicą techniczną, nie podstawą prawną

Określenie big data zwraca uwagę na wielkość, szybkość, różnorodność i zmienność danych. Nie mówi, czy dane są prawdziwe, reprezentatywne, legalnie pozyskane ani przydatne do konkretnej decyzji. Miliard błędnie opisanych rekordów nie staje się dobrym źródłem przez rozmiar.

Duże zbiory ułatwiają znajdowanie korelacji. Im więcej cech i kombinacji zostanie przetestowanych, tym większa szansa odkrycia wzorca przypadkowego. Bez hipotezy, oddzielnego testu i korekty wielokrotnego porównywania analityk może „wyjaśnić” przeszłość czymś, co nie zadziała jutro.

Skala utrudnia również poznanie pochodzenia. Jedno pole może być obserwacją, deklaracją użytkownika, wynikiem modelu albo informacją kupioną od pośrednika. Po połączeniu zbiory tworzą profil, choć żaden właściciel nie kontroluje pełnego łańcucha. SIGINT, OSINT i analiza danych szerzej omawia provenance, dane komercyjne i granice łączenia.

Więcej danych może pogorszyć sygnał

Dodanie źródła zwiększa pokrycie tylko wtedy, gdy wnosi informację o znanej jakości. Może też powielić tę samą plotkę, dodać stare aliasy, wprowadzić błędne połączenia i zmienić populację. Model widzi więcej rekordów, ale analityk otrzymuje większą kolejkę.

Nadmiar danych ma koszt alternatywny. Zespół poświęca czas na fałszywe alarmy zamiast na sprawy z konkretnym zachowaniem przygotowawczym. Większa retencja zwiększa skutki wycieku, koszty zabezpieczenia i liczbę dawnych informacji interpretowanych bez kontekstu.

Wartość krańcowa powinna być testowana. Instytucja może porównać decyzje z dodatkowym źródłem i bez niego, badając nie tylko liczbę trafień, lecz także zmianę jakości, czasu, szkód i kosztu. Zbiór, który nie poprawia decyzji, nie powinien być utrzymywany dlatego, że kiedyś był drogi.

Rzadkie zdarzenie i bazowa częstość

Zamach terrorystyczny jest skrajnie rzadki wśród codziennych podróży, transakcji, wiadomości i zachowań. Ta bazowa częstość ogranicza możliwość masowego wykrywania. Nawet model o imponujących parametrach może generować ogromną przewagę wyników fałszywych.

Załóżmy ilustracyjnie, że wśród stu tysięcy przypadków jeden rzeczywiście należy do klasy poszukiwanej. System wykrywa dziewięćdziesiąt procent prawdziwych przypadków, ale błędnie oznacza jeden procent pozostałych. Najpewniej znajdzie ten jeden przypadek, a równocześnie wskaże około tysiąca niewinnych. Osoba oznaczona ma więc znacznie większą szansę być fałszywym niż prawdziwym trafieniem.

Nie oznacza to, że system jest bezużyteczny. Wynik może kierować do taniej, bezpiecznej weryfikacji, jeśli kolejka jest wykonalna. Nie może natomiast sam uruchamiać dotkliwej sankcji. Projekt powinien raportować dodatnią wartość predykcyjną i obciążenie operacyjne, a nie tylko czułość.

Wykrywanie anomalii

Model anomalii szuka przypadków odległych od tego, co uznał za zwykłe. Nie wie, czy odmienność jest groźna, dobra czy przypadkowa. Nietypowa podróż może oznaczać przygotowanie ataku, ale częściej wynika z pracy, choroby, migracji, praktyki religijnej, błędu urządzenia albo zmiany rozkładu.

„Normalność” zależy od populacji i czasu. Zachowanie typowe dla studenta może być nietypowe dla pracownika, a wzorzec z okresu pandemii nie odpowiada późniejszym latom. Model uczony na większości może oznaczać mniejszość jako anomalię dlatego, że jest słabiej reprezentowana.

Anomalia jest pytaniem do analityka, nie oceną zamiaru. Powinna być opisana przez cechy, zakres porównania i znane alternatywy. Jeśli nikt nie potrafi powiedzieć, czym wynik różni się od populacji, nie da się go zweryfikować ani zakwestionować.

Anomalia kolektywna i sekwencyjna

Pojedyncze zdarzenie może być zwyczajne, a ich sekwencja nietypowa. Model może badać zmianę rytmu, kombinację kanałów lub zsynchronizowane zachowanie wielu kont. Jest to przydatne w wykrywaniu skoordynowanych kampanii i zmian infrastruktury.

Znaczenie nadal zależy od mechanizmu. Wspólny wzrost aktywności może wynikać z wiadomości medialnej, awarii, święta albo aktualizacji oprogramowania. Synchronizacja nie dowodzi koordynacji przez jednego aktora.

Model powinien zachować okno czasowe, brakujące dane i wpływ zmiany źródła. Jeśli platforma nagle udostępnia więcej logów, wzrost jest właściwością pomiaru. Bez dokumentacji system zamieni zmianę instrumentu w zmianę zagrożenia.

Scoring

Scoring przypisuje przypadkowi liczbę lub kategorię na podstawie cech. Może służyć uporządkowaniu kolejki, lecz wynik nie zawsze jest prawdopodobieństwem. Liczba 82 może oznaczać sumę punktów, pozycję w rankingu, odległość od wzorca albo skalibrowane ryzyko. Interfejs musi wyjaśniać różnicę.

Model rankingowy może poprawnie umieścić wartościowe sprawy wyżej, nie potrafiąc określić bezwzględnego prawdopodobieństwa. Próg działania powinien wynikać z kosztów, zasobów i podstawy prawnej, nie z arbitralnego koloru. Dwa wyniki po przeciwnych stronach progu mogą praktycznie się nie różnić.

Scoring zachęca do kompensacji. Wysoka liczba z cech słabych może przesłonić brak bezpośredniej przesłanki. Legalna religijność, podróż, język i sieć kontaktów nie powinny przez sumowanie tworzyć automatycznego podejrzenia, jeśli żadna cecha nie wiąże się z przygotowaniem przemocy.

Etykieta treningowa

Model nadzorowany uczy się na przykładach z przypisaną etykietą. W przeciwdziałaniu terroryzmowi „prawda” bywa trudna. Skazanie jest wynikiem procesu, ale obejmuje tylko wykryte i dowiedzione sprawy. Wpis na liście jest decyzją administracyjną lub wywiadowczą, nie obiektywną cechą. Otwarcie dochodzenia zależy od wcześniejszej uwagi instytucji.

Jeśli etykietą jest „osoba poddana kontroli”, model nauczy się historii kontroli. Może odtworzyć koncentrację na określonych dzielnicach, narodowościach lub ideologiach i nazwać ją predykcją. Zespół powinien dokumentować, kto tworzył etykietę, według jakiego progu i jakie przypadki były niewidoczne.

Negatywny przykład również jest niepewny. Brak znanego ataku nie dowodzi braku zamiaru, a brak skazania nie oznacza braku przestępstwa. To nie usprawiedliwia dowolności; wymaga ostrożniejszego celu, na przykład przewidywania potrzeby ręcznego przeglądu zamiast winy.

Predykcyjne działania policyjne

Modele miejscowe przewidują obszary zdarzeń, a modele osobowe próbują wskazywać ludzi bardziej narażonych na udział w przemocy lub jej popełnienie. Oba mogą tworzyć pętlę zwrotną. Więcej patroli wykrywa więcej rejestrowanych zdarzeń, które uzasadniają więcej patroli.

W terroryzmie problem jest ostrzejszy z powodu rzadkości i zmienności. Model może doskonale odtwarzać dawny sposób mobilizacji, gdy nowi sprawcy używają innych kanałów. Może też zamienić kontakt z osobą już obserwowaną w cechę, a potem „odkryć” sieć wytworzoną przez własne kryterium.

Akt o AI Unii Europejskiej zakazuje systemów dokonujących oceny lub przewidywania ryzyka popełnienia przestępstwa przez osobę wyłącznie na podstawie profilowania albo cech osobowości, z wyjątkiem wsparcia ludzkiej oceny opartej na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą.2 Zakaz nie czyni każdego narzędzia analitycznego nielegalnym, ale wyznacza ważną granicę między badaniem faktów a algorytmicznym typowaniem ludzi.

Graf relacji

Graf przedstawia węzły i krawędzie: osoby, konta, urządzenia, miejsca, transakcje oraz relacje między nimi. Ułatwia znalezienie wspólnego numeru, pośrednika lub przepływu. Wizualna bliskość bywa jednak bardziej sugestywna niż dane.

Krawędź może oznaczać rozmowę, wspólny adres, obserwowanie profilu, transakcję albo podobieństwo techniczne. Każda ma inne znaczenie, kierunek, czas i pewność. Graf bez typu relacji zamienia przypadkowy kontakt w przynależność.

Miary centralności pokazują strukturę sieci według definicji, nie przywództwo ani winę. Call center, lekarz, tłumacz i administrator platformy mogą być centralni z powodu roli usługowej. Usunięcie takiego węzła może nie osłabić organizacji, a skrzywdzić osoby korzystające z legalnej pomocy.

Dziedziczenie podejrzenia

Algorytm grafowy może rozszerzać uwagę od znanej osoby do kontaktów kilku stopni. Każdy kolejny krok zwiększa populację i niepewność. Znajomy znajomego nie dziedziczy zamiaru, a wspólne urządzenie może należeć do gospodarstwa, firmy lub miejsca publicznego.

System powinien ograniczać głębokość, rodzaj krawędzi i cel zapytania. Analityk musi zobaczyć drogę połączenia oraz cechy wykluczające. Nie należy wprowadzać kontaktu na listę tylko dlatego, że graf umieścił go wysoko.

Pętla powstaje, gdy częściej kontrolowane osoby generują więcej relacji, a większa liczba relacji uzasadnia dalszą kontrolę. Provenance powinno oznaczać dane wytworzone przez sam system, aby nie były traktowane jako niezależne potwierdzenie.

Rozpoznawanie tożsamości

Entity resolution łączy rekordy, które mogą dotyczyć tej samej osoby, i rozdziela imienników. Korzysta z nazw, dokumentów, dat, urządzeń, adresów i biometrii. Jest niezbędne, ale każdy błąd może połączyć niewinnego człowieka z materiałem o zagrożeniu.

Wynik powinien być hipotezą z uzasadnieniem. Łączenie na podstawie popularnego nazwiska i miasta ma inną wagę niż zgodny dokument oraz biometria. System musi przechowywać źródło cechy, możliwość ponownego przydzielenia numeru i dane wykluczające.

Listy obserwacyjne, tiering i prawo do korekty opisuje transliterację, fałszywe trafienia i propagację korekt. AI może poprawiać wyszukiwanie wariantów, ale nie usuwa potrzeby potwierdzenia tożsamości przed działaniem.

Rozpoznawanie twarzy

Trzeba odróżnić weryfikację jeden do jednego od identyfikacji jeden do wielu. Weryfikacja pyta, czy osoba odpowiada deklarowanej tożsamości. Identyfikacja porównuje obraz z galerią i zwraca kandydatów. Im większa galeria i niższy próg, tym więcej potencjalnych fałszywych dopasowań.

Jakość zależy od obrazu, kamery, oświetlenia, pozy, wieku, algorytmu i populacji. Badania NIST wykazały różnice demograficzne w błędach wielu testowanych algorytmów oraz podkreśliły, że wyniki zależą od konkretnego systemu, zadania i danych.3 Nie należy przenosić deklarowanej dokładności z fotografii paszportowej do tłumu z monitoringu.

Kandydat nie jest identyfikacją. Przeszkolony człowiek powinien porównać materiał, sprawdzić inne identyfikatory i zachować informację o jakości. „Human in the loop” nie pomoże, jeśli widzi wyłącznie pierwszą propozycję i zakłada, że maszyna wykonała dowód.

Identyfikacja zdalna w czasie rzeczywistym

Rozpoznawanie przechodniów bez ich aktywnego udziału ma inny ciężar niż odblokowanie urządzenia. Pozwala śledzić obecność wielu ludzi, także uczestników zgromadzenia, pacjentów, wiernych i dziennikarzy. Błąd może prowadzić do interwencji, zanim będzie czas na korektę.

Akt o AI co do zasady zakazuje używania przez organy ścigania zdalnej identyfikacji biometrycznej w czasie rzeczywistym w miejscach publicznie dostępnych, przewidując wąsko określone wyjątki, między innymi dla określonych ofiar, bezpośredniego zagrożenia życia lub ataku terrorystycznego oraz lokalizacji podejrzanych o wskazane poważne przestępstwa.2 Wyjątek podlega warunkom konieczności, proporcjonalności, ograniczeniu czasu, miejsca i osób oraz co do zasady uprzedniej autoryzacji właściwego organu.

Rozporządzenie nie jest samodzielną podstawą do przetwarzania danych ani do czynności policyjnej. Państwo musi przewidzieć możliwość użycia w prawie krajowym, a organ nadal stosuje przepisy o ochronie danych i kompetencjach. Fakt, że cel antyterrorystyczny znajduje się w wyjątku, nie tworzy ogólnej furtki do stałego rozpoznawania tłumu.

Rozpoznawanie retrospektywne

Porównanie nagrania po zdarzeniu daje więcej czasu na kontrolę i może być ukierunkowane na konkretną sprawę. Nadal ingeruje w dane osób postronnych i może odtworzyć trasę człowieka. „Po czasie” nie oznacza automatycznie małego ryzyka.

Galeria referencyjna powinna odpowiadać celowi, a nie obejmować każdy dostępny wizerunek. Próg, liczba kandydatów i ręczna kontrola muszą być dostosowane do jakości materiału. Wynik powinien prowadzić do niezależnego potwierdzenia.

Europejski Trybunał Praw Człowieka w sprawie Glukhin przeciwko Rosji uznał za szczególnie ingerujące użycie rozpoznawania twarzy do zidentyfikowania i zlokalizowania uczestnika pokojowej demonstracji, stwierdzając naruszenia prywatności i wolności wypowiedzi.4 Sprawa pokazuje, że ciężar technologii zależy także od celu i chronionej aktywności.

Analiza języka

Model może klasyfikować temat, język, ton, podobieństwo dokumentów i prawdopodobną propagandę. Słowa nie mają stałego znaczenia. Cytat, raport naukowy, żart, krytyka i aprobata mogą używać tej samej frazy.

Narzędzie wyszkolone na jednym dialekcie lub platformie może mylić slang, ironię i kod kulturowy. Tłumaczenie dodaje kolejną warstwę. Wynik powinien zachować oryginał, kontekst rozmowy, pewność języka i możliwość oceny przez kompetentną osobę.

Model „ekstremizmu” wymaga definicji zachowania, nie listy poglądów. Jeżeli etykieta treningowa pochodzi z usuniętych postów, system nauczy się polityki platformy, a nie zamiaru przemocy. Moderacja treści i ocena zagrożenia mają różne cele.

Analiza obrazu i zachowania

System może wykrywać obiekt, przekroczenie strefy, pozostawiony bagaż lub ruch przeciwny do tłumu. Takie zadanie jest węższe niż wnioskowanie o intencji i może być użyteczne, jeśli zdarzenie jest dobrze zdefiniowane.

„Podejrzane zachowanie” jest etykietą niebezpiecznie szeroką. Nerwowość, rozglądanie się, nietypowy ubiór i unikanie wzroku mogą wynikać z niepełnosprawności, lęku, kultury lub zwykłej sytuacji. Model nie obserwuje zamiaru; porównuje mierzalne cechy z danymi.

Wydajność trzeba testować w realnym środowisku, przy zatłoczeniu, pogodzie, zmianie kamery i zachowaniach osób z różnymi potrzebami. Alarm powinien prowadzić do proporcjonalnej weryfikacji, nie automatycznej interwencji siłowej.

Generatywne wsparcie analityka

Model generatywny może streszczać dokumenty, proponować zapytania, tłumaczyć, porównywać wersje, tworzyć pierwszą oś czasu i ułatwiać wyszukiwanie w aktach. Najbezpieczniejsze zastosowania mają dobrze określony materiał źródłowy, widoczne cytowania i człowieka sprawdzającego wynik.

Płynny tekst nie jest dowodem poprawności. Model może wymyślić fakt, połączyć dwie osoby, zgubić przeczenie lub nadać zbyt dużą pewność słabej relacji. Ryzyko rośnie, gdy odpowiedź trafia do notatki bez odnośnika do źródła albo gdy użytkownik zakłada, że szczegółowość oznacza prawdę.

Model nie powinien sam rozstrzygać, kto stanowi zagrożenie, ani tworzyć podstawy czynności z niezweryfikowanej narracji. Może pomóc odnaleźć fragment do oceny. Odpowiedzialny analityk musi przejść do oryginału i wykonać własne rozumowanie.

Streszczenie może zmienić sens

W dużych aktach streszczenie oszczędza czas, ale decyduje, co staje się widoczne. Model może pominąć dowód przeciwny, zamienić hipotezę w fakt albo ujednolicić sprzeczne relacje. Drobny błąd może później krążyć jako „ustalenie”.

Każde twierdzenie istotne dla decyzji powinno mieć wskazane źródło, stronę, czas i status. Użytkownik powinien móc otworzyć fragment jednym działaniem. Jeśli system nie potrafi pokazać podstawy, odpowiedź nadaje się najwyżej do orientacji.

Należy testować zadania, nie ogólną „inteligencję”. Model może dobrze streszczać krótkie dokumenty w jednym języku i źle łączyć wielojęzyczną oś czasu. Wyniki z demonstracji dostawcy nie zastępują walidacji na reprezentatywnych, zabezpieczonych sprawach.

Retrieval nie gwarantuje prawdy

System RAG wyszukuje fragmenty w bazie i przekazuje je modelowi do odpowiedzi. Ogranicza część halucynacji, ale wprowadza błędy indeksowania, rankingu i kontekstu. Dokument właściwy może nie zostać znaleziony, a fragment podobny językowo może nie odpowiadać pytaniu.

Baza może zawierać sprzeczne wersje, wycofane oceny i dane o różnej dostępności. Model musi respektować uprawnienia użytkownika oraz ważność dokumentu. Nie wolno pozwolić, aby streszczenie ujawniło treść, której użytkownik nie mógłby otworzyć bezpośrednio.

Złośliwy tekst w przetwarzanym materiale może próbować wpływać na model przez instrukcje osadzone w dokumencie. System powinien traktować źródła jako dane, nie polecenia, izolować narzędzia i ograniczać działania. Prompt injection jest problemem bezpieczeństwa także wtedy, gdy model nie ma dostępu do internetu.

Tłumaczenie maszynowe

Automatyczne tłumaczenie pozwala triage’ować materiał, lecz termin ideologiczny, idiom, żart i forma gramatyczna mogą zmienić sens. Model może ujednolicić warianty nazw albo błędnie rozpoznać, kto wykonał czynność. Język o małej liczbie danych bywa obsługiwany słabiej.

Wynik powinien zachować oryginał, wersję modelu i informację, czy został zweryfikowany przez człowieka. Fragmenty wpływające na zatrzymanie, zarzut lub ocenę zamiaru wymagają kompetentnego tłumacza odpowiedniego do etapu prawnego.

Nie należy tłumaczyć tajnego materiału przez publiczną usługę bez zatwierdzenia. Treść, metadane i zapytanie mogą zostać ujawnione dostawcy lub wykorzystane według warunków usługi. Umowa, lokalizacja przetwarzania i retencja są częścią oceny.

Generowanie hipotez

Model może proponować alternatywne wyjaśnienia i pytania kontrolne, przeciwdziałając rutynie. Może również wytworzyć dużą liczbę sugestywnych, lecz bezpodstawnych scenariuszy. Ich obecność w interfejsie zakotwicza analityka.

Polecenie powinno wymagać rozdzielenia danych od inferencji, wskazania braków i dowodów mogących obalić hipotezę. Odpowiedź nie powinna być zapisywana jako część akt, dopóki człowiek nie wybierze i nie uzasadni elementów.

Model nie zna tajnego kontekstu, którego mu nie przekazano. Powinien jawnie powiedzieć, na jakim zbiorze odpowiada. Brak dostępu nie jest dowodem braku informacji.

Automatyzacja decyzji

Automatyzacja może dotyczyć podpowiedzi, rankingu, rekomendacji albo ostatecznej czynności. Im dalej wynik przesuwa się w stronę skutku wobec osoby, tym większe wymagania dotyczące podstawy, wyjaśnienia, walidacji i możliwości sprzeciwu.

Dyrektywa 2016/680 dotycząca danych w organach ścigania nakazuje co do zasady zakazać decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują niekorzystny skutek prawny lub istotnie wpływają na osobę, chyba że prawo je dopuszcza i zapewnia gwarancje, co najmniej prawo do interwencji człowieka.5 Profilowanie prowadzące do dyskryminacji na podstawie szczególnych kategorii danych jest zakazane.

Formalne kliknięcie „zatwierdź” nie zmienia decyzji w ludzką. Człowiek musi rozumieć wynik, mieć dane do jego podważenia, czas i realną władzę wyboru. Jeśli odrzucenie rekomendacji wymaga długiego uzasadnienia, a akceptacja jednego kliknięcia, system projektuje automatyzm.

Automation bias

Ludzie przeceniają wynik systemu, zwłaszcza gdy zadanie jest trudne, interfejs wygląda profesjonalnie, a odpowiedzialność jest wysoka. Mogą przestać szukać sprzeczności albo uznać, że model widzi dane niedostępne człowiekowi.

Pomaga oddzielenie oceny wstępnej od wyniku modelu, pokazanie cech i ograniczeń oraz losowy przegląd decyzji zgodnych i niezgodnych. Zespół powinien badać, jak często analitycy zmieniają zdanie po rekomendacji i czy potrafią wykryć kontrolnie wprowadzony błąd.

Nie można zrzucać odpowiedzialności na użytkownika, jeśli interfejs ukrywa niepewność. Projekt, instrukcja, szkolenie i presja wydajności wspólnie kształtują zachowanie.

Wyjaśnienie dla różnych odbiorców

Inżynier potrzebuje informacji o danych, cechach, wersji i metrykach. Analityk potrzebuje podstaw wyniku, ograniczeń i drogi weryfikacji. Decydent musi rozumieć, co wynik pozwala stwierdzić. Osoba dotknięta potrzebuje wystarczającej informacji, aby zakwestionować pomyłkę.

Jedna wizualizacja ważności cech nie spełnia wszystkich potrzeb. Może też mylić, jeśli pokazuje zachowanie modelu lokalnie, a odbiorca interpretuje ją przyczynowo. „Cecha wpłynęła na wynik” nie znaczy, że spowodowała zagrożenie.

Tajemnica operacyjna i handlowa może ograniczać ujawnienie publiczne, lecz właściwy organ kontrolny powinien mieć pełny dostęp. Dostawca nie może uczynić decyzji niekontrolowalną przez odmowę pokazania dokumentacji.

Walidacja przed użyciem

Walidacja zaczyna się od jednoznacznego zadania i populacji. Trzeba ustalić, co jest wynikiem prawidłowym, jaka pomyłka jest groźniejsza, ile ręcznej pracy wywoła system i jak wynik zostanie użyty. Dokładność ogólna ma małą wartość przy skrajnej nierównowadze klas.

Dane testowe muszą być oddzielone od treningowych oraz odpowiadać przyszłemu środowisku. Duplikat tej samej osoby po obu stronach może zawyżyć wynik. Losowy podział bywa niewłaściwy, gdy celem jest działanie w późniejszym czasie; potrzebny jest test temporalny.

Należy mierzyć czułość, swoistość, precyzję, kalibrację, fałszywe dopasowania, czas analityka i skutek operacyjny. Wartość progu zależy od bazowej częstości i kosztu działania. Wynik trzeba rozłożyć według istotnych grup, jakości danych, miejsca oraz typu sprawy.

Walidacja w działaniu

Test laboratoryjny nie obejmuje kolejki, stresu, przerw w systemie i sposobu interpretacji. Pilotaż powinien działać w ograniczonym zakresie, z równoległym procesem odniesienia, możliwością natychmiastowego wstrzymania i bez ukrytego rozszerzenia.

Nie wolno oceniać systemu tylko na sprawach, które sam wybrał. Potrzebna jest próbka wyników negatywnych oraz osób niewskazanych, aby znaleźć przeoczenia. Trzeba też porównać decyzje bez modelu, bo poprawny alarm może nie wnosić niczego, co analityk już wiedział.

Wdrożenie zmienia zachowanie organizacji. Użytkownicy uczą się systemu, przeciwnik może się adaptować, a źródła zmieniają pokrycie. Walidacja jest procesem ciągłym, nie certyfikatem na czas nieokreślony.

Drift

Drift danych oznacza zmianę rozkładu wejścia, a drift pojęcia — zmianę relacji między cechą a poszukiwanym wynikiem. Nowa platforma, prawo, konflikt, sposób rekrutacji lub praktyka organu mogą unieważnić model bez widocznej awarii.

Monitoring powinien obserwować cechy, brakujące dane, wyniki, błędy i zachowanie użytkowników. Sam spadek średniego score’u nie mówi, czy zagrożenie zmalało, czy system utracił widoczność.

Po przekroczeniu progu driftu można ograniczyć użycie, wrócić do ręcznej metody, ponownie skalibrować lub wycofać model. Automatyczne douczanie na nowych decyzjach grozi utrwaleniem chwilowej praktyki bez recenzji.

Odporność na manipulację

Przeciwnik może zmieniać zachowanie, treść, obraz i infrastrukturę, jeśli zna lub odgaduje reguły. Nie należy publikować parametrów ułatwiających obejście. Nie usprawiedliwia to jednak nieprzejrzystości wobec audytora i braku dokumentacji.

Manipulacja może dotyczyć także danych źródłowych. Masowe fałszywe zgłoszenia, przejęte konto i spreparowany materiał mogą skierować uwagę na niewinną osobę. System powinien oceniać autentyczność, niezależność i pochodzenie zamiast liczyć liczbę wzmianek.

Testy red-team powinny obejmować błędy, nadużycie przez uprawnionego użytkownika, prompt injection, wyciek przez model, obejście progu i awarię integracji. Wynik musi prowadzić do naprawy i ponownego testu.

Dyskryminacja bez pola wrażliwego

Usunięcie rasy, religii lub pochodzenia z tabeli nie usuwa nierówności. Kod pocztowy, język, szkoła, sieć kontaktów i wzorce podróży mogą działać jako proxy. Model może też korzystać z etykiet wytworzonych przez nierówne praktyki.

Równość nie oznacza wyłącznie identycznej średniej. Trzeba badać fałszywe alarmy, przeoczenia, dotkliwość działań, dostęp do korekty i skumulowany ciężar. Ten sam procent błędu może bardziej szkodzić grupie częściej poddawanej kontroli.

Różnica statystyczna nie dowodzi automatycznie bezprawnej dyskryminacji, ale wymaga wyjaśnienia. Organ powinien sprawdzić jakość obrazu, reprezentację, progi, kontekst i alternatywne rozwiązania, a nie zasłaniać się tym, że model „nie widzi” cechy.

Chilling effect

Ludzie zmieniają zachowanie, gdy rozsądnie oczekują stałej obserwacji. Mogą zrezygnować z legalnego zgromadzenia, kontaktu z dziennikarzem, wizyty w miejscu kultu, lektury kontrowersyjnego materiału albo pomocy psychologicznej. Szkoda występuje, choć żadna osoba nie została zatrzymana.

Efekt mrożący jest trudny do zmierzenia, ponieważ obserwuje się brak działania. Można badać ankiety, zmianę udziału, zachowanie wyszukiwań, skargi i różnice po ogłoszeniu programu. Brak skargi nie dowodzi braku wpływu, zwłaszcza gdy ludzie nie wiedzą, co system zapisuje.

Akt o AI sam wskazuje, że zdalna identyfikacja w czasie rzeczywistym może wywoływać poczucie stałej obserwacji i pośrednio zniechęcać do zgromadzeń.2 Sprawa Glukhin pokazuje, jak połączenie monitoringu internetu, kamer i biometrii może ingerować równocześnie w prywatność oraz wypowiedź.4

Prawa nie są kosztem zewnętrznym

Prywatność, wolność wypowiedzi, zgromadzeń, religii, niedyskryminacja i skuteczny środek prawny są elementami bezpieczeństwa demokratycznego. Program, który ogranicza terroryzm kosztem stałego zastraszenia legalnej opozycji, zmienia chroniony porządek.

Ocena skutków powinna objąć osoby trafione, niewskazane, członków grupy, użytkowników przestrzeni i instytucje. System rozpoznawania jednej osoby przetwarza obrazy wielu. Model grafowy wpływa na kontakty. Skutek zbiorowy może być większy niż suma decyzji jednostkowych.

Proporcjonalność wymaga sprawdzenia przydatności, konieczności i równowagi. Istnienie technicznej możliwości nie dowodzi, że nie ma mniej ingerującej metody. Czasowy, geograficzny i osobowy zakres powinien być najmniejszy, który realizuje konkretny cel.

Rozpoznawanie emocji i intencji

System może próbować wyprowadzać emocje z twarzy, głosu, ruchu, tekstu lub danych fizjologicznych. Nawet poprawny pomiar ekspresji nie daje prostego dostępu do wewnętrznego stanu. Kultura, niepełnosprawność, stres sytuacyjny, leki i świadome odgrywanie zmieniają relację między sygnałem a emocją.

Jeszcze dalszym krokiem jest wnioskowanie o zamiarze przemocy. Zdenerwowanie podczas kontroli może wynikać z lęku przed funkcjonariuszem, traumy, ryzyka spóźnienia albo ukrywania zwykłego wykroczenia. System nie powinien nazywać takiej cechy „intencją terrorystyczną”.

Jeżeli narzędzie ma wspierać bezpieczeństwo, należy precyzyjnie opisać mierzoną obserwację, walidację i dopuszczalny skutek. Ogólne zapewnienie o „czytaniu mikroekspresji” nie spełnia tego standardu. Wynik nie powinien sam uzasadniać kontroli ani przesłuchania.

Dane komercyjne i pośrednicy

Państwo może kupować lokalizacje, identyfikatory reklamowe, profile konsumenckie i wyniki analityczne. Umowa handlowa nie usuwa ingerencji. Zbiór powstały z wielu aplikacji może ujawniać dom, pracę, leczenie, praktyki religijne i relacje, choć żadna pojedyncza transakcja nie wygląda na nadzór.

Organ powinien zbadać legalność pozyskania przez sprzedawcę, znaczenie pól, zgodę, możliwość usunięcia, reprezentatywność i dalszych podwykonawców. „Dane anonimowe” mogą być łatwo przypisane przez stałe miejsca i połączenie z innym źródłem. Pseudonim nie oznacza anonimowości.

Kupno nie może służyć obejściu wymagań, które obowiązywałyby przy bezpośrednim pozyskaniu. Jeśli prywatny dostawca tworzy scoring na zlecenie organu, odpowiedzialność publiczna obejmuje model, dane i skutki. Tajemnica handlowa nie powinna blokować kontroli.

Treść syntetyczna i fałszywy dowód

Generatywna AI obniża koszt tworzenia przekonujących tekstów, głosu, obrazu i wideo. Materiał może służyć propagandzie, podszyciu się, fałszywemu zgłoszeniu lub skierowaniu uwagi na niewinną osobę. Nie każdy nietypowy artefakt jest jednak deepfake’em, a detektor nie daje pewności.

Weryfikacja powinna łączyć pochodzenie pliku, źródło publikacji, wcześniejsze wersje, metadane, zgodność z niezależnymi zdarzeniami i analizę techniczną. Wynik detektora jest jedną wskazówką, zależną od kompresji, modelu generującego i aktualności narzędzia.

Treść prawdziwa może zostać fałszywie nazwana syntetyczną, co tworzy „dywidendę kłamcy”: sama dostępność technologii pozwala podważać autentyczny dowód. Dlatego należy zabezpieczać oryginały i łańcuch pochodzenia, a nie polegać wyłącznie na późniejszym rozpoznaniu manipulacji.

Systemy cienia

Formalnie zatwierdzony model może mieć dobre logi, podczas gdy użytkownik eksportuje wyniki do arkusza, dopisuje własny scoring i przesyła listę pocztą. Wtedy rzeczywisty system decyzji nie jest tym, który przeszedł ocenę.

Organ powinien obserwować cały przepływ pracy, w tym lokalne skrypty, kopie, dashboardy i generatywne usługi używane bez zgody. Zakaz bez dostępnej alternatywy może wypchnąć praktykę głębiej w cień. Potrzebne są bezpieczne narzędzia, szkolenie i możliwość zgłoszenia potrzeby.

Audyt musi pytać, z czego ludzie faktycznie korzystają. Rejestr oficjalnych systemów nie pokaże pliku, który w praktyce ustala kolejkę. Korekta i wycofanie modelu powinny objąć także takie produkty pochodne.

Różne reżimy danych

Przetwarzanie przez policję do zapobiegania i ścigania przestępstw podlega innym regułom niż administracyjna analiza, działalność wywiadowcza związana z bezpieczeństwem narodowym czy zwykła usługa. RODO nie obejmuje każdej operacji państwa, a etykieta „bezpieczeństwo” nie przenosi automatycznie działania poza prawo Unii.

Organ musi zidentyfikować administratora, cel, podstawę, kategorie osób, odbiorców, retencję i prawa. Dane zebrane w jednym reżimie nie stają się swobodnie dostępne w drugim. Zmiana celu wymaga osobnej oceny.

Prawo AI nie zastępuje ochrony danych, procedury karnej i praw człowieka. System może spełniać wymagania techniczne rozporządzenia i nadal być używany bez podstawy albo nieproporcjonalnie.

PNR jako lekcja granic

System danych pasażerów wykorzystuje automatyczne porównanie z bazami i kryteriami w celu wskazania osób do dalszej weryfikacji. Trybunał Sprawiedliwości UE w sprawie Ligue des droits humains utrzymał dyrektywę PNR przy interpretacji ograniczającej ingerencję do tego, co ściśle konieczne, oraz wyznaczył granice rozszerzania i retencji.6

Orzeczenie pokazuje, że cel antyterrorystyczny nie usuwa wymogu precyzji. Kryteria muszą być niedyskryminujące i podlegać kontroli, a pozytywne trafienie automatyczne wymaga indywidualnej weryfikacji środkami nieautomatycznymi przed niekorzystnym działaniem.

Nie należy przenosić PNR jako ogólnej zgody na każdy system podróżny. Ocena dotyczy konkretnego aktu, kategorii danych, celu i gwarancji. Nowe źródło lub nowy model zmienia bilans.

Akt o AI jako warstwa

Rozporządzenie 2024/1689 stosuje podejście zależne od ryzyka. Część praktyk zakazuje, część systemów uznaje za wysokiego ryzyka i nakłada obowiązki dotyczące danych, dokumentacji, logów, nadzoru ludzkiego, dokładności, odporności oraz oceny wpływu na prawa podstawowe.2

Nie każde narzędzie organu jest systemem wysokiego ryzyka, a nie każda funkcja analityczna podlega identycznym regułom. Kluczowe są przeznaczenie i rzeczywiste użycie. Dostawca nie może opisać produktu jako „zarządzanie dokumentami”, jeśli organ wykorzystuje wynik do oceny osoby.

Wyjątki bezpieczeństwa i szczególne przepisy wymagają starannej analizy zakresu. Instytucja powinna dokumentować, dlaczego system podlega określonej kategorii, zamiast uznawać całą działalność kontrterrorystyczną za wyłączoną.

Konwencja Rady Europy

Konwencja ramowa Rady Europy o AI, prawach człowieka, demokracji i praworządności została otwarta do podpisu w 2024 roku. Wprowadza ramę zasad, środków ochrony, oceny ryzyka i wpływu oraz środków odwoławczych w cyklu życia AI.7

Konwencja przewiduje szczególne podejście do bezpieczeństwa narodowego i wyłącza obronę, ale nie pozwala traktować technologii jako przestrzeni bez prawa. Działania związane z bezpieczeństwem narodowym powinny respektować prawo międzynarodowe i demokratyczne instytucje.

Ocena wpływu na demokrację obejmuje więcej niż prywatność jednostki. System może zmieniać debatę, zgromadzenia, relację między opozycją a państwem i możliwość kontrolowania władzy.

Zarządzanie modelem

Każdy model powinien mieć właściciela merytorycznego, technicznego i prawnego. Potrzebuje karty celu, danych, wersji, populacji, ograniczeń, mierników, progu, integracji, użytkowników, daty przeglądu i warunku wycofania.

Właściciel produktu odpowiada za skutek, nawet jeśli model działa w chmurze dostawcy. Zespół techniczny nie może sam określić dopuszczalnego progu zatrzymania, a prawnik nie powinien zatwierdzać modelu bez zrozumienia walidacji.

NIST ujmuje zarządzanie ryzykiem AI w czterech funkcjach: govern, map, measure i manage, wykonywanych w całym cyklu życia.8 To dobry porządek organizacyjny, ale dobrowolna rama nie zastępuje obowiązującego prawa.

Dane treningowe i operacyjne

Należy znać pochodzenie, podstawę, sposób etykietowania, pokrycie, duplikaty, braki i historię zmian. Dane publiczne mogą nadal zawierać informacje osobowe, a zbiór kupiony od brokera nie staje się legalny przez fakt zakupu.

Dane operacyjne nie powinny automatycznie trafiać do treningu zewnętrznego modelu. Umowa musi wykluczyć nieuprawnione utrwalanie i wtórne użycie, określić lokalizację, podwykonawców, incydenty i usunięcie. Wrażliwe testy mogą wymagać środowiska kontrolowanego oraz danych syntetycznych.

Syntetyczne dane pomagają testować rzadkie sytuacje i ochronić ludzi, ale odzwierciedlają założenia generatora. Nie dowodzą wydajności na realnym szumie. Powinny uzupełniać, nie zastępować reprezentatywny test.

Zamówienie publiczne

Specyfikacja powinna opisywać problem i mierzalny wynik, nie markę „AI”. Dostawca musi ujawnić wersjonowanie, walidację, zależności, prawa do audytu, procedurę aktualizacji, bezpieczeństwo, eksport danych i plan zakończenia.

Demonstracja na wybranych przykładach nie jest testem. Zamawiający powinien przygotować własny zbiór, przypadki trudne, dane przeciwne i próby przeciążenia. Umowa nie może uzależniać zapłaty wyłącznie od liczby alertów.

Trzeba przewidzieć zmianę dostawcy. Dane, logi i dokumentacja decyzji powinny pozostać dostępne w formacie umożliwiającym audyt. Vendor lock-in w systemie bezpieczeństwa tworzy ryzyko ciągłości oraz pokusę utrzymywania wadliwego produktu.

Aktualizacja modelu

Nowa wersja może zmienić wyniki bez zmiany interfejsu. Dostawca powinien dostarczyć opis, a organ wykonać test regresji na własnych zadaniach. Aktualizacja krytyczna dla bezpieczeństwa może być pilna, lecz nadal wymaga kontroli i możliwości powrotu.

Model generatywny oferowany jako usługa bywa zmieniany centralnie. Do poważnych zastosowań potrzebna jest stabilność wersji albo mechanizm wykrywania zmian. Inaczej nie da się odtworzyć odpowiedzi z dnia decyzji.

Każdy produkt analityczny powinien zapisywać wersję modelu, konfigurację, istotne wejście i źródła. Pełne logowanie promptów może zawierać tajne dane, więc wymaga ochrony i minimalizacji.

Bezpieczeństwo systemu

Model zwiększa powierzchnię ataku przez interfejsy, dane, zależności, wtyczki i konta. Atakujący może próbować wykraść dane, podmienić model, zatruć trening, przejąć konto lub wywołać nieautoryzowane działanie.

Uprawnienia powinny odpowiadać zadaniu. Model do streszczania nie potrzebuje prawa usuwania akt ani wysyłania wiadomości. Narzędzia wykonawcze wymagają osobnej autoryzacji, limitów, potwierdzenia i logów.

Incydent może podważyć wcześniejsze wyniki. Plan reakcji powinien ustalić okres, wersje, sprawy i odbiorców, zawiesić użycie, odtworzyć zaufany stan i powiadomić osoby odpowiedzialne za decyzje.

Audyt

Audyt powinien przejść od celu przez dane, model, interfejs i użytkownika do działania. Sama zgodność kodu z dokumentacją nie ujawnia, że analitycy kopiują wynik bez kontroli albo lokalna jednostka używa narzędzia do innego celu.

Próbka musi obejmować wyniki dodatnie, ujemne, odrzucone przez człowieka, skargi i grupy o różnej jakości danych. Audytor potrzebuje kompetencji technicznej, prawnej i operacyjnej oraz dostępu do informacji dostawcy.

Raport publiczny może podawać cel, typ danych, główne mierniki, gwarancje, incydenty i działania naprawcze bez ujawniania reguł umożliwiających obejście. Tajność konkretu nie usprawiedliwia milczenia o istnieniu i odpowiedzialności.

Prawo do korekty i środka odwoławczego

Osoba może nie wiedzieć, że model wpłynął na kontrolę, ranking lub decyzję. Procedura skargi powinna umieć ustalić użyte systemy, wersję, dane i ludzką ocenę. Odesłanie wyłącznie do dostawcy jest niedopuszczalne.

Korekta danych musi dotrzeć do cech pochodnych, wyników i odbiorców. Usunięcie błędnego nazwiska nie wystarczy, jeśli embedding, graf lub wcześniejszy raport nadal wiąże osobę ze sprawą.

Wyjaśnienie nie musi ujawniać wszystkich parametrów. Musi jednak pozwalać zakwestionować tożsamość, źródło, zastosowanie i skutek. Konwencja Rady Europy akcentuje dokumentowanie informacji wystarczającej do podważenia decyzji opartej istotnie na AI.7

Mierniki sukcesu i szkody

Liczba przetworzonych rekordów, alertów i godzin „zaoszczędzonych” nie pokazuje bezpieczeństwa. Potrzebne są wartość dla decyzji, precyzja przy realnej bazowej częstości, czas weryfikacji, wykryte przeoczenia, powtarzane błędy i skutek w całym procesie.

Szkody obejmują nieuzasadnione kontrole, błędne tożsamości, nierówność, wyciek, utratę zaufania, efekt mrożący i przesunięcie zasobów. Należy mierzyć ich rozkład, nie tylko średnią. Jedna niewielka grupa może ponosić większość kosztu.

Brak zamachu nie dowodzi skuteczności, a wystąpienie zamachu nie dowodzi bezużyteczności. Ewaluacja powinna badać mechanizm, porównanie z alternatywą i decyzje pośrednie, zachowując ostrożność wobec twierdzeń przyczynowych.

Kiedy nie wdrażać

Narzędzia nie należy wdrażać, gdy problem nie jest zdefiniowany, danych nie da się legalnie pozyskać, brak wiarygodnej etykiety, błąd krytyczny jest niemierzalny, użytkownik nie może zweryfikować wyniku albo nie ma procesu obsługi kolejki. Presja polityczna nie naprawia tych braków.

Prosty filtr, lepszy formularz, integracja istniejących systemów lub zwiększenie zespołu mogą być skuteczniejsze. Model generatywny nie rozwiąże utraty provenance, a rozpoznawanie twarzy nie zastąpi poprawnej galerii i procedury potwierdzenia.

Można prowadzić badanie w środowisku odizolowanym, bez skutku wobec osób, dopóki system nie osiągnie standardu. Pilotaż nie może jednak bezterminowo podejmować realnych decyzji pod łagodniejszą nazwą.

Kiedy wyłączyć

Warunki wycofania powinny powstać przed zakupem. Mogą obejmować spadek precyzji, nieakceptowalną różnicę błędów, zmianę prawa, brak dostawcy, incydent, niemożność audytu albo brak wartości względem prostszej metody.

Wyłączenie dotyczy integracji, kont, modeli, kopii, danych treningowych i produktów pochodnych. Trzeba ustalić, które wcześniejsze decyzje wymagają przeglądu. Utracony koszt nie jest argumentem za dalszym użyciem.

Organ powinien móc wrócić do bezpiecznego procesu ręcznego. System bez planu awaryjnego staje się infrastrukturą krytyczną przez przypadek, a dostawca uzyskuje wpływ na ciągłość państwowej funkcji.

Technologia nie znosi osądu

AI może poszerzyć widoczność i porządkować materiał, lecz nie nadaje legalnego celu, nie ustala wartości demokratycznych i nie bierze odpowiedzialności. Anomalia nie jest zagrożeniem, krawędź nie jest współudziałem, podobna twarz nie jest tożsamością, a płynne streszczenie nie jest prawdą.

Dojrzały system zaczyna od ograniczenia. Zbiera to, co potrzebne, pokazuje pochodzenie, mierzy rzadkie błędy, wymaga rzeczywistej weryfikacji i pozwala osobie podważyć wynik. Ocenia cały łańcuch od pozyskania do skutku oraz widzi ludzi, którzy nigdy nie pojawili się na ekranie, choć ich prawa i zachowanie zostały zmienione.

W przeciwdziałaniu terroryzmowi przewaga nie polega na zgromadzeniu największej ilości danych. Polega na wydobyciu wiarygodnego sygnału bez zalania analityków, utraty proporcjonalności i przekształcenia otwartego społeczeństwa w populację stale podejrzaną. Technologia jest wartościowa wtedy, gdy zwiększa zdolność do precyzyjnej, kontrolowalnej decyzji — i gdy instytucja potrafi z niej zrezygnować.

Przypisy