Czy AI Wykryć korupcję? Dowody z 27 systemów rządowych

Kąt. AI Może pomóc w wykryciu korupcji, ale nie tak, jak sugerują nagłówki. Narzędzia z niezależnie zweryfikowanymi wynikami są mało atrakcyjne: otwarte dane o zamówieniach publicznych i statystyczne sygnały ostrzegawcze, które monitorują kontrakty i urzędników publicznie. Systemy, które wyrządziły realną krzywdę, oceniały zwykłych obywateli w tajemnicy. Skieruj algorytm w górę, a nie w dół, i pokaż, jak działa.

Sztuczka

11 września 2025 r. Albania's Premier Edi Rama przedstawił nowego członka swojego gabinetu: Diellę, awatara generowanego przez sztuczną inteligencję, który rozpoczął życie jako chatbot na portalu usług e-Albania, powierzono mu nadzór nad zamówieniami publicznymi. Obiecał, że przetargi staną się całkowicie nieskazitelne. Nagłówki na całym świecie okrzyknęły go pierwszym AI minister.

Oto ujawnienie. Ponad rok później nie udało mi się znaleźć żadnego publicznego zapisu o tym, że Diella rozstrzygnęła choć jeden przetarg. W październiku 2026 roku Albania's Trybunał Konstytucyjny odrzucił skargę 39 posłów opozycji ze względu na ich status prawny, dodając, że AI Nie może zmienić porządku konstytucyjnego. Tymczasem staromodna odpowiedzialność była aktywna: wicepremier został oskarżony w związku z przetargiem na tunel drogowy o wartości około 190 milionów euro, według sieci śledczej OCCRP.

Awatar to sztuczka. Prawdziwa walka z korupcją AI jest nudny: dane publikowane jawnie, statystyczne sygnały ostrzegawcze, które każdy może sprawdzić, i audytorzy mający prawo do podejmowania działań. Aby rozróżnić te dwie kwestie, oceniłem 27 rzeczywistych misji, od Brazylii, przez Holandię, po Indie, odpowiadając na trzy pytania. Czy istnieją niezależne dowody na to, że to zadziałało? Czy osoby z zewnątrz widzą, jak to działa? Czy skrzywdziło niewinnych ludzi?

Mojo's Prawo: równanie flagi bezprawnej

Każdy system wykrywania oszustw popełnia dwa rodzaje błędów: pomija niektóre oszustwa i oskarża niewinne osoby. Gdy ścigany obiekt jest rzadki, dominuje drugi błąd. Oto arytmetyka, z którą każdy minister powinien zapoznać się przed uruchomieniem systemu:

\text{Innocent people flagged} = N \times (1 - p) \times \text{FPR}

N to liczba przebadanych osób, p to odsetek osób faktycznie oszukujących, a FPR to współczynnik wyników fałszywie dodatnich: jak często system niesłusznie oznacza uczciwą osobę.

Spróbuj zaokrąglić liczby (tylko przykładowo). Przeskanuj milion osób ubiegających się o świadczenia, załóż, że 1% z nich dopuszcza się oszustwa i przypisz systemowi 5% wskaźnik wyników fałszywie dodatnich. System niesłusznie sygnalizuje około 49 500 uczciwych osób, podczas gdy prawdziwych oszustów można znaleźć najwyżej 10 000. Jeśli każda sygnalizacja nie zostanie sprawdzona przez człowieka przed ukaraniem kogokolwiek, system stanie się maszyną do oskarżania niewinnych. Dokładnie tak stało się w Michigan, gdzie audyt wykazał, że 85% wniosków o oszustwo, ustalonych przez komputer, było błędnych.

Drugim prawem tutaj jest prawo Campbella's Prawo, autorstwa socjologa Donalda Campbella z 1976 roku: im częściej liczba jest wykorzystywana do podejmowania decyzji społecznych, tym bardziej sprzyja korupcji i zniekształca mierzony obiekt. Każdy wskaźnik antykorupcyjny będzie manipulowany przez osoby, które ma wyłapywać. Dobre systemy zakładają to od samego początku.

Jak duży jest naprawdę problem korupcji?

Na tyle duże, że ma znaczenie, i trudniejsze do zmierzenia, niż przyznaje większość artykułów.

122 ze 182 krajów uzyskało wynik poniżej 50 punktów, a tylko pięć uzyskało wynik powyżej 80, przy czym na czele znalazła się Dania z wynikiem 89.

Zamówienia publiczne to miejsce, gdzie są pieniądze. Bank Światowy's Bosio i Djankov oszacowali, że w 2018 roku wartość zakupów rządowych wyniosła około 11 bilionów dolarów, co stanowiło około 12% światowego PKB; Open Contracting Partnership szacuje tę wartość na około 13 bilionów dolarów rocznie. Badanie Banku Światowego z 2024 roku dotyczące Macedonii Północnej wykazało, że zawyżanie cen związane z korupcją stanowiło od 5 do 6% wydatków na zamówienia publiczne, a blisko 30% przetargów przyciągnęło jednego oferenta.

Teraz Mojo odmawia powtórzenia bez ostrzeżenia: słynnego twierdzenia, że ​​łapówki kosztują świat od 1.5 do 2 bilionów dolarów rocznie. Pojawiło się ono w nocie MFW z 2016 roku, ekstrapolowanej z szacunków Banku Światowego z 2005 roku autorstwa Daniela Kaufmanna , opartych na badaniach korupcyjnych i śmiałych założeniach.

Matthew Stephenson, specjalista od walki z korupcją, napisał, że tak naprawdę nie mamy pojęcia, ile kosztuje korupcja. Rzetelny zbiór dowodów powinien to potwierdzać, a następnie mierzyć to, co da się zmierzyć: zawyżanie cen, pojedyncze oferty, odzyskiwanie należności i niesłuszne oskarżenia.

Gdzie są dane i AI faktycznie wykryto korupcję?

Potwierdzonych zwycięstw jest mniej niż komunikatów prasowych, a najlepsze z nich dotyczą otwartości, nie sprytu.

Ukraiński ProZorro . Uruchomiony w 2015 roku po protestach na Majdanie i obowiązkowy od 2016 roku, ProZorro umożliwiał przeprowadzanie przetargów publicznych online, z nałożoną na niego platformą monitoringu obywatelskiego, DoZorro. W większości opiera się na otwartych danych, a nie na sztucznej inteligencji, i o to właśnie chodzi.

Niezależna ocena przeprowadzona przez Kijowską Szkołę Ekonomiczną w grudniu 2022 r. wykazała realne oszczędności rzędu 1–20% w porównaniu z zakupami poza systemem, w zależności od rynku. DoZorro's Model uczenia maszynowego z 2018 r., wytrenowany na około 3,500 przetargach oznaczonych przez ekspertów, podobno wykrył znacznie więcej podejrzeń zmowy niż ręczna analiza, ale wyniki te pochodzą od jego twórców.

Brazylijskie roboty. W 2016 roku grupa naukowców zajmujących się danymi stworzyła Rosie, bota open source, który zeskanował ponad 3 miliony rachunków członków Kongresu i oznaczył około 8,000 podejrzanych roszczeń. W pierwszych 125 przeanalizowanych przypadkach odzyskano jedynie około 2,500 R$; prawdziwą siłą Rosie była presja ze strony opinii publicznej.

Kontroler federalny's System Alice codziennie sprawdza przetargi pod kątem około 40 wzorców ryzyka; rząd twierdzi, że doprowadziło to do zawieszenia lub anulowania przetargów o wartości 9.7 mld R$ w latach 2019–2022, a liczba ta nie została przez nikogo niezależnie zweryfikowana.

Czerwone flagi, które przewidują. Badania naukowe prowadzone pod kierunkiem Mihálya Fazekasa stworzyły Indeks Ryzyka Korupcyjnego na podstawie danych dotyczących zamówień publicznych na Węgrzech. Firmy, które uzyskały wysokie wyniki, były bardziej dochodowe, miały większe powiązania polityczne i częściej były zarejestrowane w rajach podatkowych. Nie wszystkie czerwone flagi są jednak trafne: badanie 145 000 włoskich kontraktów z 2023 roku wykazało, że niektóre popularne wskaźniki mają słabą trafność. Czerwone flagi oznaczają ryzyko, a nie poczucie winy.

Podatki i płatności. Centralne organy ds. podatku GST w Indiach zgłosiły wykrycie oszustw związanych z fałszywymi odliczeniami podatku naliczonego na kwotę 74 782 crore rupii w latach 2025–2026, czyli dwa razy więcej niż dwa lata wcześniej, dzięki zaawansowanej analizie danych i profilowaniu ryzyka.

Wykrycie to jednak nie odzyskanie. W oddzielnym badaniu z lat 2024–2025, obejmującym urzędników centralnych i stanowych, wykryto 61 545 crore rupii fałszywych kredytów, a odzyskano 1,924 crore rupii, czyli około 3%, według PTI.

UK's ulgi podatkowe AI i analityki, z czego około 10 miliardów funtów pochodziło z przychodów z tytułu zgodności z przepisami w latach 2025-26, a w ramach informacji publicznej przypisano odzyskane kwoty 4.6 miliarda funtów systemowi danych Connect. Departament Skarbu USA zgłosił, że w roku fiskalnym 2024 zapobieżono lub odzyskano ponad 4 miliardy dolarów z tytułu oszustw, ale tylko około 1 miliarda dolarów z tej kwoty pochodziło z… uczenie maszynowe; reszta wynikała z lepszej kontroli ryzyka i zasad płatności.

Skromna prawda z Korei. Korea Południowa stworzyła jeden z najbardziej podziwianych na świecie systemów e-zamówień publicznych, a od 2006 roku także zautomatyzowany system wskaźników zmów przetargowych. W raporcie złożonym OECD w czerwcu 2026 roku, tamtejszy urząd ds. konkurencji poinformował, że system wykrył zaledwie 10 przypadków zmów przetargowych w ciągu ośmiu lat i zapowiedział jego modernizację. Nawet dobre systemy wykrywają mniej, niż można by przypuszczać.

Gdzie algorytmiczny rząd popełnił błąd?

Awarie te mają trzy wspólne cechy: były skierowane przeciwko konkretnym osobom, były nieprzejrzyste i dotyczyły komputera.'s Podejrzenie jako dowód. Kilka z nich opierało się na prostych regułach lub dopasowywaniu danych, a nie na sztucznej inteligencji, co samo w sobie stanowi ostrzeżenie: nie potrzebujesz sieci neuronowej, aby wyrządzić szkody na dużą skalę.

Holandia, zasiłki na opiekę nad dziećmi. Według Amnesty International, samouczący się model ryzyka wprowadzony przez holenderską administrację podatkową w 2013 roku wykorzystywał obywatelstwo inne niż holenderskie jako czynnik ryzyka. W latach 2005–2019 około 26 000 rodziców zostało niesłusznie oskarżonych o oszustwo, a rząd podał się do dymisji w styczniu 2021 roku.

Holenderski urząd ochrony danych nałożył na administrację podatkową grzywnę w wysokości 2.75 mln euro. Do stycznia 2024 roku 33 335 osób zostało uznanych za ofiary, a we wrześniu 2026 roku ponad 4,000 nadal czekało na wsparcie.

Holandia, SyRI. W lutym 2020 roku holenderski sąd orzekł, że SyRI, system łączący rządowe bazy danych w celu przewidywania nadużyć w zakresie opieki społecznej, narusza prawo do prywatności wynikające z artykułu 8 Europejskiej Konwencji Praw Człowieka, ponieważ jest niewystarczająco przejrzysty i weryfikowalny.

Australia, Robodebt. W latach 2016–2020 zautomatyzowany system dopasowywania danych uśredniał roczne dochody w celu obliczenia nadpłat zasiłków, wystawiając około 470 000 niesłusznych długów. Komisja Królewska w lipcu 2023 roku nazwała go prymitywnym i okrutnym. Rząd uzgodnił ugodę w wysokości 1.872 mld dolarów australijskich w 2021 roku i zapowiedział kolejne 475 mln dolarów australijskich we wrześniu 2025 roku.

Michigan, MiDAS. W latach 2013-2015 system ds. bezrobocia w Michigan rozstrzygał przypadki oszustw bez udziału człowieka. Przegląd wykazał, że 85% z tych 40 195 ustaleń było błędnych.

Anglia, oceny z egzaminów w 2020 roku. Kiedy egzaminy zostały odwołane podczas pandemii, model statystyczny obniżył oceny A-level w Anglii o 39.1%, czyli o około 280 000 wyników, co najbardziej dotknęło uczniów szkół publicznych, dopóki rząd nie zmienił kursu.

Rozpoznawanie twarzy. Badanie NIST z 2019 roku, obejmujące 189 algorytmów, wykazało, że wskaźniki fałszywie dodatnich wyników dla twarzy Azjatów i Afroamerykanów były często od 10 do 100 razy wyższe niż dla twarzy białych, w zależności od algorytmu. Do 2023 roku organizacja Innocence Project odnotowała sześć znanych niesłusznych oskarżeń wniesionych przez policję w USA za pomocą rozpoznawania twarzy , wszystkie dotyczące osób czarnoskórych. Po tym, jak Detroit rozstrzygnęło sprawę niesłusznego aresztowania w 2024 roku i zgodziło się na nowe zabezpieczenia, liczba policyjnych przeszukań spadła z około 100 w 2023 roku do 9 w 2025 roku.

Dania, sprawa wciąż sporna. W listopadzie 2024 r. Amnesty International argumentowała, że ​​niektóre z 60 modeli oszustw stosowanych przez Danię's agencja opieki społecznej może być uznana za punktację społeczną zakazaną na mocy EU AI działaćAgencja temu zaprzecza. To test nowych zasad w praktyce.

Wskaźnik uczciwości Mojo: co oddziela zwycięstwa od skandali?

Kogo system obserwuje. Każde z 27 wdrożeń oceniłem w skali od 0 do 2, biorąc pod uwagę trzy kryteria: niezależne dowody rezultatów, przejrzystość dla osób z zewnątrz oraz brak udokumentowanych szkód. Następnie posegregowałem je według celu.

Schemat jest wyraźny. Spośród 11 systemów monitorujących kontrakty i urzędników, żaden nie przyniósł odwrotnych skutków, a trzy niezależnie zweryfikowały świadczenia. Wszystkie sześć systemów monitorujących podatki i płatności zgłasza świadczenia, których nikt spoza rządu nie zweryfikował. Spośród 10 systemów monitorujących obywateli i pracowników, siedem wyrządziło udokumentowane szkody. Średni wynik w kategorii „Uczciwość” wyniósł 3.9 na 6 dla systemów monitorujących kontrakty i urzędników, w porównaniu z 2.3 dla systemów oceniających obywateli i pracowników.

Istnieje pewne zastrzeżenie: szkody wyrządzone obywatelom są przedmiotem postępowań sądowych i dokumentowane, podczas gdy koszty systemu monitorowania umów są trudniejsze do zauważenia. Mechanizm leżący u podstaw tego schematu jest jednak oczywisty. Obserwowanie umowy lub urzędnika's Wydatki publiczne pociągają za sobą odpowiedzialność potężnych. Prywatne ocenianie osób ubiegających się o zasiłki lub kierowców daje władzę nad słabszymi, a równanie bezprawnej flagi gwarantuje, że niewinni ludzie zostaną złapani w pułapkę.

A co z wykrywaniem zaniedbań? Ta sama logika ma zastosowanie do AI który obserwuje pracowników lub społeczeństwo. Kerala's sieć ponad 700 AI kamery ruchu drogowego, kosztujące 232 crore rupii, do kwietnia 2025 r. zarejestrowały około 98 lakh wykroczeń i nałożyły grzywny w wysokości 631 crore rupii, chociaż wczesne usterki wykazały odczyt prędkości 1,240 km/h.

Stan's Minister transportu twierdzi, że liczba ofiar śmiertelnych na drogach spadła z 4,084 w 2023 r. do 3,733 w 2025 r.; żadne badanie przyczynowe nie potwierdziło tego twierdzenia. W amerykańskich magazynach, raport większości komisji senackiej z grudnia 2024 r. wykazał, że Amazon…'s Wskaźnik urazów wyniósł 6.54 na 100 pracowników w 2023 r., w porównaniu z 4.8 w całej branży magazynowej, i był powiązany z limitami prędkości ustalonymi i monitorowanymi przez algorytmy. Amazon kwestionuje te doniesienia.

Unia Europejska's Dyrektywa w sprawie pracy za pośrednictwem platform, obowiązująca od grudnia 2024 r., zabrania platformom przetwarzania stanów emocjonalnych i prywatnych rozmów pracowników oraz wymaga kontroli przez człowieka. istotne zautomatyzowane decyzjeTo jest rozsądny szablon: pozwól AI zasygnalizuj zagrożenie, nigdy nie pozwól, aby ono było sędzią.

Kto zarządza algorytmami?

Świat's duże organy regulacyjne podążają w różnych kierunkach, a najważniejsze zasady dotyczące przyznawania świadczeń socjalnych i zasiłków zostały w Europie właśnie odrzucone.

Jurysdykcja	Co obowiązuje w listopadzie 2026 r.	Najnowsza zmiana
Unia Europejska	AI Ustawa obowiązuje od sierpnia 2024 r., zakazy od lutego 2025 r., o charakterze ogólnym AI obowiązki od sierpnia 2025 r.	Rozporządzenie Digital Omnibus, które weszło w życie 27 lipca 2026 r., przeniosło obowiązki wysokiego ryzyka w obszarach takich jak ocena dobrostanu z sierpnia 2026 r. na 2 grudnia 2027 r.
United States	AI Plan działania (lipiec 2025 r.) obejmujący ponad 90 działań federalnych; brak kompleksowego planu federalnego AI prawo	Rozporządzenie wykonawcze z dnia 11 grudnia 2025 r. mające na celu stworzenie krajowych ram i przeciwdziałanie „uciążliwym” AI prawa, z grupą zadaniową Departamentu Sprawiedliwości utworzoną w styczniu 2026 r.
Chiny	Przepisy wymagające widocznych i ukrytych etykiet w treściach generowanych przez sztuczną inteligencję, obowiązujące od 1 września 2025 r.	Egzekwowanie etykietowania
India	Bez wiązania AI prawo; IT Przepisy dotyczące etykietowania treści syntetycznych obowiązujące od 20 lutego 2026 r.	Był gospodarzem AI Impact Summit w Nowym Delhi, luty 2026 r.
Organizacja Narodów Zjednoczonych	Niezależny Międzynarodowy Panel Naukowy ds. AI mianowany w lutym 2026 r.	Pierwszy globalny dialog na temat AI Spotkanie w Genewie, lipiec 2026 r., z udziałem 163 krajów

Zwolennicy Europy's Zwolennicy opóźnienia twierdzą, że daje ono przedsiębiorstwom czas na dostosowanie się do skomplikowanych przepisów; krytycy, w tym grupy społeczeństwa obywatelskiego, twierdzą, że w ten sposób ryzykowne systemy sektora publicznego pozostają dłużej bez regulacji.

Zwolennicy amerykańskiego dekretu wykonawczego twierdzą, że mozaika przepisów stanowych hamowałaby innowacyjność; krytycy, w tym niektórzy urzędnicy państwowi, twierdzą, że unieważnia on demokratyczne decyzje i osłabia ochronę. Obie debaty poruszają to samo pytanie, do którego wciąż powraca ten artykuł: kto kontroluje system, zanim dotknie on obywatela?

Opinia publiczna jest ostrożna. Badanie KPMG i Uniwersytetu w Melbourne, przeprowadzone na ponad 48 000 osób w 47 krajach, opublikowane w maju 2025 r., wykazało, że 46% z nich jest skłonnych zaufać AI a 70% twierdzi, że regulacja jest potrzebna, podczas gdy 66% stwierdziło, że polega na AI wyjście bez sprawdzania go.

Stanford's AI Indeks uwzględnia 204 ustawy dotyczące sztucznej inteligencji uchwalone w 114 krajach w latach 2016–2024. Przepisy mnożą się. Prawdziwym wyścigiem jest to, czy uda się je wprowadzić przed kolejnym Robodebtem.

Sprawdź roszczenie

Roszczenie	Kto to robi	MES	Mojo's czytać
An AI minister uczyni przetargi nienaruszalnymi	Rząd Albanii, 2025	1 Roszczenie	Brak publicznego zapisu o jakimkolwiek przetargu rozstrzygniętym przez Diellę
Zamówienia elektroniczne oszczędzają rządom pieniądze	Ukraina's ProZorro	4 Strong	Niezależna ocena wykazała oszczędności rzędu 1–20%, różniące się w zależności od rynku
AI znaleziono podejrzane oferty o wartości 9.7 mld R$	Brazylia's rewizor	2 Wcześnie	Rząd's własna kwota; zawieszone oferty nie są udowodnionym oszustwem
Analityka wykryła rekordowe oszustwo podatkowe	Agencje podatkowe w Indiach, Wielkiej Brytanii i USA	2 Wcześnie	Dane dotyczące wykrytych przypadków są podawane przez agencje, ale liczba odzyskanych przypadków często stanowi niewielki ułamek
Czerwone flagi w zamówieniach publicznych zwiastują korupcję	Badania akademickie	4 Strong	Recenzowane linki do powiązań politycznych i zawyżone ceny; niektóre flagi są słabe
Automatyczne wykrywanie oszustw chroni pieniądze publiczne	Wiele agencji opieki społecznej	0 Nie wytrzymał	Robodebt, MiDAS i skandal holenderski wywołały masowe, niesłuszne oskarżenia
Łapówkarstwo kosztuje świat od 1.5 do 2 bilionów dolarów rocznie	Często powtarzane, z notatki MFW z 2016 r.	1 Roszczenie	Opiera się na ekstrapolacji z 2005 r.; naukowcy twierdzą, że prawdziwa liczba jest nieznana
AI kamery ruchu drogowego zmniejszają liczbę ofiar śmiertelnych na drogach	Rząd Kerali	2 Wcześnie	Liczba zgonów spadła, ale żadne badania nie łączą tego spadku z kamerami

Przeciwkąt

Najsilniejszym zarzutem jest to, że porównuję jabłka z pomarańczami. Systemy opieki społecznej i policyjne dotyczą milionów osób, więc ich błędy są nieuchronnie widoczne i osobiste. Monitorowanie zamówień publicznych dotyczy kilku tysięcy firm i urzędników, którzy mają prawników, ale nie mają współczucia, więc jego błędy rzadko trafiają na pierwsze strony gazet.

Z tego punktu widzenia mój indeks mierzy, kto narzeka, a nie które systemy są lepsze.

Coś w tym jest, dlatego indeks oddzielnie uwzględnia dowody, przejrzystość i szkody, a nie jedną magiczną liczbę. Jednak orzeczenia sądowe, komisje królewskie i audyty stojące za tymi siedmioma uchybieniami to nie skargi, lecz ustalenia.

A przypadki, których sprzeciw nie jest w stanie wyjaśnić, są tymi, które mają największe znaczenie: gdy te same rządy publicznie zastosowały algorytmy do własnych umów, nie skończyło się to na przeprosinach dziesiątek tysięcy rodzin.

Mojo's Prognozy

1. Albania musi opublikować weryfikowalny zapis co najmniej jednego przetargu publicznego rozstrzygniętego lub ocenionego przez Diellę do 31 grudnia 2027 r. Prawdopodobieństwo: 40%.
2. Unia Europejska's obowiązki wysokiego ryzyka dla systemów objętych załącznikiem III zaczną obowiązywać 2 grudnia 2027 r. bez dalszego odroczenia. Prawdopodobieństwo: 60%.
3. India 's centralne organy ds. GST zgłaszają fałszywe wykrycia podatku naliczonego za lata 2026–2027 przekraczające kwotę ₹74 782 crore z lat 2025–26 do 31 grudnia 2027 r. Prawdopodobieństwo: 70%.

Wszystkie trzy są rejestrowane w rejestrze prognoz Mojo.

Gdzie to będzie dalej dyskutowane

FAQ

Najlepszym algorytmem antykorupcyjnym jest arkusz kalkulacyjny, który każdy może otworzyć. Najgorszym jest wynik, którego nikt nie widzi.