Er Kunstig Intelligens ufejlbarlig?
Kan Kunstig Intelligens være uretfærdig?
Hvad sker der, når Kunstig Intelligens begår åbenlyse fejl?


Over 34 tusinde arbejdsløse modtager forhåbentlig i næste måned velfortjent erstatning i kompensation for en temmelig hårdhændet behandling, Statens Kunstig Intelligens System har udsat dem for fra oktober 2013 til september 2015.

Det er svært at forestille sig det egentlige omfang af ulykker, der ramte alle disse mennesker, i kølvandet på afgørelser truffet af Kunstig Intelligens System under sagsbehandlingen. Personlig traume, omkostninger ved at skulle hyre advokater til forsvar mod konsekvenser af Kunstig Intelligens Systemets dispositioner, ødelagt kreditværdighed og rygte, et hav af konkursbegæringer, splittede familier, tvangsauktioner og hjemløshed, topper listen over ulykker påført flere end 34 tusinde borgere og deres familier af Statens nye Kunstig Intelligens System.

Som så mange gange før, også denne gang gik Staten modernisering-amok i forventningen om at rationalisere driften og spare administrationsomkostninger ved hjælp af et nyt selvtænkende IT-system, og som sædvanligt gik tingene også denne gang forfærdeligt galt på grund af mangelfuld risikostyring*).

*) Risikostyring betyder at man sikrer systemerne mod at fungere mod hensigten. Risikostyring skal sikre at man f.eks. ikke risikerer fald i effektiviteten, når målet er at øge den. Risikostyring skal sikre, at økonomisk gevinst som systemet forventes at indbringe, ikke bliver til et økonomisk tab på grund af "uforudsete", indefra- og udefrakommende problemer, som det nye system ikke var forberedt på at håndtere. Risikostyrings opgave er at forudse, registrere, foregribe/forebygge og problemløse alt, der kan svække eller ødelægge systemets effektivitet.

Det hyppigste problem med effektiviteten af projekternes risikostyring er, at lige som selve projekter, køber staten risikostyringen udefra, temmelig ofte på lige så flyvske forudsætninger, som disse systemer i første omgang bliver solgt til Staten på, og værre - hos de samme leverandører, der oprindeligt bliver hyret til at levere disse systemer. At overlade risikostyring-opgaver til samme leverandører, der skal levere risikostyring-krævende systemer, er stort set som at lade ræven vogte høns. Business is business, og kapitalismens Gylden Regel nr. 1 er jo at sælge mindst muligt for mest muligt, så hvorfor tage sorgerne på forskud, når man kan Fake it Till You Make it?

I Danmark har vi flere IT-systemer Staten har købt for mange, mange milliarder, og måtte skrotte bl.a. på grund af mangelfuld risikostyring: SKATs Et Fælles Inddrivelsessystem (EFI), Arbejdsskadestyrelens it-system PROASK, Politiets POLSAG, Forsvarets Daccis, Beskæftigelsesministeriets Amanda, Domstolsstyrelsens Civilstraffe og Forsvarets DeMars, mens Digital tinglysning overlevede dog og kom i gang efter alskens genvordigheder, mens Sudhedsplatformen indtil videre ser ud til at få lov til at fortsætte med at ødelægge vores sundhedsvæsen.

Statens Beskæftigelsesmyndighed besluttede at det hidtidige IT-system, hidtil drevet, korrigeret, vedligeholdt, opdateret af IT-medarbejdere - skulle erstattes med et selvtænkende, intelligent IT-system, der ikke alene kunne passe sig selv, men også kunne undersøge, samkøre, vurdere og lære af umådelig flere informationer (data), end det var muligt for IT-værktøjer styret af mennesker, tillige med at - i modsætning til de levende ansatte - havde Kunstig Intelligens System indbygget selvlæring i umenneskeligt tempo, samt var udstyret med retten til at realisere sine afgørelser, det selvtænkende IT-system fandt nødvendige, eftersom personalet, der trods alt var ansat til at overvåge det nye Kunstig Intelligens System, af en eller anden mystisk årsag, var temmelig uvilligt til at korrigere Systemets dispositioner.

Statens mål med indførelsen af Kunstig Intelligens System var en tredobling af driftseffektivitet i Beskæftigelsesmyndigheden. Kunstig Intelligens Systemet skulle sørge for, for det første - at kontrolressourcerne skulle anvendes kun hvis systemet fandt dem berettigede, dvs, over for de arbejdsløse, Kunstig Intelligens Systemet vurderede som snydere og bedragere; for det andet skulle Kunstig Intelligens Systemet øge Beskæftigelsesmyndighedens effektivitet i behandlingen af ansøgninger om arbejdsløshedsunderstøttelse; og endelig for det tredje - Kunstig Intelligens System forventedes at spare flere hundrede sagsbehandlere og administrationspersonale som følge af alle effektivitetsgevinster.

Efter at have brugt et par år og i omegnen af 300 millioner på at implementere Kunstig Intelligens System i Beskæftigelsesmyndighedens arbejdsgange, blev Kunstig Intelligens System taget i brug og kort efter proklamerede Staten at have opnået ubetinget succes. Ikke alene kom Kunstig Intelligens System godt i gang indenfor den planlagte indkøringstid og uden at overskride budgettet, men Kunstig Intelligens Systemet endda opdagede allerede i begyndelsen af sit virke, over 40 tusinde mistænkelige sager, hvoraf de 85% blev af det Kunstig Intelligens System udpeget som sikre tilfælde af socialbedrageri begået i tidligere ansøgninger om bl.a. arbejdsløshedsunderstøttelser.

Så snart påstanden om socialbedrageri yderligere blev underbygget af Kunstig Intelligens System, gik Staten i gang med at inddrive de uretmæssigt hævet beløb bl.a. gennem lønindeholdelse, modregninger i diverse skat- og momsrefusioner, udpantning af hjem eller tvangsauktioner. I tilfælde hvor indrivningen ikke kunne gennemføres fordi de pågældende socialbedragere var ubemidlede, blev de strafferetsligt retsforfulgt og dømt for socialbedrageri på baggrund af beviser leveret af Kunstig Intelligens System.

Pengene begyndte at strømme tilbage til Beskæftigelsesmyndighedens kasse i et omfang aldrig før set i velfærdssystemets historie. Ikke alene på grund af indrivningen af de oprindeligt skyldige beløb, men ikke mindst også fordi hver bedrager blev pålagt 400% strafafgift oveni.

Over 34 tusinde borgere blev ramt af Beskæftigelsesmyndighedens selvtænkende Kunstig Intelligens System og over 2 år befandt disse mennesker og deres familie sig i et Helvede - retsforfulgte, ruinerede, flere familier hjemløse, med ødelagt levebrød, ødelagt helbred, PTSD, flere dødsfald og selvmord, flere tvunget ud i prostitution - alene fordi Staten har for vane at gå modernisering-amok, nøjagtig som tilfældet er hos os i Danmark, omend konsekvenserne af dårligt solgte/købte, hidtil kulsejlede IT-projekter endnu ikke går så dramatisk ud over den enkelte borger, som det skete da det offentlige gik modernisering-amok i delstaten Michigan, USA - denne fortælling i virkeligheden handler om. (Kilde)

I disse dage sidder 34 tusinde Michigans borgere og deres familier på nåle, og venter på deres erstatninger, men er det overhovedet menneskeligt muligt at forestille sig selveste omfang af lidelser, disse mennesker blev påført af de folkevalgtes modernisering-amok? Jeg spørger bare!

Hvad rager det os, hvad Kunstig Intelligens bedriver i andre lande?



Hej mor

Jeg fandt artiklen Michigan's MiDAS-arbejdsløshedssystem: Algoritmernes alkemi skabte bly i stedet for guldIEEE's hjemmeside. IEEE er "verdens største tekniske faglige organisation stiftet for fremme af teknologi til gavn for menneskeheden".

Som artiklens overskrift antyder, så skaber kunstig intelligens, robotter og algoritmer ikke alkymistisk guld, men derimod bly. Det vil sige, at den nye teknologis løfter ikke kritikløst skal tages for gode varer. Artiklen tager udgangspunkt i en stor skandale med Michigans system MiDAS, der har truffet rigtig mange uheldige og skæbnesvangre beslutninger omkring folks arbejdsløshedsunderstøttelse. Som et af deres links også viser, er der en menneskelig uvilje mod at omgøre et beslutningssystems afgørelser, hvilket ikke gør afgørelserne bedre.

I takt med at man f.eks. fyrer medarbejdere og lægger det hårde løftearbejde over på automatiserede processer, forsvinder den organisatoriske viden, så kun få kan forklare afgørelserne. Dette er en tendens vi ser over hele linjen, ikke kun eksemplificeret med MiDAS, men også andre brancher der rammes af automatisering. Såsom hospitaler og banker. Der er ingen grund til at tro at det stopper der.

I Danmark har regeringen nedsat et Disruptionsråd, der skal sørge for at landet er på forkant med udviklingen. Jeg linker til pjecen, der fortæller lidt mere om deres formål, og indeholder ligefrem en opfordring til at gå forrest. McKinsey (Finansministeriets yndlings konsulenthus, der takkede den forh. finansminister Bjarne Corydon med et guldrandet job efter valgnederlag i 2015/red.) nævnes også et sted, og McKinsey ser ikke ud til at være mere belastet af skandalen omkring SKAT, end at de folkevalgte forsat adlyder McKinsey's instrukser. I modsætning til IEEE's artiklen, i regeringens pjece blandes lovordene ikke med en sund realisme omkring de potentielle negative konsekvenser. Vi får at se hvad fremtiden bringer...

"Digitalisering, robotter og kunstig intelligens kan gøre os rigere, give en bedre velfærd, skåne miljøet og skabe arbejdspladser med mindre nedslidning. Og vi kan vinde tabte job tilbage fra udlandet, så vi kan styrke Danmark som produktionsland" kan man læse i statsministerens Forlæns ind i fremtiden (måske ligefrem snublende?). Vi må håbe, at Løkkes fremtidsdrøm ikke bringer os alle i kachotten, som det bl.a. er sket i Michigan.




Hvad jeg ikke havde regnet med er, at i dag har vælgere langt større chance vitterligt at påvirke landets politik ved at nægte at stemme ved Folketingsvalg, end ved at stemme.