AI i det offentlige er ikke noget nyt. Langsomt har teknologien sneget sig ind på kommunekontorer og hospitalsgange. Men jublen er udeblevet. Derfor er det rettidig omhu, at regeringen nu har nedsat en taskforce til at identificere potentialer og barrierer i forbindelse med brugen af AI i det offentlige Danmark. 
 
I Danmarks nationale forskningscenter for digital teknologi – DIREC – har vi de seneste fire år støttet en række forsknings- og innovationsprojekter, hvor forskere i samarbejde med offentlige organisationer undersøger, hvordan AI kan løse udfordringer og skabe værdi for det danske samfund.
 
Vi står foran et væld af muligheder med AI. Men hvis vi for alvor skal høste frugterne, ved vi, at det kræver et styrket samarbejde mellem de offentlige aktører, innovative virksomheder og forskere fra de danske universiteter. 

Gevinster for millioner

De forskningsprojekter, DIREC finansierer, viser tydeligt, at der er meget at hente ved at anvende digital teknologi og AI i det offentlige. 
 
I et projekt samarbejder forskere på tværs af Danmark med en række hospitaler om at analysere CT-scanninger fra patienter med nyrekræft med AI. Samarbejdet viser, at det er muligt at forkorte behandlingsforløb med 2-4 uger, undgå unødige biopsier og spare omkring 15-25 millioner kroner årligt i sundhedsvæsenet. 

I et andet projekt samarbejder forskere med danske forsyningsselskaber for at undersøge, hvordan AI kan hjælpe med at undgå oversvømmelser ved kraftig regn ved at fordele nedbør og spildevand rundt i søer og vandsystemet mest effektivt.  
Fælles for alle projekter er, at AI-teknologi ikke er noget, vi bare kan tage ned fra hylden. Forskere, virksomheder og det offentlige skal i samarbejde udvikle specifikke løsninger på en række udfordringer. Her er tre eksempler på disse udfordringer: 

1. AI skal kunne forklares 
Store AI-modeller består af millioner og nogle gange milliarder af parametre, og deres svar afhænger af en kombination af dem. De seneste ti år har vi forsøgt at få AI til at sandsynliggøre alt fra tvangsfjernelser til langtidsledige. Men de har fejlet, fordi sagsbehandlerne ikke har en chance for at forstå modellernes logik.  
Det offentlige har ikke brug for en chatbot, som altid kan spytte et svar ud. Der er brug for en teknologi, som kan spille sammen med borgerne og de offentligt ansatte.  
 
Derfor er der behov for at udvikle et lag af teknologi, som kan forklare, hvordan modellerne kommer frem til svarene. Så behandlingen af en byggesag ikke blot ender i et ja eller nej, men også indeholder argumenterne for afgørelsen. Forklarlig AI (Explainable AI) er en nødvendig forudsætning for, at AI bliver en medspiller, som kan understøtte borgerne og de offentligt ansatte. 

2. AI skal følge loven 
Store sprogmodeller svarer ikke altid korrekt. De har en tendens til at hallucinere. Det er sjældent et problem, når vi genererer tante Odas festsang ved hjælp af ChatGPT. Men skal AI anvendes som chatbots i borgerens kommunikation med det offentlige, skal vi kunne stole på, at modellernes svar er korrekt. Vi skal kunne verificere, at svaret f.eks. overholder gældende lovgivning.
 
Der er stort behov for at bygge et lag af teknologi omkring sprogmodellerne, som kan give denne garanti. En sådan regel-baseret tilgang fås ikke i de store sprogmodeller i dag. Sprogmodellerne skal i højere grad ses som en brugervenlig indgang til en mere avanceret AI, der som en erfaren sagsbehandler altid kommer frem til det helt korrekte svar.
 
3. AI skal beskytte privatlivets fred 
En effektiv AI skal være trænet med store mængder data. Men mange af de data, som det offentlige anvender, er personfølsomme. Det er et stort problem i et samfund, hvor vi er enige om, at privatlivet skal beskyttes. 
En række forskere på de danske universiteter arbejder med denne udfordring. Et bud på en løsning er “federated learning,” hvor algoritmen trænes lokalt, men “besøger” servere hos eksempelvis hospitaler og sender resultatet tilbage. Således forlader data aldrig de beskyttede miljøer. En anden tilgang er “edge-based computing,” som komprimerer store AI-modeller til mindre modeller, der kan køre på lokale computere, så personfølsomme data ikke skal behandles i skyen.

Skab digitale dream teams på tværs

De tre udfordringer er bare et udpluk af det, mange forskere på de danske universiteter dedikerer deres vågne timer til. Spredt på universiteter ligger dyb viden om, hvad AI-teknologi kan, og hvilke ekstra teknologier, som skal bringes i spil for at skabe succesfuld AI i det offentlige. 

Den vigtigste opgave for den nedsatte taskforce for AI bliver at inddrage den enorme viden på universiteterne, i virksomhederne og i det offentlige. Vi skal samle eksperterne inden for digitalisering og AI i Danmark i digitale dream teams.  

Kun digitale dream teams kan sikre, at AI bliver en succes i det offentlige. 

Indlægget er bragt på altinget.dk den 26. august 2024