Thomas Hildebrandt kalder på pålidelig AI i det offentlige – det skal være slut med “sandsynlighedsgætteri”

Det er ikke svært at forestille sig, hvordan AI vil kunne gøre gavn på et hospital eller i en kommune. Automatiserede processer og mere tid til de borgernære opgaver er blot nogle af fordelene i det offentlige AI-nirvana, som man har forsøgt at nærme sig de seneste årtier.

Først med profilering af borgere ved hjælp af dataregistre. Senere med chatbots baseret på sprogmodeller. Succesen har dog været begrænset, og mange af modellerne er modellerne endt på det offentliges kirkegård for kuldsejlede IT-projekter.

Med 15 års erfaring med forskning i AI i det offentlige er Thomas Hildebrandt, Professor ved Datalogisk Institut på Københavns Universitet, en af de mest markante stemmer på området. Ifølge ham er sprogmodeller som ChatGPT blevet populære på grund af deres evne til at generere svar, der virker overbevisende og tilforladelige. Men under overfladen er de ikke bygget til at fungere i en kontekst, hvor svarene aldrig må være forkerte.

“De her modeller producerer ikke svar ud fra reel logik. De er bare tekstgeneratorer, der finder den mest sandsynlige næste sætning – ikke ud fra fakta, men ud fra statistik. Det duer simpelthen ikke i en offentlig kontekst, hvor vi skal kunne forklare, hvorfor en borger skal fratages sin kontanthjælp, eller at børn skal tvangsfjernes,” siger han.

Hildebrandt peger på, at offentlig sagsbehandling kræver gennemsigtighed. Borgerne skal kunne stole på, at AI-systemer ikke bare gætter, men faktisk overholder loven. Samtidig skal det kunne dokumenteres.

“Vi skal kunne forklare, hvordan systemet når frem til en afgørelse. Det er et simpelt krav, som vi er nødt til at stille i et retssamfund.”

Fra spådomsmodeller til hybridløsninger

Historien om AI i det offentlige er fuld af fejlslagne forsøg på at integrere hypet teknologi. Først troede man, at sammenkobling af data fra forskellige registre kunne forudsige alt fra langtidsledighed til børnepenge.

“Det endte med, at sagsbehandlerne ikke turde stole på teknologien, og at brugerne klagede over diskrimination,“ forklarer Thomas Hildebrandt

For få år siden dukkede sprogmodellerne op som en ny hyldevare, der lovede store forandringer. Offentligt ansatte blev sendt på kurser i at prompte, og man byggede RAG-løsninger (retrieval-augmented generation) der træner modellen på databaser af lovtekster. Men selv disse løsninger har vist sig problematiske.
“De her systemer er for komplekse at holde ved lige, og hvad sker der, hvis der kommer en softwareopdatering? Der er for mange ukendte faktorer,“ advarer Hildebrandt.

Udover deres upræcise svar trækker sprogmodeller enorme mængder energi.

“Det kræver milliarder af beregninger at drive en sprogmodel, hvilket gør dem ekstremt energiineffektive. En regelbaseret chatbot bruger 1.000 gange mindre energi. Den er kedeligere, men langt mere pålidelig og sporbar,“ siger Thomas Hildebrandt.

Hybrid AI kan være løsningen

For Thomas Hildebrandt og hans forskerteam ligger fremtiden i hybrid AI, der kombinerer sprogmodeller med regelbaserede systemer. På den måde kan borgerne interagere med sprogmodellen på en måde, de er vant til, mens svarene indhentes fra et regelbaseret system, hvori lovens bestemmelser er kodet ind.

“Det handler om at bruge det bedste fra begge verdener. Regelbaserede systemer giver pålidelighed og sporbarhed, og sprogmodeller kan bidrage med fleksibilitet og brugerinteraktion,“ siger han og bruger en byggesag som eksempel:

“Hvis byggeriet af din kommende carport bliver afvist, skal systemet kunne forklare, hvilke regler der ligger til grund for afgørelsen. Det er den type AI, vi har brug for – ikke sandsynlighedsgætteri.”

Derfor har hans team fået støtte til nye projekter, der involverer udviklingen af regelbaserede systemer.

“Det er positivt, at vi begynder at få tilkendegivelser fra det offentlige om, at det er denne vej, de vil gå. Derfor er jeg positiv omkring fremtiden for AI i det offentlige,” afslutter han.

Se videoen her: