22. september 2026

AI kan begå fejl – men skal også kunne erkende det

Mød DIREC-forsker, Chengyandan Shen

Det er ikke nemt at erkende sine egne begrænsninger. Chengyandan Shen har taget opgaven på sig at lære robotter at genkende deres fejl. De fleste af os har oplevet, at AI svarer forkert på noget på en skærm. Når en robot gør noget forkert, sker det i den “virkelige” verden: på en produktionslinje, med dyrt maskineri eller potentielt på et hospital.

“Vi hjælper robotten med at opdage, når den er usikker, så vi kan korrigere dens adfærd og få den til at arbejde mere pålideligt og effektivt,” forklarer Chengyandan.

At lære robotter at vide, når de tager fejl

For syv år siden flyttede Chengyandan fra Kina til Danmark for at studere robotteknologi på DTU. Hun havde en bachelor i maskinteknik og en stor interesse for, hvordan maskiner bevæger sig. I Danmark stiftede hun bekendtskab med reinforcement learning – en gren af AI, hvor systemer lærer ved at prøve sig frem, fejle og justere deres adfærd.

Den interesse førte til en erhvervs-ph.d. Undervejs fandt hun ud af, at det, hun især nød, var at undersøge de åbne spørgsmål inden for robotteknologi og afprøve idéer, som måske – og måske ikke – ville virke. I dag er hun postdoc på SDU Robotics og en del af DIREC-projektet MOTUS.

Chengyandan sætter især pris på samarbejdet med Danfoss, hvor teamet automatiserer et konkret setup og viser, hvordan metoder, der tager højde for usikkerhed, kan være med til at løse et reelt industrielt problem.

“Når en idé, jeg selv har udviklet, virker, er det et virkelig godt øjeblik. Og det er meget tilfredsstillende at se den rigtige robot bevæge sig, præcis som man ønsker.”

Pålidelig AI som konkurrencefordel

Der er en fin symmetri i Chengyandans arbejde: Hun lærer robotter at erkende, når de er usikre, og noget af det, hun sætter størst pris på ved dansk forskning, er, at forskere også får lov til at være usikre.

“Man kan tage sig tid, og man må gerne fejle. Vi er oprigtigt nysgerrige på, om og hvorfor noget virker eller ikke virker, og jeg synes, det er det, rigtig forskning handler om. Det er her, innovation opstår.”

Det globale AI-kapløb handler ofte om størrelse og hastighed, men måske bør kapløbet også handle om noget andet: teknologi, man kan stole på. En robot, der ved, hvornår den tager fejl, er en robot, man i højere grad kan begynde at have tillid til på en fabrik eller et hospital.

  • Projektperiode: 2025 – 2027
  • Partnere: IT-Universitetet i København, SDU, Universal Robots, Danfoss Drives og ROPCA
  • Finansiering: 3,75 millioner kr.

Nyheder