AI er ved at forandre softwareudvikling, som vi kender den. Med blot få klik kan enhver med en idé nu generere avancerede applikationer. Men fremkomsten af såkaldt “vibe coding” medfører også nye sikkerhedsrisici. Kodeforslag fra sprogmodeller kan føre til sårbarheder og datalæk, især i små og mellemstore virksomheder med begrænsede ressourcer.
Projektet “Understanding and Supporting Secure AI Tools in Software Development Teams” har til formål at udvikle retningslinjer og værktøjer, der gør det muligt for udviklere at anvende AI i softwareudvikling på en sikker og ansvarlig måde. Dermed styrker projektet direkte cybersikkerheden og sikrer, at AI understøtter både kvalitet og produktivitet.
Støtten til dette initiativ afspejler DIRECs engagement i at fremme forskning, der skaber konkret værdi for danske virksomheder, samtidig med at den imødekommer samfundets behov for sikker og ansvarlig digitalisering. Med sit fokus på cybersikkerhed og de udfordringer, som SMV’er står overfor, vil projektet spille en central rolle i at styrke Danmarks teknologiske robusthed og fremme den politiske vision om en sikker digital fremtid.
Projektet er forankret i et stærkt partnerskab mellem IT-Universitetet i København, Syddansk Universitet og tre danske softwarevirksomheder: Mjølner Informatics, CyberJuice og Clockwork Consulting. Gennem indlejret forskning, co-design og workshops vil forskerne kombinere akademisk ekspertise med industripraksis for at skabe praktiske løsninger, der fremmer ansvarlig teknologisk udvikling.
Projektet vil munde ud i udviklingen af en AI-faktatjekker, der hjælper udviklere med at vurdere sikkerheden af AI-genereret kode i realtid. Derudover vil teamet udarbejde praktiske retningslinjer for softwareteams, der integrerer AI i deres arbejdsgange. Disse resultater vil adressere både sociale og tekniske dimensioner – for eksempel hvordan AI ændrer teamdynamikker, og hvordan udviklere bedst kan forebygge fejl og sikkerhedsbrud.
 |
Louise Barkhuus – Professor – IT University Copenhagen
|
 |
Adam Alami – Associate Professor – University of Southern Denmark
|
 |
Elda Paja – Associate Professor – IT University Copenhagen
|
 |
Oksana Kulyk – Associate Professor – IT University Copenhagen
|
 |
Peter Mayer – Associate Professor – University of Southern Denmark
|
This project is particularly relevant for CyberJuice because it aligns directly with our core vision: to empower SMEs with cutting-edge, actionable security knowledge. As a fast-growing company, we face the same challenges many others do, that is navigating the evolving landscape of AI tools, security risks, and the human factors in software development. Participating in this project will not only help us enhance our own processes but also contribute to industry-wide understanding of AI’s role in secure software development.
Bodil Biering
CEO and Founder
Cyber Juice ApS
By joining this project, we would like to get more evidence of what works and in what context. The huge amount of automatic software tools currently available shows, that there is no consensus on how to ensure high quality software. We see this project as an opportunity to gain more knowledge and perhaps contribute to consolidate metrics and methods.
Jens Bæk Jørgensen
Senior Programme Manager
Mjølner Informatics
We believe the type of knowledge that this project will provide can help companies like ours better understand how to potentially use AI (or not) in security and safety related software development. As a small company, we do not have resources to invest in expensive tools and investigations that would uncover where in our process AI tools would be relevant, and as such, this research is very relevant to our software production. By contributing our practical expertise and participating in the project, we can help shape a tool that helps across the software development industry.
Tobias Jørgensen
Founding Partner
Clockwork Consulting A/S
