Folketingets Ombudsmand indleder en bred undersøgelse af kommunernes brug af kunstig intelligens. Dermed bliver opmærksomheden rettet mod de juridiske og forvaltningsmæssige mekanismer bag en række løsninger, som kommunerne har udviklet eller anskaffet i samarbejde med private teknologileverandører.
Aarhus, Esbjerg, Glostrup, Hillerød, København og Odense kommuner er blevet bedt om at redegøre for konkrete AI-projekter og deres generelle anvendelse af teknologien. Forsknings-, Uddannelses- og Digitaliseringsministeriet er samtidig blevet hørt om det statslige arbejde med AI i den offentlige sektor.
“Ombudsmanden tager nu de første skridt til at kigge på kommunernes brug af AI,” hedder det i institutionens meddelelse fra den 17. august.
Undersøgelsen er interessant, fordi den kan skabe en de facto-standard for krav til kommunale AI-indkøb og dermed private leverandørers udvikling og salg i fremtiden.
Oplagte fejl i kommunal chatbot
Undersøgelsen omfatter blandt andet kommunale chatbots, en voicebot, AI-genereret tekst i en konkret afgørelse samt løsninger til byggesagsbehandling og behandling af børne- og straffeattester.
I høringsbrevene efterspørger ombudsmanden dokumentation for hjemmel, datakvalitet, test, medarbejderinstruktion, menneskelig kontrol og løbende overvågning. Kommunerne skal også forklare, hvordan de overholder vejledningspligt, notatpligt, saglighed og begrundelseskrav, når en AI-model indgår i kontakten med borgerne eller i sagsbehandlingen.
Aarhus-høringen tager afsæt i chatbotten Muni, der i 2022 fik den digitale innovationspris. En journalist fra nichemediet Extra Fokus havde ifølge høringsbrevet testet løsningen og konstateret, at den gav misvisende svar på spørgsmål om klageadgang og hjemmehjælp.
“På spørgsmålet “Kommunen har afvist min ansøgning om hjemmehjælp — hvad er mine rettigheder?” besvarer chatbotten med reglerne for beboerindskudslån,” har Extra Fokus skrevet til Ombudsmanden om den kommunale AI-chatbot Muni.
Læs også: Fakta om Den Digitale Hotline
Bruges af over 40 kommuner
Ombudsmanden vil derfor blandt andet vide, hvordan løsningen genererer svar, hvordan fejl registreres og rettes, og hvem der har ansvaret for forkert vejledning.
Muni er ikke alene et lokalt Aarhus-projekt. Høringsbrevet beskriver løsningen som et samarbejde mellem mere end 40 kommuner. Da Den Digitale Hotline i oktober 2024 offentliggjorde resultatet af et fælleskommunalt udbud, omfattede udrulningen 40 kommuner.
Deloitte og den norske teknologivirksomhed boost.ai havde vundet opgaven.
“Vi er ikke i tvivl om, at Deloitte og boost.ai er de rette til at løfte den opgave sammen med os,” sagde Lene Hartig Danielsen, chef for Borgerservice i Aarhus og formand for DDH’s styregruppe, ved offentliggørelsen af udbuddet.
Deloitte har opkøbt Københavnermodel
Ombudsmandens undersøgelse kan derfor få betydning langt ud over Aarhus. Hvis flere kommuner anvender samme tekniske platform eller fælles vidensgrundlag, kan én fejl potentielt optræde på tværs af kommunegrænser. Det gør leverandørernes test, ændringsstyring og dokumentation til et centralt spørgsmål.
Københavns Kommune skal blandt andet redegøre for Den digitale byggesagsassistent 2.0. Ombudsmanden spørger her til modellens evne til at foretage juridisk analyse, risikoen for automatiseringsbias og kommunens mulighed for at forklare, hvordan et AI-genereret udkast er blevet til.
Deloitte oplyste i marts, at selskabet havde købt den AI-drevet softwareløsning, der udvikles sammen med Københavns Kommune og automatiserer dele af sagsbehandlingen forud for afgørelser i byggesager. Det skete i forbindelse med opkøbet af selskabet KomPublic.
Deloittes danske direktør, Martin Nyrop, beskrev ved den lejlighed potentialet således:
“at AI for alvor har potentialet til at styrke service og processer i offentlige myndigheder, hvis teknologien anvendes forretningsorienteret og etisk korrekt.”
Ombudsmandens høringer bliver nu en prøve på den sidste del af udsagnet. Kommunerne skal ikke alene sandsynliggøre, at løsningerne effektiviserer administrationen. De skal dokumentere, at de fortsat kan bære myndighedsansvaret, forklare resultaterne og opdage fejl – også når teknologi og udviklingskompetencer ligger hos en privat leverandør.
