Annullering af innovationscasen Kunstig intelligens til beslutningsstøtte
Resumé
Den 5. maj 2022 godkendte Borgerrepræsentationen innovationscasen ’Kunstig intelligens til beslutningsstøtte’. Formålet med innovationscasen er at udvikle algoritmer, der kan identificere borgere med behov for vedligeholdende træning og/eller funktionstab. Algoritmerne kan medvirke til at identificere den rette målgruppe for en træningsindsats hurtigt, så borgernes behov for hjælp udskydes, og personaleressourcerne bruges effektivt.
Et væsentligt element i innovationscasen har været at afdække juridiske muligheder og barrierer i forbindelse med at udvikle og anvende algoritmer til beslutningsunderstøttelse. Der er gennemført en afdækning af det juridiske grundlag, og det vurderes, at det på nuværende tidspunkt ikke er muligt at gennemføre innovationscasen, hvorfor der lægges op til at casen annulleres.
Indstilling
Sundheds- og Omsorgsforvaltningen indstiller til Sundheds- og Omsorgsudvalget,
1. at Sundheds- og Omsorgsudvalget (SOU) godkender, at innovationscasen ’Kunstig intelligens til beslutningsstøtte’ bliver annulleret.
Problemstilling
Innovationscasen er baseret på gode erfaringer fra Aalborg Kommune og er motiveret af den store opmærksomhed fra Regeringen, KL og Københavns Kommune på at benytte kunstig intelligens til at afhjælpe de store velfærdsudfordringer.
Det juridiske grundlag
Sundheds- og Omsorgsforvaltningen bad i efteråret 2022 advokatfirmaet Horten om at undersøge hjemmelsgrundlaget ift. at udvikle og drifte en algoritme, der anvender personoplysninger indenfor servicelovsområdet. Horten vurderede i et notat (Bilag 1), at der generelt mangler en lovhjemmel til at udvikle, gentræne og anvende algoritmer, der bygger på personoplysninger indenfor servicelovsområdet. Der har efterfølgende været en uformel dialog med advokatfirmaet Plesner, der er enig i Hortens vurdering. Horten vurderede samtidig, at det er endnu vanskeligere at anvende data indenfor sundhedslovsområdet til at udvikle og drifte algoritmer.
Regeringen, Danske Regioner og KL har støttet i alt 40 signaturprojekter, der skulle afprøve anvendelsen af kunstig intelligens i den offentlige sektor. Forvaltningen har været dialog med en række af kommunerne og Region Sjælland om, hvordan de har håndteret eventuelle juridiske udfordringer. I dialogen er det blevet tydeligt, at kommunerne og regionen oplever de samme juridiske barrierer som Københavns Kommune.
Forvaltningen har i foråret 2023 sendt Hortens notat til Datatilsynet for at få deres vurdering af, om de er enige i Hortens konklusioner. Forvaltningen afventer fortsat en tilbagemelding, men er blevet stillet i udsigt, at den tidligst vil komme i august. Til den tid vil der imidlertid restere så få måneder af projektperioden, at det ikke vil være muligt at nå at udvikle algoritmen. I fald tilbagemeldingen fra Datatilsynet mod forventning er positiv, vil der kunne udarbejdes en ny innovationscase.
Løsning
I den nuværende nationale digitaliseringsstrategi er det ambitionen at frigive 10.000 medarbejder på 10 år i den offentlige sektor ved brug af ny teknologi (fx kunstig intelligens) og automatisering. Med de nuværende juridiske barrierer bliver det svært at realisere.
Tilvejebringelse af en lovhjemmel
Forvaltningen adresserede problemstillingen for første gang i efteråret 2022 i et høringssvar til ’Bekendtgørelse om dataindberetning af visse ydelser på ældreområdet’ som KL sendte til Social- og Ældreministeriet på vegne af Københavns Kommune. Efterfølgende har borgmesteren rejst det i sit møde med Ældreministeren i 2023 med sigte på, at der eventuelt kan skabes hjemmel i en kommende Ældrelov. Desuden er problemstillingen rejst i forbindelse med kommunikationsindsatsen som opfølgning på afbureaukratiseringsindsatsen som opmærksomhedspunkt på national lovgivning, der ikke understøtter effektiv opgaveløsning.
Problemstillingen er også bragt op i den kommunale baggrundsgruppe om Robusthedskommissionen og senest på en workshop afholdt af Robusthedskommissionen med det resultat, at behovet for en hjemmel blev hovedpunktet i de fælles anbefalinger fra eksperterne til kommissionen.
Forvaltningen har afholdt møde med KL i januar og Digitaliseringsstyrelsen i april 2023, hvor de juridiske barrierer er præsenteret med henblik på, at de kan rejse behovet for hjemmel nationalt. Som opsamling på mødet med Digitaliseringsstyrelsen er der efterfølgende sendt et notat om de juridiske udfordringer til styrelsen (Bilag 2). Notatet skal anvendes som input til udarbejdelsen af en 10 årsplan for anvendelsen af nye teknologier, som Digitaliseringsstyrelsen, KL og Danske Regioner er i gang med at udarbejde.
Økonomi
Der er i 2023 bevilget 1.829.000 kr. til innovationscasen. På nuværende tidspunkt resterer der 1.365.457 kr.
Hvis SOU godkender at annullere innovationscasen, bliver de overskydende midler betalt tilbage. Det er aftalt med Økonomiforvaltningen, at de overskydende midler tilbageleveres i forbindelse med førstkommende sag om bevillingsmæssige ændringer.
Videre proces
Hvis SOU godkender at annullere innovationscasen, vil forvaltningen fortsat arbejde for at tilvejebringe den fornødne hjemmel. Dette gøres fx ved fortsat at være i dialog med KL, Digitaliseringsstyrelsen, Datatilsynet og andre relevante aktører.
Endvidere vil forvaltningen fortsat afdække, hvad der kan lade sig gøre på kort og længere sigt ift. den nuværende lovgivning og anvendelse af forskellige typer af data (fx ikke-personhenførbare data), samt undersøge hvilke krav der er til at få en løsning klassificeret som medicinsk udstyr.
Forvaltningen arbejder også på at opdatere den gældende privatlivspolitik, så den indeholder muligheden for at bruge data til kvalitetsudvikling, herunder beslutningsunderstøttende algoritmer, når den fornødne hjemmel forelægger.
Beslutning
Indstillingens 1. at-punkt blev godkendt.