Innovationsforslag om brug af kameraer og kunstig intelligens til optimering af tilsyn
Teknik- og Miljøudvalget skal tage stilling til innovationsforslaget ”Brug af kameraer og kunstig intelligens til optimering af tilsyn” med henblik på, at forslaget skal indgå i forhandlingerne om Budget 21.
Indstilling
Teknik- og Miljøforvaltningen indstiller, at Teknik- og Miljøudvalget godkender,
- at innovationsforslaget ”Brug af kameraer og kunstig intelligens til optimering af tilsyn”, hvori der ansøges om 1,425 mio. kr. fra innovationspuljen, jf. løsningsafsnittet, indgår i forhandlingerne om Budget 21.
Problemstilling
Teknik- og Miljøforvaltningen har udarbejdet et innovationsforslag, hvor et pilotprojekt skal afprøve og undersøge mulighederne for at bruge kameraer og kunstig intelligens på afgrænsede områder i byen i relation til udvalgte tilsynsopgaver. Pilotprojektet skal udelukkende teste, om ny teknologi kan understøtte forvaltningens tilsynsopgave og dermed give muligheder for en politisk beslutning om øget kvalitet i tilsyn, flere tilsyn eller billigere løsning af tilsynsopgaverne.
Forvaltningen ønsker med pilotprojektet at undersøge, om det er muligt at bruge kameraer og kunstig intelligens i byen uden at gå på kompromis med borgernes ret til privatliv i det offentlige rum. Københavns Kommune står i stigende grad over for nye teknologier, der har betydning for løsning af kerneopgaverne, og pilotprojektet skal være med til at sætte retningen for kommunens brug af ny teknologi, styrke interne kompetencer og give råderum for efterfølgende politiske beslutninger om balancen mellem privacy og økonomisk effektivitet.
Løsning
Teknik- og Miljøudvalget behandlede på mødet den 18. juni 2020 sagen ”Teknik- og Miljøudvalgets investerings- og innovationsforslag til Budget 2021”. Udvalget vedtog et ændringsforslag til 2. at-punkt, hvori de bad forvaltningen om at vende tilbage med et nyt forslag til innovationspuljen. Forvaltningen forelægger med denne indstilling et nyt forslag.
Forvaltningen har udarbejdet et nyt forslag til innovationsforslag og ændret tilgangen til pilotprojektet. Forvaltningen vil have en risikobaseret tilgang og fra begyndelsen tænke databeskyttelse og privacy ind i forhold til den tekniske, it-mæssige og organisatoriske gennemførsel af pilotprojektet. Der vil i processen løbende være fokus på de mulige konsekvenser for borgerne. Hermed lægger forvaltningen sig i pilotprojektet op ad databeskyttelsesforordningens retslige krav om indbygget databeskyttelse (privacy by design) og konsekvensanalyser af databeskyttelsen. Privacy og juridisk compliance i forbindelse med innovationsforslaget er uddybet i bilag 3.
Innovationsforslaget gennemføres inden for lovgivningens rammer. Den overordnede juridiske ramme og dermed hjemmel er, at forvaltningen er pålagt at føre en række tilsyn i byen. Hvis der i forbindelse med udførelsen af et tilsyn, måtte blive indsamlet personhenførbare oplysninger, så er disse oplysninger reguleret af databeskyttelsesforordningen, databeskyttelsesloven, visse dele af tv-overvågningsloven, forvaltningsloven samt straffeloven. Der vil ikke blive anvendt ansigtsgenkendelsesteknologi i pilotprojektet. I pilotprojektet vil forvaltningen afprøve brug af kameraer og kunstig intelligens på udvalgte tilsynsopgaver og i geografisk afgrænsede steder i byen. I pilotprojektet skal det undersøges, i hvor høj grad det er muligt for en algoritme (kunstig intelligens) at genkende konkrete objekter i byen, nærmere betegnet om det er muligt at træne en algoritme til at genkende fx en container og dermed foretage en billedbehandling. Overordnet set er der to tekniske løsninger i forhold til brug af billedbehandling ved hjælp af en algoritme. Der kan foretages billedbehandling direkte på kameraet (edge computing), eller billederne kan sendes til et datacenter, hvor billedbehandlingen foregår (cloud). Pilotprojektet vil undersøge, i hvor høj grad det er muligt at bruge den tekniske løsning med edge computing. Det er ud fra en risikobaseret tilgang, da edge computing minimerer risici for, at personoplysninger videregives.
Pilotprojektet vil blive gennemført i tre faser. Omdrejningspunktet for pilotprojektet er ikke personoplysninger, men oplysninger om objekter i byen. I forbindelse med træning af algoritmen vil der dog være billeder med personoplysninger. Derfor er databeskyttelse tænkt ind i designet af pilotprojektets faser.
Databeskyttelse i projektets tre faser
I den første fase af pilotprojektet indsamles billeder i geografisk afgrænsede områder i Københavns Kommune til træning af algoritmen med henblik på objektgenkendelse (fx container eller byinventar). Forvaltningen forventer at skulle indsamle ca. 40-80.000 billeder af objekter. Det må forventes, at en mindre del af disse vil indeholde personoplysninger, fx en bil med synlig nummerplade eller mennesker foran en container. Forvaltningen vil i denne fase begrænse og minimere personoplysninger ved at der ikke konstant tages billeder i de valgte områder, men i stedet for tages der kun billeder, hvor der er identificeret et forvaltningsmæssigt formål på et specifikt afgrænset sted og af udvalgte objekter. Herudover håndteres databeskyttelse ved fx kryptering af data og sikker opbevaring af data.
I fase to vil der ske en træning af algoritmen på baggrund af de indsamlede billeder. Denne træning vil finde sted i et eksternt datacenter (cloud). Algoritmen skal trænes til at undgå eller sløre personoplysninger, fx at sløre ansigter og nummerplader eller fx at vælge de billeder, hvor der ikke er mennesker på. I de to første faser vil det også blive afprøvet, hvilket materiel som kameraet skal monteres på. Her har fart, køretidspunkt og kørebane en betydning. Det kunne fx være en fejemaskine, som kører med lav hastighed. Forvaltningen vil i træningen af algoritmen begrænse antallet af billeder til det absolut nødvendige. De originale billeder vil blive slettet efter træningsforløbet, så der herefter alene eksisterer data uden personoplysninger. Det er i overensstemmelse med databeskyttelsesforordningens krav om dataminimering ifm. træningsdata.
I projektets tredje fase vil der være en test af algoritmen. Der sker ved, at der i en testperiode bliver monteret et kamera på kørende materiel, hvor billeder sendes til en algoritme i et datacenter (cloud). Det vil samtidig blive testet, i hvilket omfang det er muligt at montere en minicomputer med algoritmen samme sted som kameraet (edge computing). Fælles for begge løsninger er, at den begrænsede mængde af personoplysninger bliver anonymiseret, og data, som ikke er relevant for opgaveløsningen, slettes.
Forvaltningen vil igennem hele pilotprojektet sikre privacy ved at minimere og begrænse adgangen til data fra billedindsamlingen og test. Data vil blive krypteret og opbevaret i henhold til kommunens retningslinjer. Forvaltningen vil begrænse antallet af medarbejdere, der har adgang til data, og der vil blive indgået databehandleraftaler med eksterne parter. Alle personoplysninger fra pilotprojektet vil blive slettet så hurtigt som muligt.
Forvaltningen vurderer, at tilgangen til privacy og databeskyttelse i innovationsforslaget giver mulighed for at afprøve brugen af ny teknologi i byrummet uden at gå på kompromis med borgernes ret til privatliv. Resultaterne fra pilotprojektet vil give forvaltningen et værdifuldt indblik i muligheder og begrænsninger i forhold til brug af kameraer og kunstig intelligens. Innovationsforslaget vil kunne vise, om det er muligt at effektivisere eller forbedre tilsynsopgaven. Men det er også forventningen, at resultaterne kan kvalificere en politisk drøftelse af brugen af ny teknologi i byrummet og en afvejning af overvågning over for økonomisk effektivitet.
I Københavns Kommune er der, ligesom i den øvrige offentlige sektor, et stigende fokus på ny teknologi og kunstig intelligens. Det er fremhævet i København Kommunes digitaliseringsredegørelse fra 2019 og i KL’s digitaliseringsstrategi fra 2019. Brugen af kunstig intelligens åbner for politiske drøftelser, men stiller også nye krav til viden og kompetencer internt i kommunen. Det er forvaltningens vurdering, at innovationsforslaget kan være særdeles værdifuldt i forhold til at opnå viden om muligheder med ny teknologi og kunne udarbejde kvalificerede beslutningsgrundlag for fremtidige projekter i kommunen.
Økonomi
Denne indstilling har ikke i sig selv økonomiske konsekvenser for Københavns Kommune.
Videre proces
Når Teknik- og Miljøudvalget har godkendt indstillingen, vil innovationsforslaget kunne endelig vedtages i forbindelse med forhandlingerne om Budget 21.
Søren Wille
/ Thomas Højlt
Beslutning
Teknik- og Miljøudvalgets beslutning den 17. august 2020
Indstillingen blev godkendt med 5 stemmer mod 3. 2 undlod at stemme.
For stemte: A, Ø og Å.
Imod stemte: C, O og V.
Undlod at stemme: B og F.
Det Konservative Folkeparti, Venstre og Dansk Folkeparti afgav følgende protokolbemærkning:
”Partierne mener, at det er ude af proportioner, at forvaltningen vil i samle personhenførbare billeder fra byrummet for at kunne håndtere containere og byrumsinventar. Vi ønsker, at man kan færdes i byrummet uden at blive fotograferet af personidentificerende køretøjer. Vi tager afstand for denne form for overvågning, som ikke står mål med overvågningens formål med kontrol af containere m.v.”
Enhedslisten, Socialistisk Folkeparti og Alternativet afgav følgende protokolbemærkning:
”Partierne støtter, at vi udvikler teknologi, der kan identificere affald i byrum, og at der i denne teknologi-udvikling elimineres ansigtsgenkendelse.”