Italien indfører app, der belønner mønsterborgere

I bestræbelserne på at leve op til FN’s verdensmål for bæredygtig udvikling får borgerne i Rom og Bologna mulighed for at installere en app, der belønner dem for god opførsel. Indledningsvist kan det for eksempel dreje sig om affaldssortering, brug af offentlig transport, et reduceret energiforbrug og ingen bøder. Borgernes færden og handlinger registreres i stigende omfang, og det, der begynder som gode intentioner om bæredygtig udvikling, risikerer at udvikle sig i retning af Kinas sociale kreditsystem. 

Smart Citizen Wallet

Smart Citizen Wallet blev den 29. marts præsenteret ved en pressekonference om digital innovation i Bologna, hvor borgmester Metteo Lepore og direktør for byens ’Digital Agenda’, Massimo Bugani, fremlagde projektet. Bugani forklarede: ”Vi vil til september påbegynde et pilotprojekt for byen, der er centreret om mønsterborgeren: borgeren, der for eksempel sorterer sit affald, undgår et unødigt højt energiforbrug, benytter offentlig transport, ikke får bøder eller bruger Bolognas Welcome Card aktivt. Kommunen vil tildele sådanne borgere et vist antal point som en del af et belønningssystem med økonomiske fordele for de enkelte brugere.” Bugani sammenlignede projektet med at få etableret et helt nyt vandsystem. ”I de kommende år bliver mange tjenester digitaliseret i Italien; vi har her et ambitiøst projekt, der bygger på et solidt fundament.” Han understregede, at det naturligvis vil være frivilligt, om man vil deltage. ”De, der ønsker det, vil kunne give deres samtykke, når de downloader og bruger appen.”

Kritik af Bolognas projekt

Den italienske it-virksomhed Privacy Networks, der er specialiseret inden for den digitale privatlivsbeskyttelse, advarer imidlertid om de juridiske, etiske og samfundsmæssige implikationer ved at indføre en app som Smart Citizen Wallet: ”Hvis disse praksisser er dårligt udviklede eller anvendt, kan de medføre alvorlige begrænsninger af, og brud på, borgernes rettigheder og frihedsrettigheder, såvel som diskriminerende praksisser, der også opnås via teknologisk midler, såsom ’sociale kreditsystemer’ (eller social karaktergivning)”. 

Ifølge Privacy Networks må disse vurderingssystemer tilhøre kategorien ’højrisiko-anvendelser’ i EU’s forordning om harmoniserede regler for kunstig intelligens. Det bekymrer desuden Privacy Network, at lignende systemer allerede er ved at blive indført i andre italienske byer, herunder Rom. 

Privacy Networks søger derfor aktindsigt for at få nærmere indblik i projektet: Hvordan behandles de personlige data? Hvilke metoder anvendes inden for kunstig intelligens eller automatiserede systemer? Hvilke leverandørerne og tredjeparter er involveret i implementeringen af projektet? 

Adfærdsregulering af borgernes energiforbrug

Det er meget godt, at mønsterborgere belønnes med rabatter og kulturtilbud, men hvilke straffe kommer systemet til at indeholde for de ’dårlige borgere’? Vil de blive fraskåret muligheden for at bruge klimaanlæg i de varme sommermåneder? Hvis der kommer tørkeperioder, vil de da blive afskåret fra vand? Vil de komme til at fryse i særligt kolde vintermåneder? 

Myndighederne kan have gode intentioner om at leve op til FN’s verdensmål gennem lokale tiltag, lige som der aktuelt søges en begrænsning af energileverancer fra Rusland. At ville opnå dette gennem et socialt kreditsystem kan imidlertid vise sig at blive dybt indgribende i den enkelte borgers frihedsrettigheder.  

Det digitale overvågningssamfund

Det sociale kreditsystem i Italien introduceres som et frivilligt tilbud og lokker med rabatter og kulturtilbud som belønning. Nogle kan blive fristet af det økonomiske incitament. Det må vise sig, hvordan systemet udvikler sig, og om skeptikerne har ret i deres frygt for, at det udvikler sig i retning af Kinas sociale kreditsystem. Kina er førende inden for kunstig intelligens og overvågning. 

Den øgede digitalisering fra myndighedernes side udfordrer beskyttelsen af det digitale privatliv. I Danmark skal teleselskaberne opbevare oplysninger om kundernes teletrafik i et år (jævnfør logningsbekendtgørelsen), og myndighederne kan ud fra de omfattende logningsdata identificere borgernes samtalepartnere ved telefoni og sms’er, fastsætte tidspunktet samt borgerens fysiske position under kommunikationen. Denne dataadgang gives under påskud af, at logningsdata er et vigtigt efterretningsredskab. 

Folketinget vedtog i december 2021 en lov, der giver skattevæsenet mulighed for at anvende kunstig intelligens til at indsamle og samkøre data fra alle offentlige myndigheder og offentligt tilgængelige kilder (for eksempel sociale medier) i bestræbelserne på at undgå skattesnyd. Danske borgere og virksomheder kan ”baseret på en statistisk beregnet risiko potentielt udsættes for forskellig behandling – herunder sandsynligheden for at blive udtaget til kontrol – alene i kraft af, at deres profil minder om en type borger eller virksomhed, som typisk begår fejl eller svig”. Dataetisk Råd finder det bekymrende, at myndighedsudøvelse i stigende omfang skal baseres på en bred datahøst og algoritmer. 

Brugen af identifikationsapplikationer vinder frem. Østrig indfører eksempelvis til sommer et digitalt borgerkort via appen ID Austia, og EU indfører i efteråret 2023 appen European Digital Identity Wallet. 

Myndighederne får således i stigende grad adgang til indhentning af detaljerede oplysninger om borgerne.