Kunstig intelligens er ikke magi

Der er ikke magi, der driver kunstig intelligens. Rygterne og mystikken, der omgiver en teknologi som ChatGPT, giver indtryk af en nærmest overjordisk intelligens. Men det er her, man skal minde sig selv om, at det er en maskine, en konstruktion, en generativ sprogmodel. Den regner, det bedste den har lært, på, hvordan ord kan sættes sammen til svar, der giver mening. Og det gør det ikke altid. Der bliver gættet og ‘hallucineret’. Hvis det var et menneske, ville det hedde rabler eller tågesnak.

Sine Zambach er adjunkt ved Institut for Digitalisering på CBS og har gennem sin karriere arbejdet for at gøre IT og programmering spændende at lære for især børn, unge og kvinder – både i sit arbejde og i sin fritid. Hun er begejstret for den ny teknologi, og siger, at vi skal være bevidste om begrænsningerne ved den.

AI FORFØRER

Hun foreslår, at alle, og især de yngste generationer, hurtigt kommer ind i maskinrummet eller maven eller hjernen eller den metafor, der nu bedst formidler budskabet: Få fingrene i tastaturet og kom i gang! Med brugervejledning, online tutorial, et kursus eller hvad der nu passer en bedst. For en sprogmodel som ChatGPT eller andre kunstige intelligenser performer bedst, når mennesker forstår og styrer teknologien.

“Der er kæmpemuligheder i kunstig intelligens for samfundet. Og for at være med til at skabe fremtidens teknologier, så skal man starte et sted. Det gælder især vores børn og de unge, men også alle os andre. Vi skal simpelthen have greb om, hvad teknologien kan, og hvordan den fungerer. Det er helt nødvendigt at have en minimumsforståelse,” siger Sine Zambach og fortsætter:

“Man skal have indsigt for ikke at blive forført af AI’en. Den kan ikke alt, man kan have den som en hjælp, man instruerer. Man skal for eksempel forstå, at når den hallucinerer, så er den en såkaldt ‘stokastisk papegøje’, der sætter ord mere eller mindre tilfældigt sammen og i bedste fald hyggesludrer. Det er ikke en rigtig ven med et rigtigt navn som Glenn-Peter Thomsen (initialerne G.P.T., red.). Det er en maskine, der begår fejl,” siger hun og fortsætter:

“En indsigt i teknologien kan give os en rigtig god forståelse for, hvad potentialet er, og hvordan vi kan bruge kunstig intelligens til at skabe noget, som har værdi for mennesker”.

MASKINE ELLER INTELLIGENS?

Sine er fornyelig kommet hjem fra Folkemødet, hvor hun underviste en bornholmsk skoleklasse i programmering. Her fik eleverne mulighed for med hjælp af kunstig intelligens at lave deres egne apps med fokus på opbyggende emner som demokrati eller biologi. Zambach har skrevet bogen ‘Kvinde kend din kode’ og har igennem en årrække været involveret i foretagende Coding Pirates – en digital klub for børn. Hun er idealist med en praktisk tilgang til nye teknologier og er for nylig udpeget til det faglige dataetiske udvalg ved Akademiet for Tekniske Videnskaber. Her skal hun byde ind med en data science baggrund, mange års erfaring med AI, og en interesse for dataetik.

“Jeg interesserer mig meget for, hvordan AI kan styrke demokratiet, f.eks. skabe mere lighed ved at hjælpe med at neutralisere menneskeligt bias, som vi kan være blinde for i for eksempel jobopslag,” siger hun.

Der er et aber dabei. For at en AI kan bidrage til at styrke demokratiet skal “mange flere mennesker simpelthen forstå, hvordan AI en fungerer”.

Mennesker ophøjer automatisk den ny teknologi, tager den højtidelig, ved at bruge ordet ‘intelligens’ om den.

Sine Zambach

“Et godt råd er at kalde det ‘maskinlæring’ i stedet for ‘kunstig intelligens’. Det er med til at afmystificere, og det er berettiget. Det, vi i dag kalder kunstig intelligens, er næsten det samme som maskinlæring. AI er i bund og grund regler og modeller opsat af mennesker, som en maskine regner på,” siger hun og uddyber:

“Maskinlæring har overhalet en regelbaseret kunstig intelligens i teknologi og nytteværdi, men set fra en videnskabelig tilgang er det interessant at gå den anden vej igen og i højere grad supplere kunstig intelligens med logik, altså opsætte regler. Det er en superspændende tilgang, når man vil lære at styre kunstig intelligens og få det bedst mulige ud af teknologien”.

TRÆN DIN ALGORITME

En af Sine Zambachs vigtigste pointer er, at når man forstår, hvordan en algoritme fungerer, så afdramatiserer man den også. Hun lægger ikke skjul på, at det er svært at lave en virkelig god algoritme for en avanceret problemstilling, men alt har en begyndelse. Man kan starte i det små for at få fornemmelsen af, hvordan der kan skrues på nogle knapper for at få en basal algoritme til at fungere.

Hun anbefaler, ud over selvfølgelig at eksperimentere med en generativ sprogmodel som ChatGPT eller nogle af de mange AI-baserede apps, der kan genkende alt fra melodier til vinetiketter, selv at prøve at træne en algoritme. Det kan man gøre med et værktøj som Teachable Machine  eller Machine Learning for Kids, og “man må godt være voksen”, som Sine grinende forklarer.

“Programmerne hjælper til ret nemt at træne en algoritme i at løse en opgave. Det kan f.eks. være at genkende specifikke symboler som papir, saks og sten, så man kan spille det via et kamera. Det tager fem minutter at skabe et sådan spil. Det kan også bruges til at bedømme, om et mundbind er taget rigtigt på. Det kan algoritmen ved hjælp af fotos trænes på en halv time til at løse. Algoritmen kan også bruges til at hjælpe med at sortere affald, gætte hunderacer, eller sige til, når der er smurt nok solcreme på kroppen. De er alle sammen øvelser, der kan være med til at fange vores interesse, og som berører kernen af, hvordan nogen former for kunstig intelligens arbejder.”

FRA LEG TIL FREMSKRIDT

Ud over projekter i ‘big data analytics’ og ‘natural language processing and text analytics’ er Zambach sammen med kolleger på Danmarks Pædagogiske Universitet og Københavns Universitet i gang med at udvikle såkaldt scenariebaseret didaktik, hvor kunstig intelligens bruges til at hjælpe med at løse et problem i samfundet. Papir, saks og sten kan hurtigt udvikle sig til en app, der kategoriserer modermærker og fortæller dig, hvilke du skal gå til lægen med og få tjekket for cancer.

Sine Zambach tror meget på, at kunstig intelligens ikke kun kan hjælpe med store fremskridt indenfor sundhed eller etik og bias, men også gøre os mere bæredygtige ved at optimere energiforbrug, produktion og logistik, så varer for eksempel ikke længere skal “fragtes flere gange rundt om jorden, før de ankommer”.

Det bør være obligatorisk for alle at prøve bare et minimum af maskinlæring for at kunne udfordre og bygge fremtidens systemer”.

Sine Zambach

Sine Zambach sammenligner det med at lære at bruge en computer eller en iPad. Her skal man også have en simpel forståelse for at få den til at virke. Hvordan får man strøm på, hvordan tilslutter man en mus og installerer en app? Det er vigtigt at få indsigten for med tiden at kunne udfordre og bygge fremtidens systemer baseret på kunstig intelligens.

JOKEREN XAI

Hun peger her især på nyttige hjælpeværktøjer kaldet for explainable AI, forkortet XAI,  som Elon Musk også bruger i navnet på sin nyeste virksomhed.

“Explainable AI er vigtig for at kunne forstå, hvordan kunstig intelligens når frem til sine forudsigelser. Når politiet anholder en person, så er det nødvendigt at kunne forstå, hvorfor ham her og ikke hende der. Er det en god politinæse eller er der en systematik bag? Med explainable AI kan man gå ind og få systemerne til at forklare sig selv og lære dem at blive mere præcise. Og endnu vigtigere, man kan bruge explainable AI til at finde ud af, hvorfor en algoritme har lavet en fejl, har den fået for meget data eller anvendt dem på en uhensigtsmæssig måde?,” forklarer Sine Zambach og afslutter:

“Det giver for alvor mening at få afprøvet, hvad maskinlæring går ud på, når vi begynder at indse, hvad kunstig intelligens kan bruges til og hjælpe med, forudsat at vi mennesker tager styringen og udvikler vores digitale kundskaber.”

OM FORSKEREN

Sine er uddannet kandidat i bioinformatik i 2007 fra Københavns universitet. Ph.d. fra Roskilde Universitet i computer science med fokus på regelbaseret kunstig intelligens, og forsker nu mere i maskinlæring.  Hun skrev bogen ‘Kvinde kend din kode’ (2018) og har arbejdet med uddannelse og læring de sidste år – blandt andet maskinlærings-undervisningsmateriale til børn. I 2023 blev hun udpeget til det Faglige Dataetiske Udvalgt under Akademiet for Tekniske Videnskaber. Læs om Akademiet for Teknisk Videnskab, som Sine er udpeget til, her.

OM KUNSTIG INTELLIGENS, XAI OG MASKINLÆRING

• Der er ingen entydig definition på kunstig intelligens. Nogle mener, der handler om at løse opgaver, som ellers kræver menneskelig intelligens; andre at det er computervidenskab, der ved hjælpe af store datasæt kan løse komplekse problemer; og der er flere synspunkter.
• ChatGPT er en generativ sprogmodel, og en kategori af kunstig intelligens, som ved hjælp af uhyre mange tekster og høj computerkraft har lært at efterligne sprog og svare på spørgsmål.
• Maskinlæring er relateret til kunstig intelligens. Maskinlæring er, når en computer trænes i at lære at udføre en opgave ved hjælp af algoritmer og data.
• Explainable artificial intelligence eller XAI er et sæt processer og metoder, der giver brugere mulighed for at forstå de output, der skabes af maskinlæringsalgoritmer. Avanceret AI beskrives ofte som en ‘black box’, hvor ingen præcis ved, hvordan AI’en kommer frem til sit resultat. Her kan XAI hjælpe med transparens, måske også i forhold til myndighedskrav.