KI i skolen: Hvordan unngå å gjenta feilene?

Er det en ting jeg håper du tenker over etter å ha lest dette innlegget, så er det dette: for å nå dit vi vil, må vi også vurdere risikoene som kan hindre oss i å komme dit. Og er det en ting jeg håper du ikke konkluderer med, så er det at vi bare må henge med i utviklingen. “For hvis ikke vi gjør det, så kommer noen andre til å…”. Det er et velkjent insentiv, men feil premiss.

La oss først snakke om noe hyggelig. KI byr på fascinerende muligheter og kan kanskje bidra til å løse noen av skolens store utfordringer. Tenk på hvordan elever kan få umiddelbare tilbakemeldinger. Eller dialog med fagkunnskap gjennom KI: alle kan stille akkurat det spørsmålet de trenger, på sitt nivå, samtidig. Noen snakker om KI som en spesialtilpasset lærer til hver eneste elev, i hele verden.

Bekymringen min er at vi har vært her før. Mer om det snart, men først vil jeg låne noen tanker fra Tristan Harris, en amerikansk teknologi-etiker og medgrunnlegger av Center for Humane Technology. På AI for Good sin Global Summit 2024 snakket han om “The AI Dilemma”. Det innebærer at når kompleksiteten i informasjonsutvikling øker, så må vår evne til å respondere på utviklingen øke tilsvarende. Det er flere sider ved dette, men jeg vil ta for meg denne:

Argumentert for gjennom historier, men styrt av insentiver

Tristan Harris viser til hvordan KI presenteres gjennom forlokkende historier. Det fine er at historiene er sanne og beskriver reelle muligheter. Utfordringen er at insentivet for utvikling av teknologien ikke er basert på de samme historiene.

Harris sammenligner dagens situasjon med utviklingen av sosiale medier. Den ble båret fram av historier om å gi alle en stemme, holde kontakt med venner og delta i fellesskap. Disse var også bygget på sannhet, men i dag vet vi at mye gikk i motsatt retning. For sosiale medier har også bidratt til isolasjon, avhengighet, falske nyheter og splittelse. Den amerikanske forretningsmannen Charles Munger er ofte sitert for å ha sagt “Show me the incentive and I will show you the outcome.” Kanskje det var samsvar mellom historier og insentiver i sosiale mediers barndom, men etter hvert vet vi at insentivet ble “the race for engagement” – konkurransen om oppmerksomheten vår.

Tristan Harris beskriver sosiale medier som vår første nærkontakt med KI, gjennom algoritmene som velger innhold for oss. I brøkdelen av et sekund blir klikk og rulling på skjermen analysert, sammen med tidligere oppførsel på tvers av medier og nettsteder, og sammenliknet med millioner av andre mennesker. Og vips, der ligger det neste innholdet vi trolig vil legge merke til, slik at vi blir på plattformen. Insentivet er ikke å gi en stemme til alle, men til annonsørene. Oppsummert:

• Insentivet er å holde oss på plattformen, koste hva det koste vil.
• Det gir mange gleder, men også avhengighet, utenforskap, falske nyheter, splittelse, negativt kroppsfokus og unge menneskers destruerte selvbilder. Selskapene ser på dette som utfordrende, men ikke utfordrende nok til å justere insentivet.

Hva har dette med KI i skolen å gjøre?

Harris viser til at akkurat nå drives KI-utviklingen av “the race to rollout” – konkurransen om å være først. Det var lett å se våren 2023, da store aktører feilet grovt i panikk over å henge etter Open AI. Mye har skjedd siden, men spillereglene synes ikke å være vesentlig endret. Jeg er sikker på at alle lærere og eksperter som uttaler seg om KI i skolen har de beste intensjoner og jeg er glad for innsatsen de gjør for å utforske feltet. De formidler de gode historiene, men kontrollerer ikke insentivet. Harris viser til likheter med utviklingen av sosiale medier:

• Insentivet og de gode historiene henger ikke sammen.
• Det investeres enorme summer i utvikling av KI, men minimalt i sikkerhet. Akkurat som med sosiale medier blir sikkerhet sett som en stor utfordring, men ikke utfordrende nok til å justere insentivet.

Jeg mener derfor (og her forlater jeg foredraget til Tristan Harris) at vi som ivrer for god bruk av teknologi i skolen må lære av dette. Vi skal utforske, diskutere og teste. Men når KI brukes i undervisning i stor skala, må vi være rimelig trygge på at vi har vurdert både muligheter og potensielle utfordringer.

Vi har vært her før

Innfasing av digital teknologi i skolen har en sammenliknbar historikk. De gode historiene ble manifestert i imponerende mange klasserom, men ikke mange nok. De dårlige eksemplene på “skjermbruk” har dermed blitt en stor og reell utfordring i norsk skole. Vi har fått hissige debatter og kunnskapsministeren bruker “iPad-skole” som et skjellsord. Jeg vil igjen løfte fram et av Tristan Harris sine poenger: For å nå dit vi vil må vi også være villige til å vurdere risikoene som kan hindre oss i å komme dit. Det var her vi feilet sist. Vi var rett og slett ikke gode nok til å vurdere risikoen for at teknologi ville bli innført med mangelfull kompetanse.

Nå står vi i fare for å gjenta feilen ved innføring av KI i skolen. Forskjellen er at KI har potensial til en mye raskere utvikling. Derfor må vi være bedre forberedt denne gangen, blant annet ved å lytte nøye til skeptikerne og invitere til tidlig dialog. Ingen bør kunne fremstå som ekspert, ved utelukkende å fokusere på de gode historiene. Det er lett å skape eksempler på suksess. Utfordringen er å forutse og unngå det som kan hindre oss i å nå målene. Den jobben må vi ta.

Veien videre

La meg til slutt prøve å skissere veien videre med noen spørsmål. Så håper jeg vi sammen kan utvikle et veikart:

• Hvilke verdier mener vi skal prege skolen?
• Hvordan kan KI bidra til å fremme disse verdiene?
• Hvilke hindringer kan snu utviklingen i feil retning?
• Hvordan kan vi sørge for at utviklingen styres av verdiene, – ikke av mulighetene?