Henrik Skaug Sætra er aktuell med boka «Hvordan redde demokratiet fra kunstig intelligens». Han mener at utstrakt bruk av KI kan ødelegge vår evne til å lese.
– Ofte ligger verdien av en rapport eller en bok nettopp i nyansene som går tapt i korte sammendrag eller kulepunkter, mener Henrik Skaug Sætra, førsteamanuensis ved Institutt for informatikk ved Universitetet i Oslo.
– Hvis alt må oppsummeres i kulepunkter eller TikTok-videoer kan mange nyanser gå tapt. Det å kunne oppsummere godt er også en ferdighet.
Bøker må i disse dager kjempe mot digitale plattformer om oppmerksomheten til barn og unge, og kunstig intelligens (KI) endrer stadig flere bransjer – også bokbransjen.
Henrik Skaug Sætra, som er aktuell med boka «Hvordan redde demokratiet fra kunstig intelligens», mener at utstrakt bruk av KI kan ødelegge vår evne til å lese. Om man alltid tyr til KI for svar, går man glipp av læring.
– Det å lese i seg selv er en treningssak, og jo mindre og kortere vi leser, jo vanskeligere blir det for oss, skriver Sætra i et epost-intervju med Bok365.
Mister trening
Forfatteren mener at det å kunne lese en bok, eller bare en litt lenger avisartikkel, er nødvendig for å tilegne seg ny informasjon. Nå som flere generative KI-modeller enkelt kan oppsummere bøker og rapporter, mister vi alle, og kanskje studenter, spesielt viktig trening. For å kunne skrive og formidle må man også kunne forstå mer kompliserte tekster, påpeker Sætra.
– Få blir gode til å skrive og formidle uten å gjøre det jevnlig. Det å strukturere argumenter og formidle budskap som er forståelige for andre krever trening. KI-systemene vi har i dag blir stadig bedre på det, men det er veldig synd om vi bruker dem i så stor grad at vi blir dårligere.
En fare for demokratiet
«Når lesingen kommer under press, utfordrer det hele samfunnet. Demokratier avhenger av lesning», sa Bjørgulv Vinje Borgundvaag i Forleggerforening nylig til Bok365. Sætra mener at kunstig intelligens truer med å endre demokratiet fra innsiden.
– KI forandrer oss som individer, og siden det er individer som utgjør samfunnet, endres også demokratiet dersom vi blir mindre flinke til å hente informasjon om, tolke og formidle våre tanker om verden rundt oss.
Ulike former for KI er imidlertid nærmest uunngåelig i våre moderne sosiale liv, legger forfatteren til.
– KI bestemmer både hvem og hva du ser i sosiale medier. Det fører for eksempel til at vi ofte havner i relativt ensartede grupper med folk som ligner oss. Samtidig er KI-systemene veldig gode til å lære seg hva vi liker å se og hva vi misliker – og gir oss mer av førstnevnte og mindre av det andre.
Forfatteren er bekymret for at algoritmene i sosiale medier bidrar til å opprette politiske ekkokamre, noe som igjen gir en svekket offentlig samtale.
– Jo mindre vi snakker med hverandre på tvers av disse ekkokamrene, jo mindre eksponering får vi for det store mangfoldet av medborgere vi er nødt til å samhandle med.
Konsekvensen er en mulig svekkelse av vår demokratiske kompetanse, mener forfatteren.
– Hvis vi blir dårligere både til å stå i kompleksitet og uenighet, er vi temmelig ille ute – med mindre vi da ønsker å overlate styringen til maskinene.
Aldri nøytral
I den nye boken peker Sætra på at måtene KI kan forandre demokratiet på skjer mange nivåer. Én måte er at vi benytter KI i stadig flere deler av forvaltningen.
– Noen ganger automatiseres vedtak fullstendig. Det betyr at KI både påvirker hvilken politikk vi får, og hvordan den iverksettes. Samtidig påvirker det jo borgerne som blir maskinelt behandlet, og som kanskje møter en «regelrobot» når de i en sårbar fase av livet vender seg til staten.
Selve teknologien er heller aldri nøytral, fastslår han.
– Selv tilsynelatende nøytral teknologi vil alltid føre til endringer i hvordan vi ser på verden og løser problemer.
Systemene er i tillegg laget for å påvirke oss.
– Politiske partier og andre vil gjerne bruke KI til å spisse budskapene sine. Samtidig vil noen ha en interesse av å få oss til å tro på ting som ikke er sant, for eksempel når noen ønsker å så splid og påvirke opinionen her hjemme.
Sætra legger til at vi i Norge har liten kontroll over den digitale infrastrukturen, og de som utvikler eller drifter KI-systemene.
– Det kunne jo være et problem i seg selv at vi er avhengig av amerikanske skytjenesteleverandører, men temaet blir veldig mye mer aktuelt når vi nå ser hvordan disse selskapene står skulder mot skulder med Trump for å kjempe for et amerikansk teknologisk verdensherredømme.
Fordeler?
På tross av alle utfordringene, peker Sætra også på mulige fordeler ved teknologien i boka si.
– KI kan bidra til å senke terskelen for å sette seg inn i og delta i politiske diskusjoner, mener han.
Forfatteren viser til eksperimenter med KI-modeller som skal hjelpe mennesker å forstå hverandre og fremme kompromisser – og lanserer ideen om personlige digitale tvillinger som stemmer på våre vegne i fremtidens digitale høringer.
– På noen måter er det jo svært demokratisk – alle får delta direkte og på lik linje. Men samtidig, hva er demokratiet om vi har endret det til noe som innebærer at vi hverken ser eller snakker med hverandre?
