KI kommer for å ta oss – åpne armene!

 I uoversiktlige tider blir jeg selv godt hjulpet av å ha klare retningslinjer. Som forlegger er min rettesnor enkel: alt vi gjør skal gi verdi til enten leserne eller forfatterne, ellers må det ryddes bort. KI berører nær sagt alle deler av forlagsvirksomheten, og problemstillingene som løftes opp er både etiske, opphavsrettslige, arbeidsrettslige og kulturelle. Med rettesnoren klart for øye, er jeg optimist på leserens og forfatterens vegne, men det blir store omveltninger for oss aktører som er i leddene mellom dem.

Hva betyr KI for forlagsbransjen?

Kunstig intelligens kan hovedsakelig brukes på tre områder innenfor forlagsbransjen: Administrasjon, hvor det for eksempel kan effektivisere oppgaver som regnskap og rapportering; Salg og markedsføring, der KI-verktøy kan forutsi kundeadferd og tilby målrettet markedsføring; og til slutt den mer kontroversielle delen: Å skape innhold.

Noen typer bruk av KI i innholdsproduksjon

1. Utforskning: KI gir kraftige verktøy for å såkalt prediktiv analyse – altså å forutsi fremtiden, lage prognoser og oppdage nye sammenhenger. Å forutsi trender er gull verdt i flere bransjer, som klesdesign, interiør, mat og politikk. Kleskjeden H&M har for eksempel utviklet god ekspertise på dette området. Innenfor vår bransje vil vi også ha nytte av å identifisere kommende trender – slik som bøker om nettopp KI, pulskurer eller Airfryer, og deretter lage bøker som treffer godt i tiden.
2. KI-assistert innholdsproduksjon: Her er mennesket den kreative drivkraften, og KI-verktøyene brukes til brainstorming, redigering, forbedring og feilsjekking. Denne tilnærmingen er allerede utbredt hos yrkesgrupper som illustratører, fotografer og designere.
3. KI-generert innhold: Dette omfatter innhold (tekst, bilder, oversettelser) som utelukkende skapes av KI-verktøy, uten betydelig menneskelig involvering eller endringer.

Det nyttige og det farlige

Jeg mener at de to første kategoriene ikke nødvendigvis medfører store etiske utfordringer, selv om det i kategori 2 finnes gråsoner. Grensegangen handler om i hvor stor grad mennesket har vært i førersetet for utviklingen av innholdet, og i hvor stor grad KI har endret kjernen av det kreative arbeidet. Men jeg er optimistisk og mener KI kan bidra til å berike innholdsfloraen, gi leserne flere og bedre opplevelser og være et fantastisk verktøy for forfattere og forlag. Kategori 3 er imidlertid mer problematisk når det gjelder tilblivelsen av bøker, men mer akseptabelt i produksjonen av markedsføringsmateriale. Det er innenfor kategori 3 vi trenger gode og dype debatter. Bøker som fullt og helt er skapt av KI er allerede på markedet, og noen av dem er også tilgjengelige som lydbøker, med robot som innleser. Det er altså fullt mulig at hele tilblivelsen av en bok gjøres nærmest uten berøring av menneskehånd. Kan disse bøkene være gode? Kan vi tåle at bøker ikke er skapt av mennesker? KI vil uansett jobbe ufortrødent med å gjøre kvaliteten bedre og tette gapet til det vi gjenkjenner som menneskeskapt.

Kamp om posisjoner og kroner – og den blir blodigere

Fremover blir det smerter og støy fra yrkesgrupper som føler seg truet av KI. Oversettere har allerede hevet stemmen, og diskusjonen har i stor grad kretset rundt frykten for å mate generative KI-verktøy med en forfatters åndsverk, en frykt som bransjen enstemmig deler. Å verne om åndsverk er fundamentalt for oss, og vi ville aldri risikere å fylle læringsmodellers grådige gap med beskyttet materiale. Men hva skjer når KI-verktøy kan behandle materiale uten at det tilflyter læringsmodellene? Da står vi igjen med argumentet om at ingen maskin kan erstatte mennesket, og at vi uansett bør fortsette å bruke oversettere som før. Men er dette tilstrekkelig?

For alle yrkesgrupper blir det en løpende diskusjon om KI er en støtte eller en erstatter. Et norsk forlag testet nylig følgende: de matet inn et helt manus fra en av deres forfattere (med forfatterens tillatelse) og ba KI-verktøyet behandle teksten som en forlagsredaktør. Resultatet var skremmende likt det forlagets egen redaktør kom med av tilbakemeldinger til manuset.

I Finland har forfatterforeningen oppfordret til bruk av KI-genererte stemmer i lydbøker, slik at en større andel av inntektene kan tilfalle forfattere fremfor innlesere. Dette er bare begynnelsen. Kampen om posisjoner og kroner vil bli blodig.

Reglene blir til mens KI-motoren går

Det arbeides på foreningsnivå i mange bransjer for å etablere retningslinjer for bruk av KI, også i bokbransjen. Samtidig pågår politisk arbeid med å utforme nødvendige reguleringer. I november undertegnet 25 land, inkludert Kina, Storbritannia, USA og EU, en internasjonal erklæring som erkjenner behovet for å håndtere risikoen knyttet til utviklingen av kunstig intelligens. Erklæringen fastslår at «kunstig intelligens utgjør en potensielt katastrofal risiko for menneskeheten.» President Biden undertegnet i oktober en såkalt presidentordre for sikker, trygg og pålitelig utvikling av kunstig intelligens. Den understreker behovet for autentisering av digitalt innhold. Det forventes at EU vedtar lovgivning innen juni 2024 som vil dekke ulike risikoer knyttet til kunstig intelligens, klassifisert som uakseptabel, høy, medium og lav. Generativ KI vurderes som moderat risikofylt, og KI-genererte tekster og bilder vil være underlagt regler for transparens og tydelig merking.

Tilbake til boken

Jeg tror på KI. Og jeg tror på boken. Og jeg tror disse to bærer i seg både en motsetning og en symbiose. Jo mer av livene våre som blir digitalisert og robotisert, jo mer vil vi hegne om de taktile og organiske opplevelsene som gir livet verdi: skogsturer, strikking, hagearbeid – og papirbøker. Det dypt menneskelige som papirboken representerer, er et av dens aller største fortrinn. Og jeg mener at KI vil være en revolusjonerende kraft i å utvikle flere og bedre papirbøker.

ALEXANDER EVEN HENRIKSEN
Forlagssjef Bonnier Norsk Forlag