KUNSTIG INTELLIGENS OG BOKBRANSJEN: – Det er ikke noe vits å møte det på noen annen måte enn å forsøke å håndtere det på forsvarlig vis, sier Eystein Hanssen.
– Jeg tror om to-tre år vil forfattere diskutere hvilken robot som er den beste sparringspartneren eller det beste språkverktøyet. Jeg tror flere vil ha adaptert KI-verktøyene i sitt forfatterskap, på samme måte som når vi fikk skriveverktøy på Mackintosh. Flere skriveverktøy vil få innebygde KI-assistenter, og jeg tror ikke forlagene på sikt har mulighet til å kontrollere det her, sier Forfatterforbundets leder, Eystein Hanssen.
I en artikkelserie på Bok365, ser vi nærmere på kunstig intelligens og bokbransjen. Kunstig intelligens gir fundamentale endringer på litteratur- og kulturfeltet. Men er bransjene godt nok rustet til å møte forandringene som kommer?
Mange på litteraturfeltet bråvåknet da ChatGPT viste hvor effektivt algoritmer kan brukes også i kunstnerisk øyemed. For noen fremstår The Brave New World som et mareritt; roboter som overtar arbeid, forfattere som mister åndsverkene sine, litteratur som kun skapes digitalt og KI som uhemmet skraper til seg alt av informasjon.
Men andre ser mulighetene den nye teknologien gir; innovativ litteratur, kjappere og grundigere research (gitt at denne kvalitetssikres i bakkant), interessant kunst, skreddersydde historier, en utjevning av forlagsøkonomiske forskjeller og frigjøring av tid til andre prosjekter.
– Mange har demonisert dette en god stund, og mange er forståelig nok frustrerte. Og selv om ingen av oss har bedt om dette, må vi anerkjenne KI – og det er ikke noe vits å møte det på noen annen måte enn å forsøke å håndtere det på forsvarlig vis, sier Hanssen.
Mener forlagene er dårlig rustet sikkerhetsmessig
Hanssen mener at i møte med den nye KI-teknologien burde forlagene gå en alvorlig runde med seg selv, for å sikre at den datamengden de håndterer, ikke står i fare for å kunne brukes til opptrening av KI-språkmodeller.
– Hvorfor forlagene sender manus i e-post, uten å først kryptere dem, er uforståelig. Faktisk skandaløst. E-posten passerer flere servere, og man har ingen kontroll over hvem som kan se det, eller snappe det opp. Det er som å sende et postkort. Det er enkelt og billig å kryptere vedlegg. Man må bare gidde å gjøre det.
Han mener at risikoen for at eposten blir snappet opp, er ganske liten, men at digitale manus helt sikkert er brukt til opptrening av KI, da slike språkmodeller saumfarer internett og skraper til seg alt innhold de kan for å forbedre datagrunnlaget sitt.
– Forlagene må gjøre det de kan for å sikre tjenestene sine, spesielt ved leveranse av e-bøker. Sikkerhetssystemene må være sterke, og alt delt materiale bør være passordbeskyttet og kryptert. Datainnbrudd, som det hos Fabel og NBL for tre år siden, viser at slike angrep er mulige, og det ansvaret må forlagene ta på alvor, sier Eystein, og legger til at bevissthet om datasikkerhet må økes i bransjen:
– Forlagene burde unngå å lagre data hos Google, Microsoft, Amazon, og spesielt kinesiske selskaper. Kinesiske myndigheter kan kreve data fra sine selskaper, det samme gjelder Russland. Man burde være forsiktig med TikTok og lignende apper, og dele minst mulig informasjon på sosiale medier. Det blir brukt til å trene KI, og selv om det kanskje ikke er verdens undergang at språkmodeller samlet inn noen slurvete formuleringer her og der, bør du kunne samtykke til at dine data brukes til dette formålet.
Hanssen understreker at for kriminelle aktører, er ikke bokbransjen det mest lukrative målet. Men at andre stater kan ha en egeninteresse i å trene opp språkmodeller på mange språk:
– Det finnes stater som ønsker å drive påvirkningsarbeid og propaganda på mange språk – det er jo mye mer effektivt slik. For dem nok de store datasettene man finner hos forlag og lydboktjenester av interesse, hvis de for eksempel ønsker å etablere norske nettaviser – som vi vet blant annet russisk etterretning driver med. Jo mer data de får, jo bedre blir deres verktøy og propagandaen.
Hvor mye kan forfatterne lene seg på KI?
– KI har mange fordeler og er et helt fantastisk verktøy. Det er hevet over enhver tvil, at mange vil ha nytte av det, men hver gang du mater en KI-robot informasjon, må du være klar over at det du mater inn også kan bli brukt til opptrening, sier Hanssen.
Men i hvor stor grad er det greit at forfattere lener seg på KI-verktøy i fremtiden i fremstillingen av bokmanus?
– Her må hver forfatter kjenne på sin egen samvittighet, og så burde forfatterorganisasjonene utarbeide et sett etiske retningslinjer for hvordan å bruke KI på en forsvarlig måte. Det er helt sikkert at KI kommer til å bli brukt av forfattere i fremtiden, og så er det kanskje de forfatterne som behersker teknologien best og på en fornuftig måte, som vil være de mest effektive, sier Hanssen, og fortsetter:
– Noen mener at det å skrive er å kjempe frem hvert eneste ord på skrivemaskinen, mens andre lener seg mer på tekniske hjelpemidler. Men ingen kan oppleve det som en god følelse å sende inn et manus som er 40 prosent skrevet av en robot, hvor du selv bare har flikket på ordene.
Hanssen tror også vi kommer til å se flere skriveoppdrag fra forlagene i fremtiden, basert på KI-utviklede scenarioer. At forlaget ønsker seg om bok en et gitt tema, og får et riss fra en KI-robot, som de setter ut til en forfatter til å skrive ut. Andre vil kanskje bruke KI til å produsere debattbøker uhyre raskt. Eller kanskje forlagene vil se etter redaktører og «litteraturutviklere» med god kompetanse til å lage prompter?
Det er nedfelt i normalkontrakten, at manus ikke skal brukes til å trene KI uten forfatterens samtykke – men at forfatteren også har opplysningsplikt dersom man har brukt KI i arbeidet. Hanssen tror forlagene vil bli strengere i sjekken i fremtiden:
– Ironisk nok vil man bruke KI for å avdekke om noe er skrevet ved hjelp av KI. Men det er ikke alltid lett å avdekke. Jeg tror uansett forlagene vil begynne å undersøke dette nærmere i fremtiden, og må bli enig med seg selv hvilket nivå med KI-innblanding de er komfortable med.
Burde forlagene stritte i mot – eller alliere seg, og sørge for at vi får en god, norsk språkmodell? Flere utenlandske mediekonsern, som The Financial Times, Reuters, Associated Press, Time og Axel Springer, har inngått lisensieringsavtaler med Openai. Er dette noe forlagene også burde gjøre?
– Hvem skal da kompenseres for salget av innholdet? Grunnlaget for KI-trening er jo i praksis forfatterens sluttprodukt. Det er jo ikke noe fysisk innblanding nødvendigvis i forfatterens rene tekstmanus, det er forfatterens eiendom. Hvilken rolle forlagene skal ha i dette spillet, er ikke avklart.
Rollene som forsvinner
– Debattene rundt KIs inntreden i bokbransjen, handler i stor grad om kompensering, sier Hanssen.
Flere forfattere har fortalt til Bok365 at de gjerne lener seg på KI-verktøy som en redaktør, for språkvask, men også for tips.
– Det er så mange uavklarte spørsmål innenfor dette. Skal du da ha mindre betalt, hvis en robot har hjulpet deg fremstille manuset? Rent opphavsrettslig er det slik at en maskin ikke kan ha opphavsrett. En KI-redaktør er jo et verktøy både forlag og forfattere kan dra nytte av – og kanskje blir det etter hvert mindre behov for forlag i skriveprosesser? Det er kanskje enklere å erstatte en redaktør enn en forfatter med KI, da redaktørens jobb i større grad er analytisk.
Hanssen trekker frem oversettere og illustratører som allerede har fått kjenne på Kis inntog:
– Mange forlag i utlandet bruker KI til å oversette bøker, og oversetteren har gått inn i en rolle som konsulent. For oversettere er KI en disruptiv teknologi, som endrer næringsgrunnlaget deres. Det oppstår en del oversettere som blir flinke til å bruke det, og i teorien går det raskere å oversette. Men summen av arbeidet er kanskje det samme, for råoversettelsen må tygges godt. Hvis du derimot er en god digital illustratør, har du nok allerede brukt KI en del, for det er innbakt i flere programvarer. Komprimering av informasjonen i et bildet, er i prinsippet det samme.
Men en annen rolle mener han også kan forsvinne:
– Forlagsbransjen har omtrent like mange jurister som forfattere, og juss kan nok i en viss grad erstattes av KI til enkle vurderingsoppgaver. Alt med regnskap og merkantile oppgaver kan automatiseres, produksjon kan alltids gjøres raskere med maskiner som kan regne raskt.
– Bokbransjen er stokk konservativ
– Jeg er alltid teknologioptimist, men denne teknologien har noen skumle sider. Jeg tror ikke litteraturen er det som kanskje først og fremst kommer til å lide, men at samfunnet kan lide under misbruk av KI-påvirkning og -overvåkning, er grunn nok til å følge med. At noen vil vite mest mulig om oss og brukte det til å få oss til å opptre på en bestemt måte, sier Hanssen.
– Men er bokbransjen litt treig og konservativ i møte med den nye teknologien?
– Bokbransjen er jo stokk konservativ. Vi driver med gammeldagse ting, men det er en verdi i å holde fast ved noe genuint. Det ligger i bransjens natur, at når det kommer noe nytt, så sier vi nei. Men KI må vi forholde oss til, og vi må forsøke å se på det som en fascinerende og meningsfull utfordring hvordan vi skal forholde oss til det, uten å ødelegge det genuine med litteraturen.
«Magda på Voss må kunne snakke til Siri»
– Norge er egentlig rigget for en struktur for å trene språkmodeller. Vi har normalkontrakten, hvor en forfatter kan gi beskjed om hva KI kan, eller ikke kan, bruke i opptrening. Da vet Bokbasen hva som kan øves på. Så har vi Kopinor som kan kompensere rettighetsinnehaverne, sier leder i Forleggerforeningen, Trine Skei Grande.
– Hva er det som gjenstår da?
– Man må være sikker på at man ikke gir bort noe man ikke får betalt for, eller at vi ender med å selge huset for å leie en litt fin leilighet. At du selger noe som gjør at du ødelegger hele grunnlaget for fremtiden. Men det er viktig at Norge, som er et lite språk, har gode språkmodeller.
Skei Grande forteller at da hun var kulturminister bevilget de mye ekstra midler til utviklingen av gode språkmodeller:
– Vi kalte dette at «Magda på Voss må kunne snakke til Siri», og det handlet om å ta vare på språket vårt. Innenfor det et det to forskjellige debatter; det å snakke sant og det å snakke rett. Det at språkmodellene snakker rett norsk, er viktig, men hvilken kunnskap som legges inn, at de snakker sant, er en ekstra dimensjon vi også må huske på.
– Skaperkraften kan ingen ta fra oss
– Jeg tror ikke alle dommedagsprofetier vil slå til. Kanskje kommer det en følge vi ikke har tenkt over, sier Skei Grande.
– Hvilke muligheter ser du for KI i bokbransjen?
– Jeg tror det er mange ting som kan bli enklere med den nye teknologien. Markedsføring og kontrollsjekking, for eksempel. Jeg tror ikke oversetterne vil forsvinne, men at de blir mer effektive. Jeg tror bokbransjen, som alle andre bransjer, kan bli litt mer effektiv, men skaperkraften og det genuine, kan ingen ta fra oss.
– Eystein Hanssen maler et bilde av at norske forlag er tullete lite forberedt sikkerhetsmessig på KIs inntreden. Er norske forlag godt nok rustet?
– Alle er garantert ikke det, men jeg tror det er en stor oppvåkning nå. De store forlagene forvalter norsk kulturarv, og sitter på store databaser og et stort ansvar. Hva hvis noen kidnapper Ibsen? Jeg tror de store forlagene snakker mye om dette nå, mens de små ikke har den type ressurser til å demme opp fullstendig.
– Hva er dine tanker om forfattere som bruker KI som redaktør, eller fremtiden som Hanssen skisserer, hvor forlag kanskje vil sette ut KI-prompts som bestillingsverk?
– Det finnes mye slik litteratur på Amazon, og det blir jo ikke bra. Jeg har troen på det kreative og unike. Da jeg var liten fikk jeg to bøker til jul; Lykkebarna og Bobsybarna – og begge bøkene hadde samme fortelling. Kanskje kan slike formelbøker føre til at noen unge starter å lese, men de vil snart avsløre formelen.
Tørr ikke spå KIs omfang
– Kunstig intelligens kommer antagelig på kort sikt til å bety mindre, på lang sikt mer enn det vi ser for oss nå. Skal bokbransjen fortsette å være relevant, trenger vi å utvikle vår evne til å foredle, kvalitetssikre og gjennomarbeide utgivelsene og stille kritiske spørsmål til forfatteren. Det kan ikke KI uten videre gjøre, sa Åse Ryvarden, direktør i Aschehoug, til en sak om bokbransjen i fremtiden tidligere i sommer.
Forlagssjefene Bok365 har snakket med er forsiktig med å spå hvor stor betydning KI vil ha i bokbransjen i fremtiden. Men at den nye teknologien vil spille en stor rolle er de helt enige om:
– Den teknologiske utviklingen på dette området er svimlende, og vil gripe dypt inn i enhver bransje, også vår. Den som kunne spå i den glasskulen ville virkelig funnet gull. Vi ser en rekke mulige bruksområder, men også en rekke problemstillinger som må løses, praktisk, etisk og juridisk. Godt over halvparten av vår omsetning kommer fra et 600 år gammelt produkt som i økende grad utfordres av nye teknologidrevne formater og kanaler. Det viktigste, sett fra et ledelsesperspektiv, er å dyrke frem en organisasjonskultur som tåler å stå i det kreative spennet mellom det redaksjonelle og det kommersielle, og bygge bro over det teknologiske gapet mellom Gutenberg og ChatGPT, sier Willand.
Gyldendal-direktør Ingeborg Volan tror kunstig intelligens «åpenbart» kommer til å endre måten forlagene jobber på:
– Men jeg håper og tror vi klarer å være så bevisst vår rolle som forvaltere av åndsverk at vi er kritiske og forsiktige med å mate norsk innhold inn i svære tjenester vi ikke har noen kontroll over. Samtidig er det åpenbart at både vi i Gyldendal og resten av bransjen er i ferd med å finne gode bruksområder for kunstig intelligens. Nå skjer utviklingen på dette feltet så raskt at jeg virkelig ikke tør å spå nøyaktig hvordan det vil påvirke oss – for i det øyeblikket jeg tror at «men dét klarer KI-en i alle fall ikke», er det nettopp det den gjør.
Samlagets Håkon Kolmannskog mener vi allerede har sett fundamentale endringer i enkelte sjangere, takket være teknologiske nyvinninger:
– Det som folk kan finne enklere og mer effektive måte å gjøre på, vil forsvinne. Vi har blant annet sett at fakta- og håndbokforleggeriet har endret seg fundamentalt med internett, og det vil bare fortsette. Digitaliseringen innen skole- og utdanning vil nok også holde fram på mange områder, selv om vi ser økt bevissthet rundt verdien av fysiske bøker, sier Kolmannskog.
Men forlagssjefene ser i det hele positivt på fremtidens bokbransje:
– Aschehoug har formidlet kunnskap, underholdning, kultur og kunst på norsk i over 150 år og vi ser optimistisk på de neste 150 årene. Vi må være forberedt på at rammene endrer seg, at leserne endrer seg, og at distribusjonen endrer seg. Det grunnleggende i menneskenes behov for å fortelle historier, for å bearbeide erfaringer og for å dele dem gjennom de lange fortellingene endres ikke, sier Ryvarden.
