SV hadde i begynnelsen av mai foreslått å avslutte bruken av kunstig intelligens i offentlig sektor.
Det er riktig at kunstig intelligens (AI/AI) er regulert. At Torgeir Knag Fylkesnes og Marian Hussein fremmer bruk av kommersiell AI i offentlig sektor er like forståelig, men et totalforbud misforstår potensialet og behovet for denne teknologien.
SV ønsker at forbudet skal vare inntil et regelverk for bruk og innføring av KI er utviklet. Forslaget tar imidlertid ikke hensyn til at EU allerede er på vei til å utvikle noen av de første reguleringene for bruk og introduksjon av AI i verden.
Disse forskriftene blir imidlertid ikke vedtatt før tidligst i slutten av 2023 eller 2024.
Norge har allerede lagt frem sitt posisjonspapir, der det er positivt innstilt til EUs tilnærming.
Det er poenget
Torgeir Fylkesnes og Marian Hussein presenterte 9. mai et representantforslag om AI/KI og dataøkonomi. Hovedbudskap: Det er på tide å trekke i nødbremsen.
SV foreslår tre vedtak, som nå skal behandles av en kommisjon før de eventuelt kommer tilbake til Stortinget:
- Stortinget ber regjeringen umiddelbart innføre et moratorium i offentlig sektor mot bruk av nye AI-baserte forretningsverktøy. Moratoriet skal vare frem til utviklingen av et regelverk for innføring og bruk av kunstig intelligens på ulike bruksområder.
- Stortinget ber regjeringen utvikle et konsesjonssystem for innsamling, bruk og lagring av både offentlige data og personopplysninger for kommersielle aktører. En slik lisensavtale må stille krav til hvilke data som kan brukes, til hvilke typer formål, hvor og hvordan de lagres, og om og hvordan de kan deles med ulike tredjeparter.
- Stortinget ber regjeringen levere en stortingsmelding om AI som forklarer hvordan det jobbes med AI på alle nivåer på tvers av alle sektorer.
I et intervju med Digi sier Fylkesnes det er et akutt behov for regulering og at SV mener etikk ikke kan ignoreres for å ta i bruk nye teknologier. Han vil trekke et skille mellom teknologi som kan brukes uansett, som Microsoft-lommeboken, og mer seriøs bruk av kunstig intelligens.
Regulering av AI er dagens orden i forskjellige deler av verden. I EU vil parlamentet allerede i juni stemme over et forslag kalt The AI Act.
Alle blir tapere
Slik rettstilstanden er nå, har Norge to alternativer:
- Norge kan utvikle sitt eget regelverk, etablere grupper og utvalg, for å vedta et regelverk om noen år, eller
- Norge kan vente til EU har vedtatt sitt regelverk, med å implementere det raskt etter en runde i EFTA for å vurdere relevansen av regelverket, som også vil ta årevis.
Uansett hvordan du spinner proposisjonen, sitter du igjen med at det offentlige ikke kan bruke KI før det er regulering på plass.
Hvem forblir vinneren med et slikt forslag?
Her er det lettere å snu situasjonen og spørre hvem som forblir taperen? Snarere taperne av teknologi. Svaret er åpenbart: alle, inkludert teknologibedrifter i alle størrelser, offentlig sektor selv og sist men ikke minst brukere.
Vi må se på EU
Fylket ser ut til å trekke en grense mellom generativ AI, som fungerer som assistent – Microsoft Copilot, for eksempel, og store AI-prosjekter som publikum må kjøpe seg inn i.
Det første er det Fylkesnes mener du er i orden å bruke.
Mye av dagens KI er basert på de samme grunnmodellene og store språkmodellene, som GPT-3 og -4 og PaLM-2.
Det spiller derfor ingen rolle om du utvikler en offentlig chatbot basert for eksempel på GPT-4 eller om dine offentlige ansatte bruker ChatGPT eller Copilot i sitt daglige arbeid: dataene dine kan fortsatt inkluderes i opplæringen.
Dersom forslaget er basert på at man ikke vet hva som skjer i et KI-system, man ønsker å ha kontroll over dataflyten og sikre dens integritet, blir argumentasjonslinjen til SV litt passende hver gang man tegner linjen som Fylkesnes foreslår.
I dette tilfellet bør man heller stole på klassifiseringen av EU AI-systemer, på samme måte som den foreslåtte AI-loven.
For helsevesen og andre offentlige instanser anses de fleste systemer generelt som høyrisiko og er derfor underlagt en rekke krav, inkludert datahåndtering, åpenhet, robusthet, informasjonsplikt og enda mer.
Videre ønsker AI-loven å regulere grunnmodeller og etablere krav til at hele leverandørkjeden skal oppfylle de samme forpliktelsene som grunnmodellutvikleren. Så for eksempel vil chatboten som er basert på grunnmodellen være underlagt de samme forpliktelsene.
Bedre måter å sikre Norges verdier på
Det må også settes søkelys på grunnleggende rettigheter, som personvern, likeverd med mer.
I dette tilfellet mener Fylkesnes at den eneste reelle måten å garantere disse rettighetene på er å forby kommersiell KI. Forslaget ser imidlertid ikke ut til å ta hensyn til dagens teknologiske løsninger, som garanterer nettopp disse rettighetene.
En av dem er bruken av en lokal API som behandler data lokalt og forhindrer at dataene dine sendes til eksterne servere hos utviklerne – og du kan garantere dataflyten din.
Videre har du allerede en selvstendig plikt til å sørge for at personopplysninger behandles i tråd med personvernlovgivningen, herunder ved å vedta organisatoriske og tekniske tiltak. I dette tilfellet kan publikum iverksette ytterligere organisatoriske og tekniske tiltak for å sikre at personopplysninger ikke går tapt, for eksempel anonymisering og kryptering.
Derfor vil man ikke nødvendigvis trenge forbudet som SV foreslår.
Verken Skynet eller 1984
Det er åpenbart at regulering bør på plass, men å sette Norge i beredskap i noen år kan vise seg å være svært uheldig for Norge som land og som kommersiell aktør.
Samtidig skal man ikke åpne alle sluser og la KI-tilbyderne strømme inn i en så viktig del av samfunnet som det offentlige.
Så hva bør du gjøre?
Etter min mening bør vi «samle ideer», undersøke forslaget og implementere tekniske løsninger som kan garantere effektivitet, innovasjon og sist men ikke minst et kommersielt løft mens vi venter på fellesskapsreguleringer.
For vi har verken med Skynet eller 1984 å gjøre.
«Kaffeguru. Musikkspesialist. Vennlig skribent. Hengiven nettentusiast. Wannabe-analytiker. Fremtidig tenåringsidol.»
