Li Felländer-Tsai mener at vi for øyeblikket er i en fase med ekstremt høye forventninger til GPT Chat. Det refererer til Gartner-hype-kurven, som illustrerer de forskjellige stadiene etter inntreden av en ny innovasjon.

– Etter en teknologisk «trigger» får du en «spike» av oppblåste forventninger – da stiger kurven kraftig. Så kommer en fase med desillusjon, faller så betraktelig, for så å heve seg igjen og stabilisere seg på et mer balansert nivå. Nå tror jeg vi er på «toppen» av oppblåste forventninger.

Li Felländer-Tsai, overlege ved Karolinska Universitetssykehuset og professor i ortopedi ved Karolinska Institutet, har lenge vært involvert i de etiske spørsmålene rundt ulike AI-løsninger. I en forhold fra Studieförbundet Näringsliv och sammähle (SNS), utgitt for noen år siden, påpekte blant annet at risikoen i helsesektoren øker når AI innføres.

Han mener det er for tidlig å si nøyaktig hva GPT Chat og lignende AI-varianter vil bety for medisinsk forskning, men det er klart at dette er en teknologi som forandrer spillet.

– Jeg tror det vil være enorme muligheter – men det vil også være ulemper. Den største risikoen er at du er naiv og bare hopper på teknologien.

Han advarer forskere mot å bli fanget av spenningen før det er klare retningslinjer for bruk av GPT Chat og lignende verktøy.

– Det kan vise seg at det er feil å bruke disse AI-modellene basert på regelverket og verdigrunnlaget forskningen bygger på i dag. Det viktigste er å holde diskusjonen levende.

Det er forresten eksempler på at GPT Chats gir råd om å drepe seg selv når de brukes som samtalepartner. Selv når det gjelder forskning, er det en risiko for å ta helt feil, ifølge Li Felländer-Tsai.

Han mener det er viktig å være klar over at bruk av GPT Chat øker risikoen for skjevheter og feil.

Et grunnleggende spørsmål er også hvem som er ansvarlig for det GPT Chat genererer.

– Er det selskapet som opprettet Chat GPT? Eller er forskeren ansvarlig? Vi har ingen svar på disse spørsmålene. Her må vi samarbeide med jurister, filosofer, vitenskapshistorikere og etikere.

Men ifølge Li Felländer-Tsai er det mest presserende å diskutere og ta stilling til hvilken rolle Chat GPT og andre verktøy for kunstig intelligens bør ha i helsevesenet.

– Det er risiko for stor naivitet blant helsepersonell, der de for eksempel stoler blindt på klinisk beslutningsstøtte.

Les også:
Hajpad AI deler forskningsverdenen
«Det er ikke en database med fakta, bare en statistisk modell»

Medisinsk tidsskrift 12-13/2023

Lakartidningen.se 23-03-2023
(oppdatert 2023-03-24)