top of page
Søk

KI-Kompis... hva er egentlig en hallusinasjon?

  • Forfatterens bilde: Magne Bjella
    Magne Bjella
  • 16. juli
  • 5 min lesing

Oppdatert: 31. juli

Ordet «hallusinasjon» kan høres dramatisk ut. Mange forbinder det med noe mennesker opplever. Innen kunstig intelligens betyr ordet noe helt annet. Det beskriver en situasjon der en språkmodell gir et svar som virker troverdig og overbevisende, men som helt eller delvis er feil. Hvorfor skjer dette, og hvordan kan vi oppdage det? I denne artikkelen ser vi nærmere på hva en hallusinasjon er – og hvorfor det er viktig å kjenne til dette fenomenet når vi bruker kunstig intelligens.


Stor akvarellillustrasjon av Magne og Kompisen som vandrer gjennom Piazza del Duomo i Milano mens de samtaler om hva en hallusinasjon i kunstig intelligens egentlig er. Rundt dem ligger den ikoniske domkirken Duomo di Milano, historiske bygninger, elegante arkader, italienske kafeer og den klassiske gule trikken som symboliserer Milanos levende bymiljø. Illustrasjonen visualiserer artikkelens hovedtema: hvorfor kunstig intelligens noen ganger kan presentere informasjon som virker korrekt og overbevisende, men som helt eller delvis er feil. Samtalen mellom Magne og Kompisen viser hvordan språkmodeller bygger svar ved hjelp av sannsynlighet, mønstergjenkjenning og språkforståelse – ikke ved å slå opp sikre fasitsvar. Akvarellen understreker betydningen av kildekritikk, dokumentasjon, kritisk tenkning og menneskelig vurdering når kunstig intelligens brukes som arbeidsverktøy. Illustrasjonen er en del av serien Magne & Kompisen på Den usynlige kapitalen, hvor kunstig intelligens, digitalisering, kunnskapsdeling, SEO, informasjonskvalitet og menneskelig verdiskaping forklares gjennom varme akvareller og pedagogiske dialoger.

Magne & Kompisen


Magne


Kompis...


Du avsluttet forrige artikkel med et ord jeg aldri hadde hørt før.


Hallusinasjon.


Det høres nesten litt skummelt ut.


Hva betyr det egentlig?


Kompisen


Det er forståelig at ordet virker dramatisk.


Men innen kunstig intelligens brukes det på en annen måte enn innen medisin eller psykologi.


Her beskriver det en situasjon der en språkmodell lager et svar som virker riktig, men som ikke stemmer med virkeligheten.


Pedagogisk tavleakvarell fra artikkelen «Kompis... hva er egentlig en hallusinasjon?» som viser Magne og Kompisen foran en grønn undervisningstavle med utsikt mot den imponerende Duomo di Milano og Piazza del Duomo. Tavlen forklarer hva en hallusinasjon betyr innen kunstig intelligens, og viser at en språkmodell kan presentere informasjon som virker troverdig, logisk og overbevisende selv om den er feil, mangler dokumentasjon eller er oppdiktet. Gjennom enkle illustrasjoner og visuelle symboler forklares hvorfor dette ikke skyldes en bevisst løgn, men hvordan språkmodeller arbeider med sannsynlighet, språk og mønstre. Illustrasjonen fremhever betydningen av kildekritikk, forskningsbasert dokumentasjon og kontroll av viktige opplysninger. Akvarellen inngår i serien Magne & Kompisen, hvor kunstig intelligens, språkmodeller, digital kompetanse, kritisk tenkning og kunnskapsutvikling forklares på en pedagogisk og lett tilgjengelig måte.

Magne


Så...


Du finner ikke på ting med vilje?


Kompisen


Detaljert tavleakvarell som viser Magne og Kompisen foran en grønn undervisningstavle med utsikt mot Milanos historiske sentrum, den ikoniske domkirken og den karakteristiske gule trikken. Tavlen illustrerer de vanligste årsakene til at hallusinasjoner kan oppstå i kunstig intelligens. Gjennom illustrasjoner, ikoner og pedagogiske modeller forklares hvordan uklare spørsmål, mangelfull informasjon, motstridende kilder, sammenblanding av fakta og manglende dokumentasjon kan føre til at en språkmodell konstruerer et svar som virker korrekt uten å være det. Illustrasjonen viser hvordan kunstig intelligens forsøker å bygge det mest sannsynlige svaret ut fra tilgjengelig informasjon, og hvorfor dette noen ganger kan resultere i feil eller oppdiktede opplysninger. Akvarellen understreker at forståelse av språkmodellers begrensninger er en viktig del av digital kompetanse og ansvarlig bruk av kunstig intelligens.

Nei.


Jeg har ingen hensikt om å villede.


En hallusinasjon oppstår fordi språkmodellen forsøker å sette sammen et mest mulig sannsynlig svar, selv når informasjonen er mangelfull eller usikker.


Magne


Kan du gi et eksempel?


Kompisen


La oss si at du spør om en forskningsartikkel.


Hvis jeg ikke har tilstrekkelig informasjon, kan jeg i verste fall sette sammen:


  • en troverdig tittel

  • et sannsynlig navn på en forsker

  • et realistisk publiseringsår

  • og et overbevisende sammendrag


Alt kan høres riktig ut.


Men artikkelen kan være oppdiktet.


Magne


Det er jo akkurat derfor vi alltid sjekker kildene når vi skriver til Den usynlige kapitalen.


Kompisen


Ja.


Og det er en god arbeidsmetode.


Kunstig intelligens kan være en fantastisk sparringspartner.


Men når fakta er viktige, bør informasjonen kontrolleres mot pålitelige kilder.


Magne


Så...


En hallusinasjon er ikke en løgn?


Kompisen


Nei.


En løgn forutsetter en bevisst hensikt om å bedra.


En språkmodell har ingen intensjoner.


En hallusinasjon er et resultat av hvordan modellen arbeider med språk og sannsynlighet – ikke et ønske om å gi feil informasjon.


Pedagogisk tavleakvarell av Magne og Kompisen foran en grønn undervisningstavle med utsikt mot Piazza del Duomo i Milano. Illustrasjonen oppsummerer hvordan kunstig intelligens bør brukes på en ansvarlig måte når risikoen for hallusinasjoner er til stede. Tavlen viser hvordan brukeren kan kontrollere informasjon mot pålitelige kilder, stille oppfølgingsspørsmål, vurdere svar kritisk, bruke egen fagkunnskap og ta ansvar for informasjon som deles videre. Gjennom illustrasjoner og visuelle modeller forklares hvordan kunstig intelligens fungerer best som en samarbeidspartner fremfor en ufeilbarlig fasit. Akvarellen fremhever at kombinasjonen av menneskelig innsikt, erfaring, kritisk tenkning og kunstig intelligens skaper de beste resultatene. Illustrasjonen er en del av serien Magne & Kompisen på Den usynlige kapitalen, hvor kunstig intelligens, kildekritikk, digitalisering, verdiskaping og kunnskapsdeling formidles gjennom pedagogiske akvareller og faglige samtaler.

Magne


Det betyr vel at vi som brukere også har et ansvar?


Kompisen


Absolutt.


Kunstig intelligens bør brukes som en samarbeidspartner.


Ikke som en ufeilbarlig fasit.


Jo viktigere informasjonen er, desto viktigere er det å kontrollere den.


Faglig fordypning


Hva er en hallusinasjon?


Innen kunstig intelligens betyr en hallusinasjon at modellen presenterer informasjon som om den var korrekt, selv om den er feil, mangler dokumentasjon eller er oppdiktet.


Dette kan skje fordi:


  • informasjonen er mangelfull

  • spørsmålet er uklart

  • modellen forsøker å fylle hull i informasjonen

  • flere opplysninger blandes sammen

  • det ikke finnes tilstrekkelig grunnlag for et sikkert svar


Hallusinasjoner er en kjent begrensning ved dagens språkmodeller og er en av grunnene til at viktige opplysninger bør kontrolleres.


Fakta eller hallusinasjon?


Dokumentert informasjon

Hallusinasjon

Kan bekreftes av pålitelige kilder

Kan ikke bekreftes eller mangler dokumentasjon

Bygger på forskning, data eller verifiserbare opplysninger

Kan bygge på sannsynlige, men uriktige sammenstillinger

Kan etterprøves

Kan virke troverdig uten å være korrekt

Er åpen om usikkerhet når den finnes

Presenteres ofte med stor sikkerhet selv om den er feil

Kan spores tilbake til en kilde

Mangler ofte en reell kilde





Nye fagtermer i denne artikkelen


Norsk fagterm

Engelsk fagterm

Kort forklaring

Hallusinasjon

Hallucination

Når en språkmodell genererer informasjon som virker korrekt, men som er feil eller ikke kan dokumenteres.

Faktasjekk

Fact-Checking

Å kontrollere opplysninger mot pålitelige og uavhengige kilder.

Verifisering

Verification

Prosessen med å bekrefte at informasjon stemmer med dokumenterte fakta.

Dokumentasjon

Documentation

Kilder og bevis som underbygger en påstand eller et svar.

Kildegrunnlag

Source Base

Samlingen av kilder og informasjon som ligger til grunn for en vurdering

Troverdighet

Credibility

Hvor pålitelig og tillitvekkende informasjon eller en kilde vurderes å være.

Etterprøvbarhet

Verifiability

Muligheten til å kontrollere og bekrefte informasjon gjennom uavhengige kilder.

Informasjonskvalitet

Information Quality

En vurdering av hvor korrekt, relevant, oppdatert og pålitelig informasjon er.

Kildehenvisning

Citation

En opplysning om hvor informasjonen kommer fra, slik at den kan kontrolleres.

Feilinformasjon

Misinformation

Feil eller unøyaktig informasjon som deles uten nødvendigvis å være bevisst villedende.


Dette har du lært

Etter å ha lest denne artikkelen vet du nå:

  • hva en hallusinasjon betyr innen kunstig intelligens

  • hvorfor hallusinasjoner kan oppstå

  • hvorfor en hallusinasjon ikke er det samme som en løgn

  • hvorfor dokumentasjon og kildekontroll fortsatt er viktig


Vi har bare så vidt begynt


Magne

Kompis...


Hvis kunstig intelligens kan hallusinere...


Betyr det da at vi alltid må kontrollere det du skriver?


Kompisen


Hehe...


Ikke nødvendigvis alt.


Men jo viktigere informasjonen er, desto viktigere er det å kontrollere den.


Og det er akkurat det vi skal se nærmere på i neste artikkel.




Ikon som symboliserer innholdsfortegnelsen i kunnskapsuniverset om kunstig intelligens på Den usynlige kapitalen. Ikonet leder til den komplette oversikten over fagseriens artikler, temaer og læringsreise, fra grunnleggende forståelse av kunstig intelligens til kunnskap, tillit, verdiskaping og konkurransekraft.






Ikon av en oppslått bok som symboliserer anbefalt litteratur i kunnskapsuniverset om kunstig intelligens på Den usynlige kapitalen. Ikonet leder til et fagbibliotek med anbefalte bøker om kunstig intelligens, digitalisering, innholdsstrategi, innovasjon, kundeopplevelser, ledelse, verdiskaping og moderne virksomhetsutvikling.






Anbefalte bøker fra biblioteket vårt



Bokomslag til Build a Large Language Model (From Scratch) av Sebastian Raschka – en av de mest anbefalte bøkene om hvordan store språkmodeller bygges og fungerer. En inspirerende bok for alle som ønsker å forstå teknologien bak ChatGPT, kunstig intelligens og fremtidens digitale løsninger. Et naturlig valg for utviklere, ledere, studenter og alle som vil fordype seg i hvordan språkmodeller lærer og skaper verdi.

Build a Large Language Model (From Scratch)


Forfatter: Sebastian Raschka


Kort omtale

Denne boken tar leseren med bak kulissene og viser hvordan en moderne språkmodell faktisk bygges – steg for steg. Sebastian Raschka forklarer avanserte konsepter på en pedagogisk måte og gir en unik forståelse av hvordan store språkmodeller som ChatGPT fungerer. Selv om boken inneholder kodeeksempler, er den også svært verdifull for alle som ønsker en dypere forståelse av teknologien bak kunstig intelligens.


Hvorfor vi anbefaler boken

En av de mest omtalte bøkene om store språkmodeller. Perfekt for deg som ønsker å forstå hvordan kunstig intelligens fungerer under overflaten og hvorfor språkmodeller har blitt en revolusjon innen digitalisering og kunnskapsdeling. 





Bokomslag til Quick Start Guide to Large Language Models av Sinan Ozdemir – en praktisk og inspirerende bok som forklarer hvordan store språkmodeller som ChatGPT fungerer og brukes i moderne virksomheter. En bok vi varmt anbefaler til alle som ønsker å forstå kunstig intelligens, språkmodeller og fremtidens digitale arbeidsmetoder.

Quick Start Guide to Large Language Models


Forfatter: Janelle Shane


Kort omtale

Denne boken gir en praktisk og lettfattelig introduksjon til store språkmodeller (LLMs). Sinan Ozdemir forklarer hvordan språkmodeller brukes i moderne virksomheter, hvordan de kan integreres i arbeidsprosesser og hvorfor de er blitt en av de viktigste teknologiene innen kunstig intelligens.


Hvorfor vi anbefaler boken

En svært god bok for alle som ønsker en rask og praktisk innføring i språkmodeller. Den passer både for nybegynnere og fagpersoner som ønsker å forstå hvordan LLM-er brukes i praksis





Bokomslag til Artificial Intelligence: A Modern Approach av Stuart Russell og Peter Norvig – verdens mest anerkjente lærebok om kunstig intelligens og et standardverk ved universiteter over hele verden. En bok som gir en grundig forståelse av kunstig intelligens, maskinlæring, språkmodeller og moderne KI-teknologi. Et uvurderlig oppslagsverk for alle som ønsker å bygge solid kunnskap om kunstig intelligens og digitalisering.

Artificial Intelligence: A Modern Approach: The Future Is Coming! Discover How Artificial Intelligence Will Change Your Life!


Forfattere: Stuart Russell & Peter Norvig


Kort omtale

Dette er verdens mest kjente lærebok om kunstig intelligens og brukes ved universiteter over hele verden. Boken dekker hele fagområdet – fra problemløsning og maskinlæring til språkforståelse, robotikk og etikk – og regnes som en klassiker innen KI-faget.


Hvorfor vi anbefaler boken

Hvis du bare skal eie én akademisk bok om kunstig intelligens, er dette et av de aller beste valgene. En tidløs klassiker som gir en solid faglig forståelse av kunstig intelligens og som fortsatt brukes som pensum ved ledende universiteter verden over






Portico Publish - Forlaget Portico Publish er et lite, uavhengig forlags- og formidlingsprosjekt bygget rundt refleksjon, kunnskap, kultur og menneskene bak verdiskapingen.

Kommentarer

bottom of page