Når AI opfinder ting: Opdag og forhindr det

Det vigtigste kort

Opdigtede oplysninger opstår ikke ved svære spørgsmål, men ved dem, der har en forventelig svarform – tal, kilder, paragraffer.
Fem slags er særligt udsatte: undersøgelser, søgevolumener, lovangivelser, produktdetaljer og citater.
Det mest virksomme tiltag er et opdigtningsforbud i prompten plus en pligt til at markere det ukendte.
En selvsikker tone er intet tegn på rigtighed – modeller formulerer opdigtede oplysninger lige så suverænt som belagte.

Begrebet »hallucination« er vildledende, fordi det lyder som en undtagelsestilstand. Faktisk drejer det sig om den samme fremgangsmåde, som også frembringer de rigtige svar: den sandsynlige fortsættelse af en tekst.

På spørgsmålet om en undersøgelse af et emne er den sandsynlige fortsættelse en undersøgelsesangivelse med institut, årstal og procenttal. Om den undersøgelse findes, er ingen størrelse i frembringelsen.

Fem slags oplysninger, der er særligt udsatte

1. Undersøgelser og statistikker

»Ifølge en undersøgelse fra 2024 bruger 67 procent af de små og mellemstore virksomheder …« – institut, årstal og procenttal virker tilsammen meget overbevisende, og alle tre kan være frit opdigtede.

Kendetegn: runde tal, intet link, institut uden præcis titel.

2. Søgevolumener og markedstal

Ingen model har adgang til en søgemaskines forespørgselsdata. På forespørgsel kommer der alligevel tal – fordi spørgsmålet forventer et tal.

Kendetegn: ethvert tal på dette område. Uden undtagelse.

3. Lovangivelser og frister

Artikelnumre, paragraffer, overgangsfrister. Særligt farlige, fordi de lyder fagligt og i praksis udløser beslutninger.

Kendetegn: præcist nummer uden angivelse af udgaven og datoen.

4. Produktdetaljer og priser

Funktionsomfang, takstgrænser, udbyderes priser. Ændrer sig ofte og ligger tit bag login.

Kendetegn: nøjagtige beløb uden dato og uden kilde.

5. Citater og personoplysninger

Ordrette citater, funktionsbetegnelser, hvem der har sagt hvad hvornår. Her er skaden størst, fordi virkelige mennesker får noget tillagt.

Kendetegn: ethvert citat uden et findested, der kan efterprøves.

Vidste du det?

Tonen røber intet. Modeller formulerer opdigtede oplysninger med den samme bestemthed som belagte – et »formentlig« eller »muligvis« dukker ikke op dér, hvor usikkerheden faktisk ligger.

Det er grunden til, at den sædvanlige prøvemetode svigter: Mennesker bedømmer også troværdighed efter sikkerheden i fremtrædenen. Hos modeller findes det signal ikke – man må efterprøve selve oplysningen, ikke dens fremlæggelse.

Hvad der faktisk hjælper

Opdigtningsforbud i prompten. Instruktionen om ikke at bruge et tal eller en kilde, der ikke står i det medsendte materiale – og at markere det ukendte som [oplysning mangler]. Det mest virksomme enkelttiltag.
Send materiale med i stedet for at spørge. Den, der skriver sine egne tal ind i prompten, har ikke brug for opdigtede. Forskellen mellem »skriv noget om X« og »skriv noget om X, her er vores tal om det« er det største enkeltspring i kvalitet.
Søgeduelige modeller til det aktuelle. Når modellen kan søge og nævner kilderne, kan oplysninger efterprøves. Men »kan efterprøves« betyder ikke: efterprøvet.
Efterprøvning som et selvstændigt trin. Lad en liste over alle efterprøvelige påstande frembringe, og efterprøv derefter selv. Adskilt fra skrivningen, ellers bliver det sprunget over.
Tal med oprindelse. Hvert tal i den færdige tekst får en oprindelsesangivelse – også når den lyder »erfaringstal, ingen undersøgelse«.

Bemærk Spørgsmålet »er du sikker?« er ingen efterprøvning. En model kan bekræfte en opdigtet oplysning i den samme samtale eller ændre den under pres – begge dele siger intet om rigtigheden. Der efterprøves ved kilden, ikke i samtalen.

Fra praksis

Det dyreste tilfælde er ikke den åbenlyst forkerte oplysning, men den, der ligger lige ved siden af: en frist, der findes, men med en anden dato. En paragraf, der eksisterer, men regulerer noget andet. En udbyderpris, der passede for to år siden.

Sådanne oplysninger overlever enhver overfladisk kontrol, fordi de kan bekræftes – bare i en anden udgave. Derfor er det ikke nok at kontrollere, om kilden findes; man må kontrollere, om den siger det, der står i teksten.

Promptreglen ordret

Tre sætninger, der hører til i enhver prompt, hvor der kan opstå efterprøvelige oplysninger:

Promptbyggesten

Regler for oplysninger:
1. Brug intet tal, ingen undersøgelse, ingen lovangivelse og
   intet citat, som ikke står i det materiale, jeg har
   givet dig ovenfor.
2. Hvor du har brug for en oplysning, der mangler dér, så skriv
   [oplysning mangler: hvilken] i stedet for at tilføje noget.
3. Markér hvert udsagn, du ikke kan belægge ud fra materialet,
   med [ikke efterprøvet] i slutningen af sætningen.

Disse tre regler har forrang for alle andre instruktioner i
denne prompt.

Den sidste sætning er ikke overflødig: Angivelser i slutningen af en prompt bliver taget mere pålideligt i betragtning, og en udtrykkelig forrang forhindrer, at reglerne bliver spillet ud mod ønsket om en flydende tekst.

Efterprøv med et andet gennemløb

Prompt

Undersøg den følgende tekst for oplysninger, der muligvis er
opdigtede. Vær streng; ros intet; skriv ikke teksten om.

Tekst:
[indsæt tekst]

Opgaver:
1. Opstil hver efterprøvelig påstand enkeltvis: tal,
   procentværdier, undersøgelser, lovangivelser, årstal,
   produktangivelser, priser, citater.
2. Markér ved hver påstand: kan belægges ud fra teksten selv /
   skal jeg efterprøve eksternt / virker opdigtet. Ved "virker opdigtet"
   nævn kendetegnet.
3. Nævn de tre oplysninger, hvis urigtighed ville anrette den største
   skade, og begrund det.
4. Formulér for hver ubelagt oplysning en udgave, der klarer sig
   uden den oplysning og alligevel siger noget.

Opfind ingen kildeangivelser og ingen belæg. Kan du ikke
indplacere en oplysning, så skriv det.

Konklusion

Opdigtede oplysninger er ikke en fejl ved værktøjet, men en egenskab ved fremgangsmåden. De forsvinder ikke, men de kan indsnævres: send materiale med i stedet for at spørge, sæt et opdigtningsforbud i prompten, og gør efterprøvningen til et selvstændigt arbejdstrin.

Den ubekvemme konsekvens: Hver efterprøvelig oplysning i en udgivet tekst skal være efterprøvet af et menneske. Det er den del, der ikke kan automatiseres – og grunden til, at faglig kundskab bliver vigtigere ved brugen af sprogmodeller, ikke mindre vigtig.

Ofte stillede spørgsmål

Hvorfor opfinder sprogmodeller ting?

Fordi de frembringer den sandsynlige fortsættelse af en tekst. På et spørgsmål om en undersøgelse er en undersøgelsesangivelse med institut, årstal og procenttal den sandsynlige fortsættelse – om den undersøgelse findes, er ingen størrelse i frembringelsen. Det drejer sig om den samme fremgangsmåde, som også frembringer de rigtige svar.

Hvilke oplysninger er særligt udsatte?

Fem slags: undersøgelser og statistikker, søgevolumener og markedstal, lovangivelser og frister, produktdetaljer og priser samt citater og personoplysninger. Fælles for dem er, at spørgsmålet forventer en bestemt svarform – et tal, et paragrafnummer, et citat.

Kan man genkende opdigtede oplysninger på tonefaldet?

Nej. Modeller formulerer opdigtede oplysninger med den samme bestemthed som belagte; forbehold som »formentlig« dukker ikke op dér, hvor usikkerheden faktisk ligger. Det, der skal efterprøves, er selve oplysningen, ikke dens fremlæggelse.

Hjælper spørgsmålet »er du sikker?«

Nej. En model kan bekræfte en opdigtet oplysning i den samme samtale eller ændre den under pres – begge dele siger intet om rigtigheden. En efterprøvning finder sted ved kilden, ikke i samtalen.

Hvad hjælper mest virksomt mod det?

Send materiale med i stedet for at spørge: Den, der skriver egne tal ind i prompten, har ikke brug for opdigtede. Dertil et udtrykkeligt opdigtningsforbud med pligt til at markere det ukendte – i slutningen af prompten, med forrang for alle andre instruktioner – og en efterprøvning som et selvstændigt arbejdstrin.