När AI hittar på saker

Det viktigaste

Påhittade uppgifter uppstår inte vid svåra frågor, utan vid sådana som har en förväntad svarsform – siffror, källor, paragrafer.
Fem sorter är särskilt drabbade: studier, sökvolymer, lagangivelser, produktdetaljer och citat.
Den verksammaste åtgärden är ett påhittningsförbud i prompten plus en märkningsplikt för det okända.
Självsäker ton är inget tecken på riktighet – modeller formulerar påhittade uppgifter lika ledigt som belagda.

Begreppet «hallucination» leder vilse, eftersom det låter som ett undantagstillstånd. I själva verket rör det sig om samma förfarande som också frambringar de rätta svaren: den sannolika fortsättningen på en text.

På frågan om en studie i ett ämne är den sannolika fortsättningen en studieuppgift med institut, årtal och procenttal. Om den studien finns är för alstringen ingen storhet.

Fem sorters uppgifter som är särskilt drabbade

1. Studier och statistik

«Enligt en undersökning från 2024 använder 67 procent av de små och medelstora företagen …» – institut, årtal och procenttal verkar tillsammans mycket övertygande, och alla tre kan vara fritt påhittade.

Kännetecken: jämna tal, ingen länk, institut utan exakt titel.

2. Sökvolymer och marknadstal

Ingen modell har åtkomst till en sökmotors frågedata. På förfrågan kommer ändå tal – för att frågan väntar sig ett tal.

Kännetecken: varje tal på det området. Utan undantag.

3. Lagangivelser och frister

Artikelnummer, paragrafer, övergångsfrister. Särskilt farliga, eftersom de låter fackmässiga och i praktiken utlöser beslut.

Kännetecken: exakt nummer utan angivelse av version och datum.

4. Produktdetaljer och priser

Funktionsomfång, taxegränser, leverantörers priser. Ändras ofta och ligger ofta bakom inloggningsspärrar.

Kännetecken: exakta belopp utan datum och utan källa.

5. Citat och personuppgifter

Ordagranna citat, funktionsbeteckningar, vem som sagt vad när. Här är skadan störst, eftersom verkliga människor tillskrivs något.

Kännetecken: varje citat utan kontrollerbar fyndplats.

Visste du att…?

Tonen avslöjar ingenting. Modeller formulerar påhittade uppgifter med samma bestämdhet som belagda – ett «förmodligen» eller «möjligen» dyker inte upp där osäkerheten faktiskt ligger.

Det är skälet till att den vanliga prövningsmetoden går bet: människor bedömer trovärdighet också efter säkerheten i uppträdandet. Hos modeller finns den signalen inte – man måste pröva uppgiften själv, inte dess framförande.

Vad som faktiskt hjälper

Påhittningsförbud i prompten. Anvisningen att inte använda något tal och ingen källa som inte står i det medskickade materialet – och att märka det okända som [uppgift saknas]. Den verksammaste enskilda åtgärden.
Skicka med material i stället för att fråga efter det. Den som skriver in de egna talen i prompten behöver inga påhittade. Skillnaden mellan «skriv något om X» och «skriv något om X, här är våra tal om det» är det största enskilda kvalitetsspånget.
Sökkapabla modeller för det aktuella. När modellen kan söka och nämner källorna går uppgifterna att kontrollera. Att inte kontrollera betyder dock inte: kontrollerat.
Prövning som eget steg. Låt en lista över alla kontrollerbara påståenden skapas, pröva sedan själv. Åtskilt från skrivandet, annars hoppas det över.
Tal med ursprung. Varje tal i den färdiga texten får en ursprungsangivelse – även om den lyder «erfarenhetsvärde, ingen undersökning».

Observera Följdfrågan «är du säker?» är ingen prövning. En modell kan bekräfta en påhittad uppgift i samma samtal eller ändra den under påtryckning – bådadera säger ingenting om riktigheten. Prövning sker vid källan, inte i samtalet.

Från praktiken

Det dyraste fallet är inte den uppenbart felaktiga uppgiften, utan den som ligger knappt bredvid: en frist som finns, men med annat datum. En paragraf som existerar, men reglerar något annat. Ett leverantörspris som stämde för två år sedan.

Sådana uppgifter överlever varje ytlig prövning, eftersom de går att bekräfta – bara i en annan version. Därför räcker det inte att pröva om källan finns; man måste pröva om den säger det som står i texten.

Promptregeln ordagrant

Tre meningar som hör hemma i varje prompt där kontrollerbara uppgifter kan uppstå:

Promptblock

Regler för uppgifter:
1. Använd inget tal, ingen studie, ingen lagangivelse och
   inget citat som inte står i det material jag har
   skickat med ovan.
2. Där du behöver en uppgift som saknas där, skriv
   [uppgift saknas: vilken] i stället för att fylla på med något.
3. Märk varje påstående som du inte kan belägga ur materialet
   med [oprövat] i slutet av meningen.

De här tre reglerna har företräde framför alla andra anvisningar i
den här prompten.

Den sista meningen är inte överflödig: uppgifter i slutet av en prompt beaktas mer tillförlitligt, och ett uttryckligt företräde förhindrar att reglerna spelas ut mot önskan om en flytande text.

Att pröva med en andra omgång

Prompt

Pröva följande text med avseende på uppgifter som möjligen är
påhittade. Var sträng; beröm ingenting; skriv inte om texten.

Text:
[Klistra in text]

Uppgifter:
1. Räkna upp varje kontrollerbart påstående för sig: tal,
   procentvärden, studier, lagangivelser, årtal,
   produktuppgifter, priser, citat.
2. Märk varje påstående: belagt ur texten själv /
   måste jag pröva externt / verkar påhittat. Vid "verkar påhittat"
   nämn kännetecknet.
3. Nämn de tre uppgifter vars felaktighet skulle göra störst
   skada, och motivera.
4. Formulera för varje obelagd uppgift en version som klarar sig
   utan den uppgiften och ändå säger något.

Hitta inte på källhänvisningar och inga belägg. Om du inte kan
placera in en uppgift, skriv det.

Slutsats

Påhittade uppgifter är inget fel hos verktyget, utan en egenskap hos förfarandet. De försvinner inte, men de går att begränsa: skicka med material i stället för att fråga efter det, påhittningsförbud i prompten, och en prövning som eget arbetssteg.

Den obekväma följden: varje kontrollerbar uppgift i en publicerad text måste ha prövats av en människa. Det är den del som inte går att automatisera – och skälet till att sakkunskap blir viktigare vid användning av språkmodeller, inte oviktigare.

Vanliga frågor

Varför hittar språkmodeller på saker?

För att de skapar den sannolika fortsättningen på en text. På en fråga om en studie är en studieuppgift med institut, årtal och procenttal den sannolika fortsättningen – om den studien finns är för alstringen ingen storhet. Det rör sig om samma förfarande som också frambringar de rätta svaren.

Vilka uppgifter är särskilt drabbade?

Fem sorter: studier och statistik, sökvolymer och marknadstal, lagangivelser och frister, produktdetaljer och priser, samt citat och personuppgifter. Gemensamt för dem är att frågan väntar sig en bestämd svarsform – ett tal, ett paragrafnummer, ett citat.

Känner man igen påhittade uppgifter på tonfallet?

Nej. Modeller formulerar påhittade uppgifter med samma bestämdhet som belagda; förbehåll som «förmodligen» dyker inte upp där osäkerheten faktiskt ligger. Det som måste prövas är uppgiften själv, inte dess framförande.

Hjälper följdfrågan «är du säker?»

Nej. En modell kan bekräfta en påhittad uppgift i samma samtal eller ändra den under påtryckning – bådadera säger ingenting om riktigheten. En prövning sker vid källan, inte i samtalet.

Vad hjälper verksammast mot det?

Att skicka med material i stället för att fråga efter det: den som skriver in egna tal i prompten behöver inga påhittade. Därtill ett uttryckligt påhittningsförbud med märkningsplikt för det okända – i slutet av prompten, med företräde framför alla andra anvisningar – och en prövning som eget arbetssteg.