Kada AI izmišlja stvari: prepoznati i spriječiti

Najvažnije ukratko

Izmišljeni podaci ne nastaju kod teških pitanja nego kod onih za koja postoji očekivan oblik odgovora – brojke, izvori, članci zakona.
Pet je vrsta osobito pogođeno: istraživanja, količine pretraživanja, pravni podaci, pojedinosti o proizvodima i citati.
Najdjelotvornija je mjera zabrana izmišljanja u promptu uz obvezu označavanja onoga što je nepoznato.
Samouvjeren ton nije znak točnosti – modeli izmišljene podatke oblikuju jednako suvereno kao potkrijepljene.

Pojam «halucinacija» navodi na krivi trag jer zvuči kao izvanredno stanje. Zapravo je riječ o istom postupku koji stvara i točne odgovore: o vjerojatnom nastavku teksta.

Na pitanje o istraživanju neke teme vjerojatan je nastavak podatak o istraživanju s institutom, godinom i postotkom. Postoji li to istraživanje, za samo stvaranje nije veličina.

Pet vrsta podataka koje su osobito pogođene

1. Istraživanja i statistike

«Prema istraživanju iz 2024. 67 posto malih i srednjih poduzeća koristi …» – institut, godina i postotak zajedno djeluju vrlo uvjerljivo, a sva tri mogu biti posve izmišljena.

Znak prepoznavanja: okrugle brojke, nema poveznice, institut bez točnog naslova.

2. Količine pretraživanja i tržišne brojke

Nijedan model nema pristup podacima o upitima neke tražilice. Na pitanje ipak stižu brojke – jer pitanje očekuje brojku.

Znak prepoznavanja: svaka brojka u tom području. Bez iznimke.

3. Pravni podaci i rokovi

Brojevi članaka, odredbe, prijelazni rokovi. Osobito opasno jer zvuči stručno i u praksi pokreće odluke.

Znak prepoznavanja: precizan broj bez navođenja inačice i datuma.

4. Pojedinosti o proizvodima i cijene

Opseg funkcija, granice tarifa, cijene pružatelja. Često se mijenjaju i nerijetko leže iza zapreka za prijavu.

Znak prepoznavanja: točni iznosi bez datuma i bez izvora.

5. Citati i podaci o osobama

Doslovni citati, nazivi funkcija, tko je kada što rekao. Ovdje je šteta najveća jer se stvarnim ljudima nešto pripisuje.

Znak prepoznavanja: svaki citat bez provjerljiva mjesta nalaza.

Jeste li znali?

Ton ne odaje ništa. Modeli izmišljene podatke oblikuju jednako odlučno kao potkrijepljene – «vjerojatno» ili «možda» ne pojavljuje se ondje gdje nesigurnost zaista leži.

To je razlog zašto uobičajena metoda provjere zakazuje: ljudi vjerodostojnost ocjenjuju i po sigurnosti nastupa. Kod modela tog signala nema – provjeriti treba sam podatak, a ne način na koji je iznesen.

Što zaista pomaže

Zabrana izmišljanja u promptu. Uputa da se ne upotrebljava nijedna brojka i nijedan izvor kojih nema u priloženim podacima – a nepoznato da se označi kao [podatak nedostaje]. Najdjelotvornija pojedinačna mjera.
Priložiti građu umjesto pitati. Tko vlastite brojke upiše u prompt, ne treba izmišljene. Razlika između «napiši nešto o X» i «napiši nešto o X, evo naših brojki o tome» najveći je pojedinačni skok u kvaliteti.
Modeli koji mogu pretraživati za ono aktualno. Ako model može pretraživati i navodi izvore, podaci se mogu provjeriti. Ali «može se provjeriti» ne znači: provjereno.
Provjera kao zaseban korak. Dati da se izradi popis svih provjerljivih tvrdnji, pa ih provjeriti sami. Odvojeno od pisanja, inače se preskače.
Brojke s podrijetlom. Svaka brojka u gotovom tekstu dobiva podatak o podrijetlu – pa i onda kad glasi «iskustvena vrijednost, ne istraživanje».

Pozor Pitanje «Jesi li siguran?» nije provjera. Model izmišljen podatak u istom razgovoru može potvrditi ili ga pod pritiskom promijeniti – ni jedno ni drugo ne govori ništa o točnosti. Provjerava se na izvoru, a ne u razgovoru.

Iz prakse

Najskuplji slučaj nije očito netočan podatak nego onaj koji je tik pokraj istine: rok koji postoji, ali s drugim datumom. Odredba koja postoji, ali uređuje nešto drugo. Cijena pružatelja koja je vrijedila prije dvije godine.

Takvi podaci prežive svaku površnu provjeru jer se mogu potvrditi – samo u drugoj inačici. Zato ne dostaje provjeriti postoji li izvor; treba provjeriti kaže li on ono što stoji u tekstu.

Pravilo za prompt u doslovnom obliku

Tri rečenice koje spadaju u svaki prompt kod kojeg mogu nastati provjerljivi podaci:

Sastavnica prompta

Pravila za podatke:
1. Ne upotrebljavaj nijednu brojku, nijedno istraživanje, nijedan
   pravni podatak i nijedan citat kojih nema u građi koju sam ti
   priložila gore.
2. Gdje ti treba podatak kojeg ondje nema, napiši
   [podatak nedostaje: koji] umjesto da nešto dopuniš.
3. Označi svaku tvrdnju koju iz građe ne možeš potkrijepiti
   na kraju rečenice s [neprovjereno].

Ta tri pravila imaju prednost pred svim drugim uputama u
ovom promptu.

Zadnja rečenica nije suvišna: podaci na kraju prompta uzimaju se u obzir pouzdanije, a izričita prednost sprječava da se pravila stave nasuprot želji za tečnim tekstom.

Provjera drugim prolazom

Prompt

Provjeri sljedeći tekst s obzirom na podatke koji su možda
izmišljeni. Budi strog; ne hvali ništa; ne prepisuj tekst.

Tekst:
[umetnuti tekst]

Zadaci:
1. Popiši svaku provjerljivu tvrdnju zasebno: brojke,
   postotke, istraživanja, pravne podatke, godine,
   podatke o proizvodima, cijene, citate.
2. Označi svaku tvrdnju: potkrjepljiva iz samog teksta /
   moram provjeriti izvana / djeluje izmišljeno. Kod «djeluje
   izmišljeno» navedi znak prepoznavanja.
3. Navedi tri podatka čija bi netočnost nanijela najveću
   štetu, i obrazloži.
4. Za svaki nepotkrijepljen podatak sastavi inačicu koja prolazi
   bez tog podatka a ipak nešto govori.

Ne izmišljaj podatke o izvorima ni potkrepe. Ako neki
podatak ne možeš razvrstati, napiši to.

Zaključak

Izmišljeni podaci nisu pogreška alata nego svojstvo postupka. Ne nestaju, ali se mogu ograničiti: priložiti građu umjesto pitati, zabrana izmišljanja u promptu i provjera kao zaseban radni korak.

Neugodna posljedica: svaki provjerljiv podatak u objavljenom tekstu mora provjeriti čovjek. To je dio koji se ne može automatizirati – i razlog zašto stručno znanje pri upotrebi jezičnih modela postaje važnije, a ne manje važno.

Česta pitanja

Zašto jezični modeli izmišljaju stvari?

Jer stvaraju vjerojatan nastavak teksta. Na pitanje o istraživanju vjerojatan je nastavak podatak o istraživanju s institutom, godinom i postotkom – postoji li to istraživanje, za samo stvaranje nije veličina. Riječ je o istom postupku koji donosi i točne odgovore.

Koji su podaci osobito pogođeni?

Pet vrsta: istraživanja i statistike, količine pretraživanja i tržišne brojke, pravni podaci i rokovi, pojedinosti o proizvodima i cijene te citati i podaci o osobama. Zajedničko im je da pitanje očekuje određen oblik odgovora – brojku, broj odredbe, citat.

Prepoznaju li se izmišljeni podaci po tonu?

Ne. Modeli izmišljene podatke oblikuju jednako odlučno kao potkrijepljene; ograde poput «vjerojatno» ne pojavljuju se ondje gdje nesigurnost zaista leži. Provjeriti treba sam podatak, a ne način na koji je iznesen.

Pomaže li pitanje «Jesi li siguran?»

Ne. Model izmišljen podatak u istom razgovoru može potvrditi ili ga pod pritiskom promijeniti – ni jedno ni drugo ne govori ništa o točnosti. Provjera se odvija na izvoru, a ne u razgovoru.

Što pomaže najdjelotvornije?

Priložiti građu umjesto pitati: tko vlastite brojke upiše u prompt, ne treba izmišljene. Uz to izričita zabrana izmišljanja s obvezom označavanja onoga što je nepoznato – na kraju prompta, s prednošću pred svim drugim uputama – i provjera kao zaseban radni korak.

Marketing koji se sam postavlja

Beta verzija Studio Enginea je otvorena. Osigurajte mjesto i sudjelujte od početka.

Pridruži se beti →

← Natrag na pregled