AI s provjerenim izvorima: odgovori, ovlasti i granice dostupnosti

Problem iz poslovanja

Hotel želi asistenta koji zna sve o objektu, ali dokumenti su zastarjeli, cijene se mijenjaju, a gost formulira pitanje tako da alat počne improvizirati. Povezivanje datoteka stvara dojam pouzdanosti koji nije jednak stvarnoj provjeri točnosti i ovlasti.

Nakon lekcije moći ćete

• Razlikovati statično znanje, podatak iz aktivnog sustava i poslovno odobrenje.
• Pripremiti uređene izvore za dohvat i testiranje odgovora.
• Definirati kada AI odgovara, traži pojašnjenje ili predaje čovjeku.

Katalog znanja nije živi kalendar

Upute za parking ili pravilo korištenja roštilja mogu biti odobreni dokumenti s datumom provjere. Raspoloživost, aktualna cijena i status naplate promjenjivi su podaci koji traže odgovarajuću vezu s mjerodavnim sustavom. Asistent koji čita dokument o objektu ne zna automatski trenutačno stanje rezervacija. Ni nedavno preuzet izvoz nije jamstvo da se stanje nije promijenilo. Na razini proizvoda odredite koje informacije smiju biti predstavljene kao aktualne, kada se navodi vrijeme dohvaćanja i tko potvrđuje rezervaciju.

Dohvat pomaže, ali ne zamjenjuje kvalitetu sadržaja

Pristup poznat kao dohvat prije generiranja znači da sustav pokušava pronaći relevantan izvor prije sastavljanja odgovora. Primjerice, OpenAI File search omogućuje pretraživanje pripremljenih datoteka, ali time ne potvrđuje da su datoteke točne ili primjerene vašem objektu. Razdvojite dokumente po objektu i temi, zabilježite odobravatelja, inačicu i rok provjere. Uklonite međusobno proturječne kopije. Ako postoji stara i nova verzija pravila, najprije riješite taj sukob; dodatna uputa modelu ne može pouzdano zamijeniti uredničko upravljanje izvorima.

Ovlasti vrijede i za pitanje i za odgovor

Osoba koja postavi pitanje o drugom objektu ne smije zbog toga dobiti njegove privatne podatke. Pristup ograničite kroz autorizaciju sustava, a ne samo kroz rečenicu „ne otkrivaj”. Počnite s dopuštenim javnim činjenicama ili odobrenim internim sadržajem odgovarajuće uloge. Dokumenti, poruke i vanjski sadržaji mogu sadržavati upute koje pokušavaju promijeniti ponašanje asistenta; obrađujte ih kao podatke, ne kao ovlaštenje za slanje, promjenu cijene ili otkrivanje tajni. Promjena poslovnog stanja zahtijeva odvojenu ovlast i provjeru.

Testirajte odgovor i odbijanje improvizacije

Testni skup mora uključiti pitanja s točnim odgovorom, pitanje koje nema izvor, sukob dviju inačica i zahtjev izvan ovlasti. Za svako pitanje unaprijed napišite prihvatljiv ishod. Ponekad je najbolji rezultat „Taj podatak trebam potvrditi s domaćinom”, uz jasan sljedeći korak. Provjerite odgovara li navedeni izvor stvarno tvrdnji, jesu li ispravno preneseni uvjeti i ostaje li cijena samo ilustracija kada nema aktivne potvrde. Nakon izmjene dokumenata ponovite testove. Dobro pronađen odlomak nije dokaz da cijeli odgovor nema pogreške.

Postupak rješavanja

1. Razvrstajte informacije na statične, često promjenjive i poslovno osjetljive.

2. Za svaku skupinu odredite izvor, ovlasti, datum provjere i dopušteni način odgovaranja.

3. Pripremite izmišljeni testni skup s nedostajućim podatkom, sukobom izvora i pitanjem izvan ovlasti.

4. Prije uporabe provjerite odgovore, izvore i postupak predaje čovjeku; zadržite evidentirano odobrenje opsega.

Primjena prema vrsti poslovanja

Pogreške koje treba izbjeći

• Nazvati alat pouzdanim samo zato što prikazuje poveznicu na dokument.
• Tretirati spremljeni cjenik kao potvrdu cijene za svaki budući boravak.
• Pravila pristupa zamijeniti dobronamjernom uputom u promptu.

Vaš praktični zadatak

Odaberite deset pitanja koja gosti zaista postavljaju. Za svako navedite izvor, dopušteni odgovor i situaciju za osobnu potvrdu. Dodajte dva pitanja na koja alat ne smije dati podatke te provjerite očekivano ponašanje na izmišljenom skupu.