Un output fluido non è un output fondato
Un assistente può produrre una risposta sicura anche quando non gli sono stati forniti i materiali necessari per rispondere in modo responsabile. In un contesto aziendale, il rischio non è solo un errore fattuale. È uno spostamento invisibile dalla conoscenza approvata all'invenzione plausibile.
Le regole sulle fonti rendono visibile l'ambito dell'assistente. Identificano quale materiale è consentito, cosa deve essere citato o evidenziato, cosa l'assistente deve rifiutare e quando deve decidere un essere umano.
Costruisci il pacchetto di fonti prima dell'interfaccia
Un pacchetto di fonti può essere piccolo. Può contenere una descrizione del servizio revisionata, un documento di policy, una scheda prodotto o una raccolta della knowledge base. Ciò che conta è che il materiale sia nominato, sufficientemente aggiornato per il compito e strutturato in modo che un revisore possa verificare perché è stato usato.
Usa la revisione come capacità operativa
La revisione non è un segno che il sistema abbia fallito. È il meccanismo che mantiene la responsabilità delle decisioni importanti. Definisci le condizioni che richiedono revisione, la persona che ne è responsabile e come l'assistente trasferisce il contesto. Questa è la base per un lavoro agentivo utile.