Autonomia sì, ma le decisioni che contano passano da una persona.
Autonomia non è sinonimo di "senza supervisione". I nostri agenti fanno il carico ripetitivo dall'inizio alla fine, ma decidi tu quali azioni partono in automatico e quali richiedono un'approvazione umana. Niente parte senza il tuo controllo.
È la domanda che ogni reparto ci pone alla seconda riunione, e raramente riguarda la tecnologia: non è se l'agente sia capace di eseguire un'azione, ma chi risponde quando la esegue. Il human-in-the-loop è la risposta a quella domanda, non una funzione di sicurezza aggiunta alla fine.
Guardrail, non freni
Approvazioni, audit trail e citazioni chiare fanno sì che l'autonomia non diventi mai perdita di controllo. L'agente va veloce dove è sicuro e chiede dove non lo è.
La differenza è sostanziale. Un freno rallenta tutto allo stesso modo; un guardrail lascia correre dove la strada è dritta e interviene solo in curva. Un agente che chiede conferma su ogni singolo passo non è prudente: è inutile, perché sposta sulla persona lo stesso carico che doveva togliere.
Dove passa la linea
La linea non la decidiamo noi a tavolino: emerge durante la mappatura del reparto, guardando quali decisioni hanno conseguenze reversibili e quali no. In genere si assesta così:
- Parte in automatico ciò che è reversibile e verificabile: leggere, estrarre, classificare, riconciliare, preparare una bozza, aggiornare un record interno.
- Passa da una persona ciò che è irreversibile o esposto: quello che esce dall'azienda, quello che vincola, quello che tocca un cliente o una posizione contrattuale.
- Resta sempre umano ciò che richiede giudizio su un caso anomalo, cioè esattamente il lavoro che vale la pena lasciare alle persone.
La soglia si sposta nel tempo, e deve poterlo fare. Un'attività che al primo mese richiede approvazione su ogni caso, dopo tre mesi di storico verificabile può passare a un controllo a campione. Il percorso naturale è verso più autonomia, ma guadagnata con l'evidenza, non concessa in partenza.
L'audit trail viene prima dell'autonomia
Ogni azione dell'agente lascia traccia di cosa ha fatto, su quali fonti si è basato e chi ha approvato. Non è un requisito di conformità da soddisfare a posteriori: è la condizione che rende possibile allargare l'autonomia. Senza storico verificabile, ogni ampliamento sarebbe un atto di fede.
L'approvazione non deve diventare la coda
Il modo più comune di sbagliare human-in-the-loop è trasformarlo in un collo di bottiglia: l'agente lavora in pochi secondi e poi il risultato aspetta due giorni in una casella che nessuno presidia. Il tempo risparmiato si perde tutto lì.
Per questo l'approvazione la progettiamo con lo stesso rigore del resto: raggruppata invece che una richiesta alla volta, dentro lo strumento che il reparto già usa invece che in un'interfaccia in più, e con abbastanza contesto — la fonte, la citazione, il motivo — perché la decisione richieda secondi e non una nuova istruttoria.
Quando funziona, la persona smette di eseguire il lavoro e inizia a governarlo. È il punto: non un agente sorvegliato, ma un reparto che decide di più occupandosi di meno.