Agente AI con intervento umano: dove tracciare il confine

Chi valuta un agente AI per la propria azienda si scontra quasi sempre con la stessa domanda: cosa può decidere da solo, e cosa deve invece passare da una persona prima di diventare azione? La risposta onesta è che non esiste una linea fissa. Esiste un punto di partenza, deliberatamente prudente, e un meccanismo per spostarlo mano a mano che l'agente lavora e produce dati su dove funziona e dove no.

Questo articolo non parla di automazione totale né di sostituzione delle persone. Parla di come si progetta, concretamente, il rapporto tra decisione automatica e controllo umano in un'azienda di dieci, trenta o cento persone. E di come quel rapporto cambia nei primi mesi, non per intuito ma per evidenza.

Cosa distingue un agente AI da un'automazione

Un'automazione tradizionale segue una sequenza fissa: se succede X, fai Y. Un agente AI, invece, osserva una situazione, ragiona su cosa fare, decide tra più opzioni e agisce, poi impara dal risultato. La differenza non è cosmetica: un'automazione non ha bisogno di un confine perché non decide nulla di ambiguo, esegue solo regole scritte in anticipo. Un agente, per definizione, prende decisioni che nessuno ha scritto esplicitamente riga per riga. Serve quindi stabilire, prima di attivarlo, quali decisioni può prendere da solo e quali no.

Gli agenti AI più sofisticati oggi disponibili sbagliano ancora tra il 10% e il 20% delle volte su task complessi. Non è un dato che deve scoraggiare, ma che deve orientare la progettazione: se il tasso di errore è quello, il confine tra autonomia e intervento umano non può essere un dettaglio da sistemare dopo. È la prima decisione di progetto.

Il criterio per tracciare il confine iniziale

Il punto di partenza ragionevole si costruisce su due variabili, non una sola: quanto è ripetitivo e ben documentato il task, e quanto costa un errore. Se un'attività è ripetitiva, ad alto volume e le stesse venti domande tornano cinquanta volte al giorno, un agente può gestire l'ottanta per cento di quel lavoro senza intervento umano. Se ogni richiesta è unica e richiede giudizio, l'agente non è la soluzione giusta, a prescindere dal confine che si sceglie.

La seconda variabile è il costo dell'errore. Un agente AI per il servizio clienti che risponde in modo impreciso a una domanda su un ordine è un problema gestibile: il cliente può parlare con una persona un minuto dopo. Un agente che autorizza da solo un ordine da cinquantamila euro sbagliato è un problema diverso. La regola pratica è semplice: più alto e meno reversibile è il costo dell'errore, più stretto deve essere il perimetro di autonomia iniziale, indipendentemente da quanto l'agente sembri affidabile in fase di test.

Un caso concreto aiuta a vedere dove passa questa linea in pratica. Quando un agente AI per la gestione degli ordini lavora su un ordine in arrivo, può verificare la disponibilità, calcolare il prezzo, preparare la conferma. Decidere autonomamente su un ordine fuori standard, con sconti non previsti o quantità anomale, resta un caso da far passare a una persona, almeno nella prima fase.

Shadow mode: il periodo in cui l'agente lavora ma non decide

Prima di dare a un agente la possibilità di agire senza controllo, la pratica più solida è farlo lavorare in modalità supervisionata: l'agente elabora la decisione, ma un operatore la rivede prima che diventi azione, per le prime centinaia di esecuzioni. Questo periodo di affiancamento non è tempo perso: è il modo in cui si scoprono i casi limite che l'agente gestisce male, si affinano i permessi degli strumenti che usa, e si costruisce la fiducia organizzativa necessaria per allargare l'autonomia in modo giustificato, non per atto di fede.

Nei primi tre-sei mesi di un progetto agentico, mettere in conto cinque-dieci ore settimanali di una persona competente che controlla l'output, corregge gli errori e affina le istruzioni non è un costo nascosto: è parte del costo del progetto, va preventivato dall'inizio. Chi salta questa fase, convinto che la demo vista in una presentazione funzioni allo stesso modo in produzione, sta preparando il terreno per il tipo di progetto che viene abbandonato dopo pochi mesi.

Come si sposta il confine con i dati reali

Il confine iniziale non è definitivo. Si sposta, in una direzione o nell'altra, sulla base di quello che i primi mesi di attività mostrano. Servono criteri di successo definiti prima di partire, non dopo: il tasso di errore accettabile, il miglioramento specifico che ci si aspetta, la soglia oltre la quale un caso deve passare obbligatoriamente a una persona. Senza questi numeri fissati in anticipo, ogni valutazione successiva diventa un'opinione, non un dato.

Con questi criteri stabiliti, i mesi di dati raccontano tre cose distinte. Primo: su quali categorie di richieste l'agente ha un tasso di errore basso e stabile, e lì l'autonomia può crescere. Secondo: su quali categorie sbaglia sistematicamente, magari per dati mancanti o casi non previsti nella documentazione, e lì il confine resta stretto o si stringe ulteriormente. Terzo, spesso il più utile: quali situazioni erano rare nella progettazione iniziale ma frequenti nella realtà, e vanno aggiunte esplicitamente alla lista dei casi da far passare a una persona.

Un punto va tenuto presente anche qui: un progetto pilota che funziona bene con cento esecuzioni al giorno può mostrare nuove modalità di errore quando il volume sale a diecimila. Il confine va rivisto anche quando cambia la scala, non solo quando cambia il tempo trascorso.

Cosa non deve mai passare all'agente, anche dopo mesi di buoni risultati

Ci sono decisioni che restano umane indipendentemente da quanto bene abbia performato l'agente fino a quel momento. La valutazione di rischio su contratti grandi, la decisione di investimento strategica, la firma di accordi complessi: il giudizio finale resta umano, non perché l'agente non sappia elaborare dati a supporto, ma perché la responsabilità di quella decisione non è delegabile a un sistema che non ha una bussola morale né la possibilità di essere ritenuto responsabile in senso pieno.

Lo stesso vale per situazioni con un'alta componente emotiva o relazionale complessa: la gestione di un reclamo particolarmente delicato, la trattativa con un cliente storico in difficoltà, qualunque contesto in cui l'empatia e la lettura di segnali non espliciti contano quanto il contenuto della richiesta. L'agente può preparare il contesto, riassumere la storia del cliente, proporre opzioni. La decisione finale, in questi casi, resta a una persona anche quando il sistema è maturo da un anno.

Governance: chi decide dove sta il confine

Prima di attivare un agente, qualcuno in azienda deve rispondere a quattro domande: chi è responsabile di ciò che fa l'agente, quali decisioni può prendere in autonomia, quali richiedono un'autorizzazione, come si gestiscono le eccezioni. Non sono domande da lasciare implicite, perché quando succede un errore la prima cosa che serve è sapere chi lo corregge e con quale autorità.

Questo vale anche sul piano normativo. Dal 2 agosto 2026 il Regolamento UE 2024/1689, l'AI Act, è pienamente applicabile alle aziende che usano sistemi AI in contesto professionale nell'Unione Europea, a prescindere dalle dimensioni. Per la maggior parte delle PMI italiane questo non comporta un carico pesante, perché sistemi come chatbot, strumenti di produttività e CRM predittivi rientrano nelle categorie a rischio limitato o minimo. Ma avere tracciato per iscritto dove passa il confine tra decisione automatica e intervento umano non è solo buona pratica operativa: è anche la base documentale che la normativa, in prospettiva, chiederà di dimostrare.

Definire questo confine e aggiornarlo sui dati reali è un lavoro che richiede metodo, non solo tecnologia: se vuoi capire dove tracciarlo nella tua azienda, parliamone.