Quando una tecnologia entra in un’organizzazione, la questione non riguarda soltanto ciò che è in grado di fare, ma il modo in cui cambia il lavoro delle persone e i processi in cui viene inserita. È una prospettiva che Paola Lanzi, Head of Automated & Multimodal Transports di Deep Blue, conosce da vicino grazie a un’esperienza maturata nei sistemi complessi e nell’automazione del controllo del traffico aereo.
A Rome Future Week® porterà questo punto di vista a NEURA, il Future Hub dedicato all’intelligenza artificiale applicata, dove presenterà Feat.AI e parlerà di adozione dell’AI, rischi e performance. In questa intervista partiamo proprio da qui per capire cosa accade quando l’intelligenza artificiale entra concretamente nelle aziende e perché la sua integrazione richiede di guardare alla tecnologia insieme al sistema organizzativo in cui dovrà funzionare.
Lei lavora da più di vent’anni sull’introduzione dell’automazione nel controllo del traffico aereo, un ambiente in cui ogni tecnologia deve dimostrare la propria sicurezza prima di entrare in servizio. Oggi osserva le aziende adottare l’AI generativa con una velocità molto diversa: spesso prima si sperimenta e poi si definiscono i criteri di utilizzo. Da questo punto di osservazione privilegiato, quali aspetti vede con maggiore chiarezza rispetto a un manager che sta affrontando oggi questa trasformazione?
Non esiste una tecnologia complessa che sia davvero pronta all’uso. L’automazione infatti non è un elemento plug & play da collegare e attivare.
Nel controllo del traffico aereo, come in tanti altri sistemi organizzativi complessi e a rischio sicurezza, non si introduce mai un algoritmo pensando che basti inserirlo nel contesto organizzativo per vederlo funzionare: prima si analizzano con cura il beneficio che si intende ottenere e il costo che questo comporta in termini di ridefinizione delle procedure e dei processi, si valuta come cambia il carico di lavoro mentale delle persone, come si riorganizzano le decisioni e cosa succede quando qualcosa non va come previsto. In modo molto semplice, si progetta l’adozione della soluzione tecnologica nel rispetto del contesto organizzativo in cui va inserita.
Con l’intelligenza artificiale l’illusione che la soluzione sia plug & play è particolarmente forte. Le aziende acquistano le licenze, le distribuiscono e si aspettano risultati immediati, scambiando la facilità di accesso alla tecnologia con una reale adozione organizzativa. L’intelligenza artificiale è invece uno strumento che, in quanto tale, va integrato all’interno del sistema organizzativo.
Quello che la storia dell’automazione ci insegna è che saltare la fase di integrazione tra uomo e macchina non fa risparmiare tempo, ma crea un’incertezza operativa invisibile. Se si rilascia uno strumento senza aver strutturato il modo in cui le persone devono lavorarci insieme, nel tentativo di accelerare la crescita, si sta al contempo accumulando un debito di rischio. In aviazione abbiamo imparato che il tempo speso all’inizio per capire che l’automazione non è un blocco isolato, ma una relazione da progettare, è l’unico modo per evitare fallimenti costosi e il rigetto dello strumento sul campo.
L’aviazione ha imparato che la sfida dell’automazione raramente riguarda soltanto la macchina: coinvolge le persone che lavorano con la tecnologia, le procedure e l’organizzazione nel suo complesso. È il concetto di sistema socio-tecnico. Se dovesse tradurre questo principio per un CEO che sta firmando il suo primo contratto enterprise di AI, che cosa sta acquistando davvero oltre alla licenza?
Il concetto di sistema socio-tecnico ci mostra che in un’organizzazione la tecnologia, le persone e le strutture gestionali non operano mai in compartimenti stagni, ma si condizionano a vicenda. L’efficacia di un’innovazione non dipende mai dal valore della sola macchina, ma dall’armonia complessiva con il contesto umano e procedurale in cui si inserisce.
Se dovessi tradurre questo principio per un amministratore delegato, gli direi che con la licenza sta acquistando solo la componente tecnologica, ma ciò che sta davvero portando in azienda è la necessità di ridefinire la dinamica tra le persone, i processi e le decisioni. Oltre al software, sta acquistando il compito di scegliere e calibrare il corretto livello di automazione. La massima automazione (quella in cui la macchina opera in totale autonomia) può funzionare per attività ripetitive e circoscritte, ma non è quasi mai la scelta migliore quando in gioco ci sono processi complessi o decisioni strategiche. Non è detto che un sistema debba agire da solo perché è tecnicamente in grado di farlo: spesso il valore reale si ottiene lasciando alle persone la responsabilità finale e la capacità di beneficiare della cooperazione con la macchina. In sostanza, quel contratto non garantisce una scorciatoia per la produttività, ma apre un cantiere organizzativo. Se non si definiscono fin da subito chi ha la responsabilità dell’output, come si mantiene il giudizio critico delle persone e come si riorganizzano le procedure, la licenza enterprise si trasformerà nel rischio di un disorientamento e di inefficienza operativa.
Non è un caso che lo stesso regolamento europeo per l’intelligenza artificiale (AI Act) abbia recepito appieno questa visione: la normativa non si limita a richiedere requisiti tecnici al software, ma impone alle aziende una reale supervisione umana (human oversight) e la tutela della salute, della sicurezza e dei diritti dei lavoratori nei contesti operativi.
Si parla sempre più spesso di “trophy-style AI adoption”: l’AI acquistata come simbolo di innovazione, misurata attraverso licenze attivate e persone formate più che attraverso risultati concreti. Come si può distinguere, nella pratica, un’organizzazione che sta adottando davvero l’AI da una che sta semplicemente dichiarando di farlo?
La differenza risiede nelle scelte che muovono l’organizzazione nel decidere di introdurre strumenti basati su intelligenza artificiale e in ciò che l’organizzazione sceglie di misurare e monitorare nel tempo. Un’adozione di facciata guarda unicamente a dati quantitativi di superficie: il numero di licenze acquistate o attivate, le ore di formazione erogate o i volumi di contenuto e codice generati.
Studi recenti di settore mostrano che concentrarsi solo su questi indicatori spesso nasconde una realtà diversa, in cui quasi l’80% dei lavoratori percepisce un aumento del carico di lavoro e una forte incertezza su come soddisfare le aspettative di produttività. Se l’aumento delle licenze porta con sé l’insoddisfazione dei dipendenti migliori o un aumento del turnover, non siamo davanti a una vera adozione, ma soltanto a una vetrina sostenuta da metriche di superficie, ed esponiamo l’organizzazione a seri rischi. Un’organizzazione che integra davvero l’intelligenza artificiale adotta invece una visione d’insieme e misura l’impatto sul sistema nel suo complesso. Traccia indicatori di prestazione reale: la qualità del prodotto o servizio finale, la riduzione del tasso di errore, la conservazione delle competenze chiave e il benessere del personale.
Nei nostri progetti di ricerca abbiamo visto che la vera adozione si riconosce dalla capacità di trasformare la gestione dei rischi umani in risultati operativi misurabili. Un’azienda adotta davvero l’AI quando smette di considerare l’impatto sulle persone come un problema marginale e capisce che proteggere il benessere, la chiarezza e le competenze del team è l’unico modo per ottenere più qualità, meno errori e maggiore produttività.
Introdurre l’AI è prima di tutto una decisione organizzativa, non soltanto tecnologica, perché coinvolge processi decisionali, ruoli e cultura aziendale. Chi dovrebbe essere coinvolto quando un’azienda decide di adottare l’AI? E quali figure oggi rischiano di rimanere fuori da questo confronto?
L’introduzione dell’intelligenza artificiale richiede fin dall’inizio un tavolo di lavoro multidisciplinare. Trattandosi di una trasformazione organizzativa, non può essere un percorso affidato esclusivamente alla direzione informatica: deve partire dal vertice strategico aziendale per definirne la visione e la direzione, coinvolgendo direttamente a cascata i responsabili dell’area tecnica e delle risorse umane, l’area legale e di conformità normativa, i referenti della salute e sicurezza sul lavoro, i responsabili dei processi operativi e le funzioni di gestione del rischio, oltre che ovviamente le linee operative.
Se le decisioni sull’adozione vengono prese verticisticamente senza consultare chi esegue le attività sul campo e possiede la conoscenza pratica dei processi (quel sapere informale e tacito che garantisce la continuità operativa dell’azienda ma non si trova scritto nei manuali) l’organizzazione può andare incontro a un problema. Escludere queste figure rischia di portare a introdurre strumenti decontestualizzati, percepiti dai lavoratori come un elemento di controllo o una minaccia. Quando le persone vengono coinvolte solo a decisioni già prese, l’inevitabile conseguenza è l’insorgere di resistenze operative o disinteresse, che compromettono il valore dell’intero investimento.
Deskilling, dipendenza dall’automazione, fiducia non adeguatamente calibrata negli output della macchina: sono temi che l’aviazione studia da decenni e che oggi riguardano anche gli ambienti di lavoro quotidiani. Quale di questi aspetti ritiene sia ancora sottovalutato dalle imprese? E quali segnali possono indicare che sta emergendo?
Questi sono temi caldi e molto dibattuti quando si parla di introduzione di strumenti basati su intelligenza artificiale. L’aspetto oggi maggiormente sottovalutato dalle imprese è la fatica da validazione, unita alla saturazione dei ritmi lavorativi.
L’intelligenza artificiale genera risposte a una velocità impressionante, ma è intrinsecamente imperfetta. Verificare, correggere e convalidare continuamente questi output richiede un livello di attenzione molto elevato e uno sforzo cognitivo costante, spesso del tutto invisibile ai manager. Inoltre, i sistemi intelligenti tendono ad azzerare le micro-pause fisiologiche e i tempi d’attesa che nel lavoro quotidiano servono alle persone per ricaricare le energie mentali. Questo sovraccarico cognitivo continuativo conduce a ciò che definiamo AI burnout.
I segnali d’allarme di questa deriva sono molto precisi:
- un calo di attenzione e di qualità nella fase di controllo, con le persone che finiscono per approvare in modo del tutto acritico gli output della macchina pur di smaltire il carico di lavoro (automation bias), oppure che li rifiutano in blocco per frustrazione.
- L’insorgere di disinteresse e rifiuto passivo, in particolare tra il personale con maggiore esperienza.
- Un aumento dello stress generalizzato e l’incremento del turnover. I dati delle nostre ricerche mostrano che circa il 20% dei lavoratori valuta di lasciare l’azienda per insoddisfazione dopo l’introduzione dell’AI, e solitamente si tratta dei profili migliori.
Esiste un paradosso noto nei sistemi automatizzati: più una tecnologia appare affidabile, più le persone possono essere meno preparate a intervenire quando qualcosa non funziona. Come si progetta un’organizzazione in cui le persone mantengono la capacità e il diritto di mettere in discussione la macchina?
È un’ottima domanda, perché tocca il cuore del paradosso dell’automazione: quando il sistema sembra infallibile, l’attenzione cala, subentra l’autocompiacimento (complacency) e la capacità critica dell’operatore rischia di atrofizzarsi. Per evitare che la human oversight si riduca a una firma di comodo (trasformando l’operatore in un semplice capro espiatorio in caso di errore), l’organizzazione deve progettare attivamente le condizioni per un controllo reale.
Per garantire che le persone mantengano la capacità e il diritto di mettere in discussione la macchina servono tre condizioni fondamentali:
- trasparenza e spiegabilità: l’operatore non deve trovarsi di fronte a una “scatola nera”. Deve poter comprendere su quali criteri la macchina ha basato la sua analisi e quali sono i margini di incertezza del risultato.
- Tempo e spazio di verifica: responsabilizzare qualcuno significa dargli il tempo materiale e l’autonomia operativa per valutare l’output. Se i ritmi aziendali impongono di approvare le risposte dell’AI a ritmi insostenibili, la responsabilità dell’umano diventa puramente fittizia.
- Tutela e valorizzazione del giudizio umano: se un operatore corregge o rifiuta l’output della macchina per motivi fondati, l’organizzazione deve valorizzare quella scelta anziché penalizzare i tempi di esecuzione.
In sintesi, la responsabilità non si scarica a valle sull’utente finale attraverso disclaimer o liberatorie, ma si progetta a monte a livello di sistema, garantendo che il ruolo dell’umano sia quello di un supervisore consapevole e non di un semplice passacarte burocratico.
Arriviamo allo strumento che presenterà a Neura. Il titolo del suo speech mette in relazione due dimensioni che spesso nelle aziende vengono affrontate separatamente: rischi e performance. Feat.AI nasce proprio per collegarle. Quale problema affronta e perché gli strumenti già disponibili non erano sufficienti?
C’è una tendenza per cui le aziende affrontano la trasformazione digitale con due approcci separati che raramente dialogano: da un lato le analisi della compliance e dei rischi legali o etici (che producono report cartacei o checklist burocratiche), dall’altro le metriche informatiche e di prestazione pura, focalizzate unicamente sulla velocità o sui volumi prodotti.
Il problema che Feat.AI affronta è proprio questa spaccatura. Gli strumenti tradizionali non erano sufficienti perché considerano i “rischi umani” (come ad esempio l’AI burnout, l’eccessiva dipendenza, l’opacità decisionale o la perdita di competenze) come costi inevitabili o variabili collaterali, slegate dalle prestazioni aziendali. In realtà, nel mondo operativo questi elementi sono due facce della stessa medaglia: se ignori l’impatto sul fattore umano, la prestazione crolla sotto forma di errori in aumento, calo della qualità e turnover del personale.
Feat.AI aiuta a colmare questo vuoto e nasce dalla nostra esperienza nei settori ad altissima sicurezza (safety-critical) come il controllo del traffico aereo. È uno strumento metodologico e operativo che trasforma i rischi umani e socio-tecnici in indicatori di performance (KPI) direttamente monitorabili. Non diciamo semplicemente all’azienda “stai attenta a questo rischio”, ma le forniamo un percorso guidato in tre fasi (Assessment, Co-Design delle procedure e Tracking continuo) per affrontarlo, e per misurare come la corretta gestione del fattore umano generi un impatto economico e operativo diretto: più qualità nel lavoro, minore tasso di difetti, protezione del patrimonio di competenze interne e una drastica riduzione dei costi nascosti dovuti al rigetto della tecnologia.
Deep Blue utilizza il concetto di Human-AI Teaming: non semplicemente usare l’AI, ma costruire una collaborazione efficace con l’AI, attraverso ruoli chiari, fiducia calibrata e capacità di comprensione reciproca. Nei vostri progetti di explainable AI avete lavorato proprio sulla possibilità di rendere comprensibili le decisioni della macchina a chi opera al suo fianco. Quanto è importante la spiegabilità nell’adozione dell’AI e quanta ne serve realmente, a seconda dei ruoli coinvolti?
La spiegabilità è la pietra angolare del Human-AI Teaming: se non capisco come la macchina arriva a una conclusione, non posso riporvi una fiducia calibrata. O finirò per fidarmi ciecamente (over-trust), accettando passivamente errori macroscopici, o rifiuterò del tutto i suggerimenti della macchina (under-trust).
Tuttavia, il punto fondamentale è che non a tutti serve il medesimo livello di spiegabilità. Fornire troppi dettagli tecnici a un operatore di prima linea durante una fase operativa ad alto ritmo produce sovraccaricamento cognitivo, non chiarezza.
La spiegabilità va quindi calibrata sulla base del ruolo:
- Per l’operatore sul campo: serve una spiegabilità contestuale e sintetica. La macchina deve mostrare le motivazioni chiave del suggerimento e il livello di incertezza della stima, consentendo all’operatore di prendere una decisione rapida e consapevole.
- Per chi gestisce processi o conformità (Quality/Legal/HR): serve una spiegabilità approfondita e tracciabile, utile ad analizzare i bias, verificare i dati sorgente e condurre audit ex post.
- Per la direzione strategica: servono indicatori aggregati sul grado di accuratezza e sull’affidabilità sistemica dell’AI nel tempo.
La spiegabilità non è un esercizio teorico o un modulo software generico: è l’interfaccia cognitiva che permette all’umano di rimanere un supervisore reale e non un semplice spettatore. Va progettata in funzione del compito che il sistema supporta, del ruolo dell’interlocutore e dei processi e delle procedure che applica..
Nei sistemi complessi il cambiamento funziona quando le persone coinvolte diventano co-progettisti e non soltanto destinatari della tecnologia. Nelle aziende, invece, spesso l’AI viene introdotta dall’alto e le persone la incontrano quando le decisioni sono già state prese. Come si può coinvolgere chi lavora nei processi di adozione senza rallentare la trasformazione?
L’idea che coinvolgere gli operatori rallenti la trasformazione è uno dei falsi miti più costosi del mondo aziendale. Come già accennato in precedenza, procedere dall’alto dà soltanto l’illusione di andare più veloci nella fase iniziale, ma accumula un ritardo enorme a valle, sotto forma di rischio di rigetto dello strumento, errori di processo e riprogettazioni continue. Per coinvolgere chi lavora senza rallentare i tempi occorre applicare metodi di co-design focalizzati, agili ed efficienti, ad esempio:
- coinvolgimento precoce su casi d’uso circoscritti: non serve indire assemblee infinite; basta selezionare champion operativi fin dai primi tavoli di definizione dei requisiti per mappare come si svolge realmente il lavoro quotidiano.
- Validazione continua e rapida: presentare alle persone prototipi o flussi di lavoro in tempi brevi per raccogliere un riscontro immediato, modificando le interfacce prima che la tecnologia sia rigidamente integrata nei sistemi.
- Osservazione e ascolto strutturato del “sapere tacito”: riconoscere le eccezioni e le deviazioni pratiche che gli operatori applicano quotidianamente per far funzionare i processi, integrandole nelle regole di funzionamento dell’AI.
Coinvolgere gli operativi fin dall’inizio non significa rallentare, ma anticipare a monte le resistenze e le inefficienze che altrimenti potrebbero manifestarsi al momento del rilascio. In questo modo si trasforma il personale da spettatore passivo a co-autore della propria operatività.
Come Head of Automated & Multimodal Transports segue anche il tema della mobilità autonoma e connessa. È un ambito in cui la relazione tra sistemi intelligenti e persone si misura nello spazio fisico, non soltanto attraverso un’interfaccia digitale. Che cosa sta insegnando questo settore che può essere utile anche alle aziende che stanno introducendo l’AI nei propri ambienti di lavoro?
La mobilità autonoma e connessa è un laboratorio straordinario e di grande interesse perché ci mostra in maniera evidente alcune dinamiche che a ben guardare possiamo ritrovare anche nel contesto organizzativo di un ufficio o di una fabbrica. Ci mostra che il successo di un sistema intelligente non dipende da quanto è avanzato l’algoritmo, ma da come si integra in un contesto popolato da persone con abitudini, regole, aspettative e reazioni imprevedibili. Questo settore ci sta insegnando tre principi chiave validi per qualsiasi contesto aziendale:
- progettare per gli stati di transizione: nella guida autonoma il momento più critico non è quando guida l’auto o quando guida l’umano, ma il passaggio di consegne, il cosiddetto handover. Nelle aziende accade lo stesso: il vero rischio operativo si nasconde nei momenti in cui il sistema passa il controllo all’operatore o viceversa. Se questa transizione non è fluida, coordinata, comprensibile, chiara e tempestiva, il sistema rischia di fallire.
- L’importanza del rendere chiare le intenzioni: un veicolo autonomo deve far capire ai pedoni e agli altri guidatori e, perché no, anche alle persone a bordo, cosa sta per fare prima di farlo. Allo stesso modo, un software aziendale di AI deve rendere esplicite le proprie “intenzioni” e logiche operative, per permettere alle persone di anticiparne le azioni ed evitare reazioni improvvise o errate.
- La convivenza negli spazi condivisi: nella mobilità l’automazione (sia essa rappresentata dai mezzi interconnessi tra loro e con l’infrastruttura, dagli strumenti di ausilio alla guida o dalle auto a guida autonoma) non sostituisce l’intero sistema della mobilità ma vi si innesta. Nelle aziende l’intelligenza artificiale non sostituisce l’ecosistema di lavoro, ma vi si inserisce. Se non si progetta la convivenza armoniosa tra logiche della macchina e abitudini delle persone, la tecnologia viene percepita come un elemento estraneo e pericoloso.
In sintesi, la mobilità autonoma dimostra che la tecnologia ha successo solo quando si adatta all’ambiente umano e alle sue regole di interazione, e non quando pretende che sia l’umano ad adattarsi alla macchina.
Il tema di Rome Future Week® 2026 è “Materia Prima”. Nell’adozione dell’AI le aziende investono in tecnologia, dati e licenze. Secondo lei, qual è la vera materia prima dell’intelligenza artificiale, quella senza cui tutto il resto rischia di non produrre valore?
I dati sono il carburante, e i modelli computazionali con le relative licenze sono l’infrastruttura. La vera “materia prima” dell’intelligenza artificiale è il sapere operativo e la competenza critica delle persone. L’intelligenza artificiale è fondamentalmente un moltiplicatore: non crea valore dal nulla. Se viene applicata su processi confusi, conoscenze frammentate o competenze umane indebolite, non fa altro che moltiplicare l’inefficienza e l’errore, ma a una velocità spaventosa. Se invece viene innestata su un patrimonio di competenze umane solido, consapevole e valorizzato, trasforma quel sapere in produttività, qualità e vera innovazione.
