Faust entra nelle nostre organizzazioni
Quando l'IA promette di toglierti il dolore della fatica e di regalarti comodità
Gli dei avevano condannato Sisifo a far rotolare senza posa un macigno sino alla cima di una montagna, dalla quale la pietra ricadeva per azione del suo stesso peso. Essi avevano pensato, con una certa ragione, che non esiste punizione più terribile del lavoro inutile e senza speranza.
— Albert Camus, Il mito di Sisifo
Il contratto che non abbiamo mai firmato
L'intelligenza artificiale è entrata nei sistemi di gestione senza cerimonie, senza un momento preciso in cui abbiamo deciso "da oggi la uso". È arrivata come arrivano le abitudini: un giorno provi e, una settimana dopo, non ricordi più come facevi prima.
La promessa è quella di fare meno fatica, di avere minori incertezze e di esporci un po' meno all'errore. Chi lavora con le norme ISO che riguardano i sistemi di gestione sa bene che molte attività come scrivere procedure, preparare audit, analizzare non conformità o redigere valutazioni dei rischi sono necessarie ma spesso ripetitive e talvolta persino faticose. L'IA si offre di alleggerire questo peso e noi accettiamo, spesso in modo passivo, come quando scorriamo le condizioni d'uso di un'app senza leggerle, "tanto cosa vuoi che succeda?"
⚠️ Perché nei sistemi di gestione questo consenso pesa di più?
Perché qui il metodo conta quanto il risultato. Una procedura scritta senza comprendere il processo che descrive è un documento ma non sarà mai uno strumento e un'analisi dei rischi compilata senza conoscere il contesto è una matrice ma non proteggerà da nulla. Nei sistemi di gestione, il "come" si arriva a un output determina il valore dell'output stesso.
Il parallelo letterario è antico quanto la tentazione: nel Faust di Goethe, Mefistofele non chiede l'anima subito. Prima offre la soluzione a ogni dolore, la risposta a ogni fatica. Il prezzo si scopre dopo, quando ormai si è dimenticato come si faceva senza.
La pillola blu della competenza simulata
C'è una scena in "Matrix" in cui Morpheus offre a Neo due pillole: la blu, per restare nella simulazione confortevole, e la rossa, per vedere la realtà com'è davvero.
L'intelligenza artificiale nei sistemi di gestione offre la stessa scelta, anche se non ce la presenta così.
La pillola blu significa accettare l'output dell'IA così com'è; significa vivere in quella che potremmo chiamare una simulazione di competenza dove i documenti sembrano professionali e la struttura è impeccabile.
La pillola rossa significa usare l'IA per scendere più in profondità e capire meglio.
🎯 Il vero rischio: non sapere di non sapere
L'IA rende credibile chiunque, ma non rende competente nessuno.
Oggi è possibile:
- parlare di qualsiasi argomento con il linguaggio giusto
- produrre output formalmente corretti senza comprenderne il contenuto
- sembrare esperti in ambiti che non si conoscono
Il pericolo è non accorgersi più di non sapere e perdere la capacità di riconoscere i propri limiti perché l'IA li maschera con un output convincente.
Questo fenomeno ha un nome tecnico: si chiama paradosso dell'automazione e fu descritto nel 1983 dalla ricercatrice Lisanne Bainbridge in un articolo ancora oggi citatissimo, "Ironies of Automation". La sua osservazione era inquietante: più automatizziamo un compito, più le competenze umane necessarie per gestire i problemi dell'automazione si indeboliscono.
Tradotto nel nostro mondo: se per due anni lasci che l'IA scriva le tue procedure, saprai ancora riconoscere un requisito normativo critico quando la norma cambierà?
Il prezzo nascosto della comodità
Delegando la fatica del pensiero, sparisce il "dolore" di dover comprendere, di scegliere, di apprendere, di procedere lentamente e persino di sbagliare ma, insieme a tutto questo, sparisce anche una parte della nostra autonomia di giudizio perché smettiamo di esercitarla.
Lo psicologo Daniel Kahneman, premio Nobel per l'economia, ha descritto il nostro modo di pensare come diviso in due sistemi:
| Sistema 1 | Sistema 2 |
|---|---|
| Veloce, automatico, intuitivo | Lento, analitico, riflessivo |
| Richiede poco sforzo | Richiede concentrazione |
| Risponde d'istinto | Ragiona passo dopo passo |
| Tende a cercare scorciatoie | Verifica e approfondisce |
Il nostro cervello, per risparmiare energia, tende a delegare al sistema 1 tutto ciò che può ed è una strategia evolutiva sensata perché non possiamo analizzare ogni decisione come se fosse la prima volta.
L'IA funziona come un sistema 1 esterno perché ci offre risposte rapide e ci evita lo sforzo dell'analisi e del ragionamento profondo. Il problema è che è il sistema 2 a renderci capaci di giudizio critico e, se non lo usiamo mai, perdiamo la capacità di utilizzarlo.
La fatica di pensare è il prezzo che si paga per la competenza. Camus, riflettendo sul mito di Sisifo, si chiedeva se esistesse una punizione peggiore del lavoro inutile. Il lavoro del professionista, però, non è inutile perché è il processo attraverso cui costruiamo la nostra comprensione.
Efficienza contrapposta all'efficacia
Se l'IA riduce la fatica, perché non usiamo quel tempo per diventare manager migliori invece di usarlo per produrre qualcosa che, probabilmente, non ci è nemmeno utile?
La risposta, spesso, è che confondiamo due concetti diversi:
| Efficienza | Efficacia |
|---|---|
| Fare le cose velocemente | Dare valore a ciò che si fa |
| Misurabile in tempo risparmiato | Misurabile in competenza acquisita |
| Produce output | Produce crescita |
| Domanda: "Quanto ho fatto?" | Domanda: "Quanto ho capito?" |
L'IA è straordinaria per l'efficienza ma efficienza non significa automaticamente valore.
🤔 Fermati un momento e chiediti:
Il tempo che l'IA ti fa risparmiare, dove finisce?
- Lo reinvesti nella tua crescita professionale?
- Lo usi per capire meglio i processi che gestisci?
- Oppure lo riempi producendo più documenti, schemi o altro che, magari, non è nemmeno utile?
Cosa dicono davvero le norme ISO sui sistemi di gestione
Proviamo a rileggere alcuni punti delle norme ISO sui sistemi di gestione pensando all'uso che facciamo dell'intelligenza artificiale.
📘 Consapevolezza — ISO 9001:2015, punto 7.3
La norma richiede che le persone siano consapevoli della politica per la qualità, degli obiettivi pertinenti, del proprio contributo all'efficacia del sistema e delle conseguenze del non conformarsi ai requisiti.
📘 Competenza — ISO 9001:2015, punto 7.2
La norma richiede che l'organizzazione determini le competenze necessarie, assicuri che le persone siano competenti sulla base di istruzione, formazione o esperienza e che intraprenda azioni per far acquisire le competenze mancanti.
📘 Leadership — ISO 9001:2015, punto 5
La norma assegna alla direzione e ai process owner responsabilità precise: assicurare che il sistema raggiunga i risultati attesi, promuovere il miglioramento e assegnare responsabilità e autorità.
Esempi pratici: cosa rischia di mancare
| Standard | Esempio di utilizzo dell'IA | Cosa rischia di mancare |
|---|---|---|
| ISO 9001 | Procedura generata dall'IA per la gestione dei reclami | La conoscenza dei colli di bottiglia reali, delle resistenze interne e delle soluzioni che non hanno funzionato in passato. |
| ISO 14001 | Analisi degli aspetti ambientali da database | Il "naso" per gli aspetti significativi specifici del sito, la conoscenza delle prassi reali rispetto a quelle dichiarate |
| ISO 45001 | Matrice di valutazione dei rischi precompilata | I near-miss che gli operatori raccontano a voce ma non scrivono, la conoscenza tacita dei pericoli reali |
L'approccio ibrido: sgrossatura, input, rifinitura
Arriviamo al punto centrale: come usare l'intelligenza artificiale nei sistemi di gestione senza perdere ciò che ci rende professionisti? La risposta non è "IA sì" o "IA no" ma "IA come" e "IA quanto".
Il modello che funziona, a nostro giudizio, è quello ibrido, articolato in tre fasi:
🟢 FASE 1: sgrossatura
L'IA eccelle nel lavoro di prima bozza: creare l'ossatura di un documento, superare il blocco della pagina bianca, raccogliere elementi standard e proporre una struttura iniziale.
Esempio: chiedere all'IA di generare la struttura di una procedura per la gestione delle non conformità, includendo le sezioni tipiche e i riferimenti normativi standard.
🔵 FASE 2: input di qualità
La sgrossatura funziona solo se viene guidata da chi sa cosa chiedere perché l'IA non conosce le criticità specifiche del tuo processo, i vincoli del tuo contesto, le lezioni apprese dai fallimenti passati, le resistenze culturali della tua organizzazione. Questi input devono arrivare da un professionista competente.
La regola: più l'input è generico, più l'output sarà generico. Più l'input è ricco di contesto, esperienza e specificità, più l'output sarà utilizzabile come punto di partenza.
🟠 FASE 3: integrazione e rifinitura umana
Il lavoro vero inizia dopo l'output dell'IA perché sta nella rifinitura che il professionista aggiunge a ciò che l'algoritmo non può dare: esperienza sul campo, capacità di valutare cosa funziona in un contesto specifico, conoscenza tacita acquista facendo, ecc.
💡 Il test della rifinitura
Se non sai cosa togliere, cosa aggiungere o cosa modificare nell'output dell'IA, probabilmente non avresti dovuto delegarle quel compito.
La capacità di migliorare un output è la prova che possiedi la competenza che quell'output richiede.
Scegliere la pillola rossa
Nel Faust di Goethe, Mefistofele perde la scommessa quando Faust smette di cercare la soddisfazione passiva (il piacere senza sforzo) e torna a costruire qualcosa che abbia un senso. La stessa scelta si presenta oggi a noi professionisti che lavoriamo con i sistemi di gestione.
La pillola rossa non significa rifiutare l'intelligenza artificiale ma usarla per scendere più a fondo nella complessità dei processi. Significa accoglierla come strumento di potenziamento, non di sostituzione.
Il professionista che sceglie la pillola rossa:
- usa l'IA per velocizzare la sgrossatura, ma investe il tempo risparmiato nel capire meglio
- fornisce input ricchi di contesto, perché sa che l'output vale quanto l'input
- rifinisce, integra, personalizza perché sa che lì sta il valore aggiunto
- mantiene allenato il proprio sistema 2, anche quando sarebbe più comodo non farlo
- resta la persona che sa perché le cose funzionano, non solo come farle produrre
La scelta non è tecnologica ma esistenziale
Vuoi essere il professionista che produce di più o quello che comprende di più?
Vuoi usare il tempo risparmiato per moltiplicare gli output o per approfondire le competenze?
La libertà non è fatta in primo luogo di privilegi, è fatta soprattutto di doveri. E dall'istante in cui ciascuno di noi cerca di far prevalere i doveri della libertà rispetto ai propri privilegi, da questo istante la libertà salda il lavoro e la cultura e mette in moto una forza che è l'unica a poter favorire efficacemente la giustizia. [...] La libertà non è un regalo che si riceve da uno stato o da un capo, ma un bene che si conquista ogni giorno, con l'impegno di ciascuno e l'unione di tutti.
— Albert Camus
La fatica del pensiero critico è il prezzo che paghiamo per restare liberi di giudicare, di scegliere, di sbagliare e di crescere.
Faust può entrare nelle nostre organizzazioni ma le condizioni del patto possiamo ancora scriverle noi.