Un dipendente usa ChatGPT per lavorare: il vero rischio è che l’AI sbagli?

Se un dipendente utilizza ChatGPT o un altro sistema di Intelligenza Artificiale per svolgere una parte del proprio lavoro, il rischio principale è che la macchina produca una risposta sbagliata?

È certamente uno dei rischi, ma non necessariamente il più importante.

Un errore può essere corretto se chi utilizza lo strumento possiede ancora le competenze necessarie per riconoscerlo, valutarne le conseguenze e decidere se l’output sia affidabile. Il problema diventa più profondo quando l’utilizzo dell’AI modifica progressivamente il modo in cui le persone costruiscono quelle competenze, fino al punto in cui la capacità di controllare il risultato diventa più debole proprio mentre cresce la dipendenza dallo strumento.

Per un’impresa, quindi, la domanda non riguarda soltanto l’affidabilità della tecnologia. Riguarda anche il rapporto che si crea tra tecnologia, competenze professionali e capacità decisionale delle persone.

Il controllo umano funziona soltanto se chi controlla sa che cosa guardare

Quando si parla di Intelligenza Artificiale in azienda, una delle risposte più frequenti al rischio di errore è che l’output debba essere sottoposto a controllo umano.

Il principio è corretto, ma rischia di diventare una formula rassicurante se non ci si chiede che cosa significhi concretamente “controllare”.

Una persona può verificare davvero il risultato prodotto dall’AI soltanto se possiede conoscenze sufficienti per accorgersi che qualcosa non torna, riconoscere un’omissione significativa, individuare una semplificazione impropria o comprendere quando una risposta apparentemente plausibile non è adeguata al contesto nel quale deve essere utilizzata.

Il controllo umano, quindi, non dipende semplicemente dalla presenza di una persona alla fine del processo. Dipende dalla qualità della competenza che quella persona conserva.

Questo aspetto diventa particolarmente rilevante perché molti sistemi di AI generativa producono risposte formulate in modo credibile, ordinato e linguisticamente convincente. Un output può sembrare corretto anche quando contiene errori, presupposti incompleti o conclusioni non sufficientemente fondate, e proprio questa plausibilità può rendere difficile individuare il problema quando chi lo legge non possiede più una capacità critica abbastanza solida.

Il rischio non consiste allora soltanto nel fatto che l’AI possa sbagliare, ma nel fatto che l’organizzazione possa progressivamente perdere la capacità di accorgersi dell’errore.

L’AI può aumentare le competenze, ma può anche sostituirne una parte

L’Intelligenza Artificiale può essere uno straordinario strumento di apprendimento e di potenziamento delle capacità professionali.

Può consentire a una persona di esplorare più rapidamente alternative, confrontare ipotesi, strutturare informazioni, ottenere una prima sintesi di materiali complessi o dedicare più tempo alle attività che richiedono giudizio, esperienza e responsabilità. Utilizzata in questo modo, la tecnologia non sostituisce necessariamente la competenza, ma può amplificarla.

Esiste però anche un percorso diverso, nel quale attività che prima richiedevano comprensione, elaborazione e valutazione vengono progressivamente delegate senza che la persona mantenga un coinvolgimento sufficiente nel processo.

La distinzione può sembrare sottile, perché in entrambi i casi il risultato immediato può essere un aumento dell’efficienza. Nel primo, tuttavia, l’AI consente alla persona di lavorare meglio; nel secondo rischia di consentirle di ottenere un risultato senza sviluppare o mantenere pienamente le capacità necessarie per produrlo e valutarlo autonomamente.

Nel breve periodo, questa differenza può essere difficile da percepire. Nel tempo, invece, può incidere sulla qualità del capitale umano dell’impresa.

Un’organizzazione che utilizza l’AI per rendere le proprie persone più capaci costruisce un vantaggio diverso da quella che la utilizza principalmente per sostituire attività cognitive senza chiedersi quali competenze stiano progressivamente scomparendo.

Non tutte le attività dovrebbero essere delegate nello stesso modo

Anche sotto questo profilo, non esiste una risposta uguale per ogni utilizzo dell’Intelligenza Artificiale.

Affidare all’AI la prima riorganizzazione di appunti, la correzione formale di un testo o la generazione di alcune alternative può avere conseguenze molto diverse rispetto a delegarle la valutazione di una situazione complessa, la predisposizione di un’analisi destinata a orientare una decisione o un’attività che costituisce una parte essenziale della competenza professionale di chi dovrebbe svolgerla.

Il punto non è quindi stabilire astrattamente quali attività debbano essere “umane” e quali possano essere affidate alla macchina, ma comprendere quali capacità l’impresa considera strategiche e in quale misura intende preservarle al proprio interno.

Questa domanda assume un rilievo particolare quando l’AI viene utilizzata da persone più giovani o meno esperte. Chi possiede già una competenza consolidata può essere in grado di utilizzare la tecnologia come acceleratore, perché dispone di un patrimonio di conoscenze e di esperienza che gli consente di valutare criticamente ciò che riceve. Chi sta ancora costruendo quella competenza potrebbe, invece, saltare proprio alcuni dei passaggi attraverso i quali essa normalmente si forma.

La tecnologia, quindi, può produrre effetti diversi a seconda di chi la utilizza, del livello di esperienza, del tipo di attività e del modo in cui l’organizzazione ha costruito il processo di lavoro.

La competenza dell’impresa non coincide con quella delle singole persone

C’è poi una dimensione organizzativa che merita attenzione.

Le competenze aziendali non sono semplicemente la somma delle conoscenze possedute dai dipendenti. Sono anche il risultato di processi, esperienze condivise, modalità di soluzione dei problemi, criteri decisionali e conoscenze che nel tempo diventano parte del modo in cui l’impresa opera.

Se una parte crescente di queste attività viene svolta attraverso strumenti esterni, senza che l’organizzazione si interroghi su ciò che deve continuare a sapere fare autonomamente, può nascere una forma di dipendenza meno evidente di quella tecnologica.

L’impresa potrebbe continuare a produrre risultati, ma diventare meno capace di comprenderne fino in fondo la costruzione, di replicarli senza lo strumento o di valutare autonomamente situazioni nuove quando l’AI non offre una risposta adeguata.

In questa prospettiva, la governance dell’Intelligenza Artificiale incontra direttamente il tema del know-how e del capitale umano.

Non si tratta soltanto di proteggere informazioni dall’esterno, ma anche di preservare e sviluppare conoscenze all’interno.

AI literacy non significa soltanto imparare a usare meglio gli strumenti

È in questo quadro che anche il tema dell’AI literacy acquista un significato più ampio.

L’articolo 4 dell’AI Act richiede oggi ai provider e ai deployer di sistemi di AI di adottare misure che sostengano lo sviluppo dell’AI literacy del personale e delle altre persone che utilizzano tali sistemi per loro conto, tenendo conto delle conoscenze tecniche, dell’esperienza, dell’istruzione e della formazione, nonché del contesto nel quale i sistemi vengono utilizzati.

Per un’impresa, ridurre questo tema a un corso su come utilizzare ChatGPT o su come formulare prompt più efficaci significherebbe però coglierne solo una parte.

Essere capaci di utilizzare un sistema significa anche comprenderne i limiti, sapere quali informazioni possono essergli affidate, riconoscere quando un output richiede una verifica, capire quali attività comportano conseguenze più significative e sapere quando è necessario interrompere il processo automatico per riportare la decisione a una persona competente.

L’AI literacy, in questa prospettiva, non è soltanto una competenza tecnica. È una parte della capacità dell’organizzazione di mantenere un rapporto consapevole con la tecnologia.

E proprio perché competenze, ruoli e contesti sono diversi, non avrebbe molto senso immaginare una formazione identica per tutti. Chi utilizza l’AI per attività amministrative, chi la impiega nel rapporto con i clienti, chi analizza dati e chi assume decisioni con effetti rilevanti sull’impresa non ha necessariamente bisogno dello stesso livello né dello stesso tipo di consapevolezza.

La vera questione è quali competenze vogliamo conservare

Quando una nuova tecnologia consente di svolgere più rapidamente attività che prima richiedevano tempo e competenza, la tentazione di valutarla soltanto attraverso il parametro dell’efficienza è comprensibile.

Se un’attività richiedeva due ore e oggi può essere svolta in venti minuti, il vantaggio è immediatamente visibile.

Molto meno visibile è ciò che accade nel medio periodo alla capacità delle persone di comprendere, valutare e decidere autonomamente.

Questo non significa che ogni competenza debba essere preservata nella forma in cui esisteva prima dell’AI. Alcune attività possono legittimamente perdere importanza, altre possono essere sostituite e nuove competenze possono diventare più rilevanti. La trasformazione tecnologica modifica da sempre il contenuto del lavoro.

La decisione strategica, tuttavia, dovrebbe essere consapevole.

Un’impresa dovrebbe sapere quali competenze considera ancora indispensabili, quali può ragionevolmente delegare alla tecnologia e quali nuove capacità deve sviluppare proprio perché l’AI è entrata nei processi.

In mancanza di questa riflessione, il cambiamento avviene comunque, ma viene determinato prevalentemente dalle abitudini individuali degli utilizzatori e dalle caratteristiche degli strumenti disponibili.

La governance dell’AI è anche governance del capitale umano

Questa considerazione porta il tema oltre la semplice gestione del rischio tecnologico.

Se l’Intelligenza Artificiale modifica il modo in cui le persone apprendono, producono conoscenza, valutano informazioni e assumono decisioni, il suo utilizzo riguarda direttamente il patrimonio di competenze dell’impresa.

Per questo la governance non dovrebbe limitarsi a decidere quali strumenti siano consentiti o quali dati possano essere inseriti.

Dovrebbe interrogarsi anche su quali attività richiedano ancora un’elaborazione autonoma, quali output debbano essere sottoposti a revisione qualificata, come cambino i percorsi di formazione e quale livello di competenza debba essere mantenuto nelle funzioni considerate strategiche.

Da questo punto di vista, governare l’AI significa anche evitare che l’efficienza ottenuta oggi venga pagata domani con una riduzione della capacità dell’impresa di comprendere e controllare i propri processi.

Non è necessariamente ciò che accadrà. La stessa tecnologia può produrre l’effetto opposto, aumentando la qualità del lavoro e liberando risorse cognitive per attività a maggiore valore aggiunto.

La differenza dipende da come viene utilizzata e, soprattutto, da che cosa l’impresa decide di voler ottenere.

L’AI deve pensare al posto delle persone o aiutarle a pensare meglio?

Forse è questa la domanda più utile da portare nelle scelte aziendali.

Un sistema di Intelligenza Artificiale può essere utilizzato per sostituire una parte del lavoro cognitivo delle persone oppure per rafforzarne la capacità di analizzare, confrontare, comprendere e decidere.

Nella pratica, naturalmente, le due funzioni possono convivere. Non ogni attività delegata impoverisce una competenza e non ogni utilizzo collaborativo la migliora.

Ma la distinzione aiuta a comprendere che la valutazione dell’AI non dovrebbe fermarsi alla velocità dell’output o alla riduzione del costo di una singola attività.

Per chi guida un’impresa, la domanda diventa piuttosto:

“L’Intelligenza Artificiale che stiamo introducendo rende le nostre persone più capaci di decidere oppure le rende soltanto più veloci nell’ottenere una risposta?”

La risposta riguarda certamente la tecnologia, ma riguarda ancora di più il tipo di impresa che si sta costruendo.

Avv. Antonia Cossa