Formazione AI in azienda: perché non basta usare gli strumenti, bisogna creare cultura!
L’AI non è il futuro. È il presente. E il presente, in azienda, va capito, allenato e governato.
Nella prima parte di questo articolo, abbiamo visto perché è importante la formazione sull’Intelligenza Artificiale a tutti i livelli dell’azienda come primo progetto di AI. Il valore della cultura per riuscire a governare un fenomeno di evoluzione di tale portata.
In questa seconda parte alziamo appena il velo iniziale di questo ampio argomento per capire che cosa dovrebbe, come minimo, contenere una prima formazione sugli strumenti di primo livello in uso in azienda.
Eravamo partiti con il dire che molte aziende si fermano all’utilizzo di strumenti conversazionali come ChatGPT e simili.
Partiamo da qui quindi.
Che cosa c’è “sotto il cofano” di strumenti come ChatGPT
Quando diciamo “uso ChatGPT”, in realtà stiamo usando una combinazione di elementi diversi.
In modo semplice, possiamo dire che c’è:
- un modello, cioè il motore capace di comprendere il linguaggio e generare una risposta;
- una memoria di contesto, che tiene traccia della conversazione;
- un’interfaccia, che raccoglie i nostri input e ci restituisce gli output;
- eventuali strumenti integrati, che estendono le capacità del modello.
Il valore principale sta nel modello.
Quel modello è stato istruito dandogli in pasto una quantità enorme di contenuti e di informazioni.
Da lì ha imparato due grandi cose:
- a riconoscere il linguaggio umano;
- a collegare conoscenze tra loro.
Ma dobbiamo tenere fermo un punto: il modello NON è deterministico. È probabilistico.
In altre parole, ci fornisce la risposta che ritiene più plausibile in base a:
- ciò che ha appreso;
- il contesto;
- il modo in cui abbiamo formulato la richiesta.
Questo spiega perché può essere molto utile, ma spiega anche perché può sbagliare.
Il limite temporale dei modelli e il ruolo degli strumenti integrati
Un modello conosce il mondo fino al momento in cui è stato istruito, esattamente come accade a noi quando terminiamo un percorso di studi.
Oltre quella data, se non ha strumenti aggiuntivi, non sa cosa sia successo.
Questo concetto viene detto data di cutoff.
Per superare il limite, ai modelli vengono spesso affiancati strumenti (tool) ulteriori, per esempio la ricerca web.
In questo modo, se il modello si rende conto che gli manca un’informazione aggiornata, può andare a cercarla all’esterno.
Questo è importante da spiegare in azienda perché aiuta a capire due cose:
- che il modello non “sa tutto”;
- che alcune sue capacità dipendono non solo da ciò che ha in memoria, ma anche dagli strumenti che gli sono stati messi a disposizione.
Allucinazioni, Bias e rischi: perché la formazione serve davvero
Proprio perché il modello è probabilistico, può capitare che dia una risposta plausibile ma sbagliata.
Questo fenomeno è ciò che chiamiamo allucinazione.
Il sistema non sta necessariamente mentendo: sta producendo la risposta che gli appare più probabile, anche quando essa è lontana da quella corretta.
Poi c’è il tema dei Bias.
Se i dati con cui un sistema viene istruito sono sbilanciati, incompleti o distorti, il modello apprende quelle distorsioni.
Un esempio semplice: se i dati che gli sono stati forniti raccontano sempre e solo che il medico è uomo e l’infermiera è donna, il sistema tenderà a interiorizzare questo schema.
Una analogia la possiamo trovare nel processo educativo di un bambino a cui noi insegniamo come fare una cosa o alcuni aspetti concettuali della vita; se noi diamo in pasto a un bimbo, che nel nostro caso è un modello, quanto è accaduto nel mondo e questo è intriso di pregiudizi che non andiamo a bilanciare con opinioni contrarie, anche il modello si allineerà a tali pregiudizi.
Ecco perché l’AI non è solo una questione tecnica.
È anche una questione:
- etica;
- organizzativa;
- culturale;
- normativa.
Diventa una materia multidisciplinare.
Coinvolge infatti:
- tecnologia;
- organizzazione;
- comunicazione;
- normative ed etica;
- psicologia;
- sociologia;
- cultura manageriale
- competenze su un dominio specifico della vita reale e del tipo di Business che sta aiutando.
Ed è esattamente per questo che la formazione non può essere confinata ai soli tecnici.
La formazione, quindi, non è un “di più”; è la condizione minima per usare l’AI senza ingenuità.
Privacy, dati personali e attenzione concreta
Un altro punto fondamentale riguarda la privacy.
Su questi temi è facile oscillare tra due errori opposti:
- allarmismo generico;
- superficialità.
Occorre invece capire bene che cosa sia davvero sensibile.
In particolare, vanno considerati con grande attenzione i dati che consentono di identificare una persona in modo diretto o indiretto: le cosiddette PII (Personally Identifiable Information).
Non si tratta solo di nome, mail, numero di telefono o indirizzo.
Anche una combinazione di dati che permetta di risalire a una persona specifica può diventare identificativa.
Ad esempio, in uno studio condotto ancora negli anni 2000, si riporta che l’87% della popolazione degli Stati Uniti censita nel 1990, era identificabile univocamente con i soli dati di “CAP, Genere e Data di Nascita”: quindi, se una clinica avesse rilasciato una lista pubblica dei ricoverati per una determinata malattia con solo quei 3 dati presenti, nell’87% dei casi si sarebbe potuto risalire alla specifica persona che si era ricoverata. (https://dataprivacylab.org/projects/identifiability/paper1.pdf)
D’altra parte, non bisogna neppure demonizzare tutto.
L’aggregazione dei dati, se fatta correttamente, può essere utile senza esporre il singolo.
Ed è proprio qui che la cultura aziendale fa la differenza; aiuta a distinguere tra:
- uso utile del dato;
- uso improprio del dato;
- dato aggregato;
- dato identificativo;
- supporto decisionale;
- violazione della privacy.
Quando usiamo l’AI, da esecutori diventiamo gestori
Questo, a mio avviso, è uno dei passaggi più importanti da comprendere.
Quando io assegno un compito all’AI, non sto più solo eseguendo. Sto “facendo eseguire”.
In altri termini, mi sto comportando come un Manager che delega.
E la delega, nel lavoro manageriale, ha almeno due pilastri:
- chiarezza di ciò che si chiede;
- controllo sul risultato.
Questa analogia è molto utile per capire il senso del prompt.
Il prompt non è semplicemente “la finestrella in cui scriviamo”.
È la formulazione della richiesta a un sistema che:
- interpreta il linguaggio;
- coglie sfumature;
- produce un risultato sulla base di quello che ha capito.
Per questo il prompt va curato.
Non a caso si parla anche di prompt engineering, proprio per indicare l’attenzione necessaria nel formulare istruzioni chiare, contestualizzate e utili.
Il Drift
Quando il dialogo con il nostro modello si protrae come un normale processo di conversazione, entra in campo la memoria conversazionale che fa sì che il modello, come avevamo visto nella prima parte con l’esempio del meteo a Roma, si ricordi di quanto è stato detto durante tutta la sessione di conversazione e possa tener conto di affermazioni, domande e risposte precedenti.
Questo anche quando si riprende quella conversazione a distanza di giorni o di mesi.
Il complesso di questa memoria con domande fatte e risposte ricevute viene detto contesto.
Qui sorge un altro fattore di cui è necessario tener conto che è il concetto detto drift, cioè partiamo con il dire una cosa per raggiungere un obiettivo e poi ‘divaghiamo’, parliamo anche di una serie di concetti collaterali, facciamo domande che si discostano dall’iniziale domanda > obiettivo.
L’analogia è quella di una nave che parte dalle Americhe e vuole arrivare in uno specifico porto in Africa. Traccia una rotta per arrivare a destinazione. Se però poi il percorso si discosta anche solo di pochi gradi, nel breve sembra di spostarsi di poco dalla rotta originale; tuttavia proiettando quei pochi gradi di scostamento lungo tutta la rotta, il risultato diventa che non si arriva al porto di destinazione che ci si era prefissi.
Dal punto di vista pratico ci possiamo immaginare una lunga conversazione con una persona reale in cui partiamo con il parlare di un certo argomento e poi in mezzo ci mettiamo a parlare di tutt’altro, contraddiciamo alcune affermazioni dette precedentemente e cose simili. Alla fine non sappiamo bene dove la conversazione vada a finire e magari ci chiediamo anche ‘ma perché siamo arrivati a parlare di questo?’. Penso che una volta o l’altra sia capitato un po’ a tutti.
Ecco, questo capita anche al modello che, tramite la memoria conversazionale, si ricorda tutto quello che ci siamo detti. Può andare in confusione e non capire più esattamente cosa vogliamo da lui in termini di obiettivo.
Quindi la formazione deve allenare ad avere cura anche del contesto: più rimaniamo focalizzati, più resistiamo alla tentazione di porre domande che non c’entrano, annotandole a parte e riservandole ad altre separate conversazioni, migliore sarà il risultato.
Il timore di chiedere
Faccio spesso paragoni con il mondo reale, per cercare di rendere più chiari dei concetti; tuttavia durante l’utilizzo dobbiamo anche tenere presente che comunque stiamo parlando con un modello, non con una persona umana.
Quindi non dobbiamo temere che si ‘offenda’ se gli chiediamo di spiegarsi con maggiore chiarezza nelle risposte che ci dà o che non ci risulta quello che ci sta dicendo; non dobbiamo temere che ci ‘giudichi’ se gli diciamo che non abbiamo capito niente o che siamo incompetenti su un determinato argomento che gli chiediamo.
Il controllo
Ma non basta il prompt. L’altro pilastro è il controllo.
La delega non è mai abbandono.
Anche con un collaboratore umano, la fiducia non esclude il controllo. Lo stesso vale con l’AI.
Il grado di controllo può cambiare in base ai casi e al livello di esperienza, ma il controllo zero è sempre una cattiva idea.
Senza competenza di dominio non c’è vero controllo
C’è poi un aspetto molto concreto che spesso viene sottovalutato.
Per controllare bene un risultato, bisogna sapere almeno qualcosa dell’argomento.
Non serve essere massimi esperti di tutto.
Ma se non si possiede neppure l’ordine di grandezza di ciò che si sta chiedendo, si perde la capacità di valutare il risultato.
Questo significa che l’AI non sostituisce il cervello umano.
Al contrario, richiede un cervello umano ancora più attivo:
- per impostare;
- per verificare;
- per giudicare;
- per decidere.
L’AI può alleggerire attività ripetitive o accelerare processi ma la responsabilità del giudizio non può essere delegata integralmente.
Conclusione
Chi si appresta a progettare una formazione generalizzata, anche solo su strumenti di base come ChatGPT o simili, sia esso un Manager interno o un Temporary Manager che coordina il progetto, dovrebbe tenere presente una ampia gamma di aspetti da trasmettere:
- cosa c’è dietro un prompt e competenze di gestione di una richiesta
- cura del contesto conversazionale per evitare la deriva (drift) nelle conversazioni lunghe
- affidabilità e limiti di risposte probabilistiche
- strumenti utili che lo completano
- attenzione alla Privacy
- importanza dell’equilibrio tra delega e controllo della risposta
