Senza ombra di dubbio, l’introduzione dell’intelligenza artificiale generativa (GenAI) sta radicalmente trasformando il modo con il quale CFO, banche, analisti e investitori assumono le proprie decisioni.
Delle potenzialità di questa tecnologia si è ampiamente parlato. In questo articolo vogliamo invece soffermarci su un ostacolo non trascurabile che può frenare la piena adozione della GenAI: le cosiddette hallucinations.
A parlarne in un recente articolo dal titolo “Journey of Hallucination-minimized Generative AI Solutions for Financial Decision Makers“, un’analista di Accenture dal nome piuttosto impronunciabile, Sohini Roychowdhury, che si è soffermato sul tema avanzando anche una proposta per superare l’ostacolo.
Ma partiamo dall’inizio. Cosa sono le “allucinazioni”? Si tratta di errori nei modelli di linguaggio di grandi dimensioni (LLM), vale a dire sistemi di deep learning addestrati su grandi quantità di dati, che generano informazioni errate o fuorvianti che, tuttavia, possono avere un livello di sicurezza che può trarre in inganno anche gli esperti.
Il pericolo, ça va sans dire, è fondare decisioni e strategie finanziarie su premesse false, con il rischio di perdere anche ingenti risorse finanziarie. Da qui la priorità del tema. L’analista di Accenture introduce uno studio sviluppato dalla sua società che suggerisce la costruzione di un percorso chiaro per creare strumenti finanziari basati sull’IA generativa con un livello di accuratezza superiore.
Questo approccio identifica tre fasi fondamentali per lo sviluppo di soluzioni LLM affidabili e prive di errori sistematici:
Fase di prototipazione
Si parte, sostanzialmente, dalla creazione di un modello di base, un prodotto minimo funzionante (MVP), per valutare il potenziale dell’IA nell’elaborazione delle domande finanziarie più comuni. In questa fase gli sviluppatori si concentreranno su:
Prompt engineering avanzato: ottimizzazione delle richieste per ridurre risposte errate
Moduli di verifica e controllo della qualità delle risposte
Strutturazione di un framework solido per l’interpretazione dei dati numerici
Fase di scalabilità
Una volta verificata l’affidabilità del prototipo, il passo successivo è il potenziamento del sistema per un uso su larga scala. Qui si lavora su:
Espansione delle capacità del modello per rispondere a domande complesse su investimenti, anomalie e proiezioni
Benchmarking dell’accuratezza per garantire risposte coerenti e prive di bias
Ottimizzazione dei tempi di risposta per garantire velocità e precisione
Un esempio pratico può essere relativo a un sistema AI di analisi del rischio di credito che può essere testato su migliaia di transazioni bancarie per identificare frodi in tempo reale.
Evoluzione del Modello
L’ultima fase è quella dell’apprendimento continuo attraverso il reinforcement learning con feedback umano (RLHF). Il modello viene dunque addestrato per:
Riconoscere e correggere gli errori in autonomia
Adattarsi ai cambiamenti del mercato senza intervento manuale
Personalizzare le risposte in base ai bisogni degli utenti
Per minimizzare il rischio di errori e garantire la massima precisione, il team di ricerca propone un’architettura avanzata chiamata LLMOps, vale a dire un insieme di metodologie operative utilizzate per gestire i modelli linguistici di grandi dimensioni.
L’architettura LLMOps prevede:
Classificazione dell’intento della domanda
separare richieste analitiche (“Qual è il trend del settore tech?”) dalle richieste predittive (“Quale sarà il miglior titolo azionario nel 2025?”).
Conversione dei dati numerici in linguaggio naturale
trasformare tabelle finanziarie in testo per una migliore comprensione da parte dell’IA.
Generazione di prompt personalizzati
costruire risposte basate sulle informazioni più pertinenti.
Sistema di scoring delle risposte
ogni output dell’IA viene valutato e classificato in base alla sua affidabilità.