logo BLUE BI business intelligence & analytics
Cerca
Close this search box.

L’importanza dell’Explainable Artificial Intelligence

Explainable-AI

Condividi

Che cos’è Explainable AI

Nei sistemi di Intelligenza Artificiale, in particolare nell’ambito del Machine Learning, gli algoritmi spesso offrono predizioni accurate ma operano secondo meccanismi che rimangono ambigui anche per gli sviluppatori. La mancanza di spiegazioni associate alle predizioni rappresenta una significativa barriera per l’adozione di questi sistemi. Si definisce “Explainable Artificial Intelligence” (XAI) quell’insieme di tecnologie AI che offrono una spiegazione per le loro predizioni (post hoc explanations) e che quindi possono essere intuitivamente comprese dagli esseri umani; questo approccio di Intelligenza Artificiale “spiegabile” è in contrasto con il paradigma “black box” dei classici sistemi di Machine Learning, in particolare gli algoritmi di Deep Learning come le reti neurali.

L’importanza della Explainability

L’adozione di tecnologie XAI sta diventando sempre più importante, e porta diversi vantaggi:

  • Fiducia e Responsabilità: grazie a una maggiore trasparenza, l’introduzione di “explainability” aumenta la fiducia nei confronti del sistema e garantisce una forma di responsabilità. Questi due fattori sono fondamentali in applicazioni come macchine con guida autonoma (self-driving cars), in cui le decisioni prese dal sistema AI si ripercuotono direttamente sull’utente. 
  • Conformità al GDPR: secondo le linee guide dell’Unione Europa infatti, le aziende che usano processi automatici per elaborare dati personali dovrebbero offrire una spiegazione di come questi processi prendono decisioni (Articolo 15 h). 
  • Miglioramento delle performance: la maggiore conoscenza sui processi decisionali dell’algoritmo aiuta gli sviluppatori e data scientist a migliorare i modelli AI tramite un più preciso fine-tuning e permette di identificare più chiaramente difetti o vulnerabilità.
XAI-Blue BI

Explainable e Human-centric AI

XAI fa parte del paradigma “Human-centric AIdell’Industria 5.0, nel quale i sistemi Machine Learning diventano complementari con le decisioni umane. Le spiegazioni offerte da un sistema ML dovrebbero infatti essere intuitive e comprensibili anche da non esperti. Per esempio:

  • In ambito biomedico il sistema dovrebbe essere in grado sia di predire una patologia per un paziente e sia spiegare al medico i fattori che lo hanno portato a questa predizione. 
  • In ambito finanziario la predizione sull’andamento delle vendite dovrebbe essere accompagnata da una spiegazione: questa aiuta a connettere i campi della Data Science con quello Business/Sales aumentando la fiducia reciproca fra i team. 
  • In ambito customer service un sistema XAI dovrebbe essere in grado di assistere i clienti e di offrire una chiara spiegazione sul perché un determinato problema sia stato trattato in un certo modo. 
  • In ambito marketing, si può costruire un sistema che personalizza i messaggi e gli annunci pubblicitari rivolti a un utente, spiegando anche la logica con cui un utente viene considerato target per certi annunci e non per altri. Un sistema XAI potrebbe svolgere segmentazione dividendo gli utenti in vari gruppi a seconda dei loro comportamenti e caratteristiche, e accompagnando ogni gruppo con una chiara spiegazione.

L’utilizzo delle tecnologie XAI migliora l’efficacia del binomio Umano-AI perché i sistemi di AI si identificano come un supporto per la decisione umana, e non come sostituto. 

Come implementare un sistema XAI

L’implementazione di metodologie XAI può essere effettuata in vari modi, passando dall’utilizzo di modelli ML più semplici e intrinsecamente “explainable”, a quello di algoritmi di supporto che si accompagnano ai modelli di predizione e offrono una spiegazione per le decisioni prese da questi ultimi. Alcuni algoritmi offrono spiegazioni relative alla singola predizione (“local explainability”) e individuano in particolare quali elementi sono stati più significativi nel processo decisionale. Altri algoritmi invece, più complessi, ci danno informazioni sul comportamento generale di un modello (“global explainability”), offrendoci una panoramica globale dei meccanismi decisionali su cui il modello si basa.

Realizziamo soluzioni di Business Intelligence & Advanced Analytics per trasformare semplici dati in informazioni di grande valore strategico.

Autore

Tabella dei Contenuti