Spiegabilità (XAI)

intermediate

La capacità di comprendere e spiegare in che modo un sistema di IA giunge alle proprie decisioni. Requisito previsto dalla legge dell'UE sull'IA per i sistemi ad alto rischio: gli utenti devono essere in grado di comprendere perché un'IA abbia formulato una determinata raccomandazione o preso una determinata decisione. Tra le tecniche figurano l'importanza delle caratteristiche, la visualizzazione dell'attenzione e le spiegazioni controfattuali.