In der Theorie lassen sich also mit XAI-Methoden und dem richtigen Know-How selbst komplexe Black-Box-Modelle zumindest teilweise interpretieren. Wie sieht es aber in der Realität aus? Bei vielen Projekten oder Use Cases stellt die Interpretierbarkeit eine wichtige Säule des Gesamterfolgs dar. Sicherheitstechnische Aspekte, fehlendes Vertrauen in die Modellergebnisse, mögliche zukünftige Regularien sowie ethische Bedenken sorgen für die Notwendigkeit interpretierbarer ML-Modelle.