Saliency Map
Visualisierung, die zeigt, welche Eingabe-Pixel oder -Token den größten Einfluss auf die Modell-Ausgabe haben, basierend auf Gradienten.
Saliency Maps zeigen via Gradienten, welche Eingabebereiche ein Modell am meisten beeinflussen – schnell, aber oft verrauscht ohne SmoothGrad oder Integrated Gradients.
Erklärung
Saliency Maps berechnen den Gradienten des Outputs bezüglich des Inputs. Hohe Gradientenwerte zeigen sensitive Bereiche an. Varianten: Vanilla Gradients, SmoothGrad, Integrated Gradients, DeepLIFT.
Relevanz für Marketing
Schnellste Form der visuellen Erklärbarkeit für Deep Learning. Nützlich für Debugging, zeigt aber oft verrauschte oder irreführende Ergebnisse ohne Verfeinerung.
Häufige Fallstricke
Vanilla Gradients sind oft verrauscht. Saliency Maps können auf irrelevante Features fokussieren. Ohne Ground Truth schwer zu validieren.
Entstehung & Geschichte
Simonyan et al. führten Saliency Maps 2013 für CNNs ein. SmoothGrad (2017) reduzierte Rauschen durch Averaging. Integrated Gradients (Sundararajan et al., 2017) lösten theoretische Probleme. Heute Standard-Debugging-Tool in Computer Vision.
Abgrenzung & Vergleiche
Saliency Map vs. Grad-CAM
Saliency Maps arbeiten auf Pixel-Ebene (verrauscht); Grad-CAM auf Feature-Map-Ebene (glatter, interpretierbarer).
Saliency Map vs. SHAP
Saliency Maps nutzen Gradienten (schnell, aber approximativ); SHAP nutzt Shapley-Werte (langsamer, aber theoretisch fundiert).