Scagnostics
# Scagnostics

Scagnostics (aus engl. Scatterplot diagnostics) bezeichnet eine Reihe von Maßzahlen, die bestimmte Eigenschaften einer Punktwolke in einem Streudiagramm kennzeichnen, die in der Praxis häufiger auftreten. Der Begriff wurde von John W. Tukey und Paul A. Tukey geprägt und später von Wilkison, Anand und Großmann ausgearbeitet. Folgende neun Maßzahlen werden betrachtet:

* Für die Ausreisser in den Daten:
   * Ausreisseranteil (outlying)
* Für die Dichte der Datenpunkte:
   * Schiefe (skewed)
   * Klumpigkeit (clumpy)
   * Spärlichkeit (sparse)
   * Gestreiftheit (striated)
* Für die Form der Punktwolke:
   * Konvexität (convex)
   * Dünnheit (skinny)
   * Faserigkeit (stringy)
* Für einen Zusammenhang in den Daten:
   * Monotonie (monotonic)

## Tukeys Idee

Eine Möglichkeit einen multivariaten Datensatz mit $p$ Variablen zu visualisieren ist eine Streudiagramm-Matrix; siehe das Beispiel rechts für fünf Variablen. Der Nachteil dieser Darstellung ist es, dass das Diagramm nur wenig Variablen enthalten darf sonst wird es unübersichtlich bzw. man kann kaum noch Datenstrukturen erkennen. Die Idee der Brüder Tukey war es, das Problem von $p(p-1)/2$ Streudiagrammen auf eine kleinere Zahl von $k(k-1)/2$ Streudiagrammen für die Maßzahlen zu reduzieren. Denn die $k$ Koeffizienten der $p(p-1)/2$ Streudiagramme können dann wieder in einer Streudiagramm-Matrix dargestellt werden und mit Linking Methoden können die Streudiagramme der Daten herausgegriffen werden, die ungewöhnlich Werte der Koeffizienten zeigen.

Die Tukey-Brüder haben verschiedene Koeffizienten benutzt, z. B. Maße beruhend auf einer "geschälten" konvexen Hülle der Daten (Fläche, Durchmesser), auf geschlossenen Höhenlinien der geschätzten Dichtefunktion (Fläche, Durchmesser, Modalität, Konvexität), nicht-lineare principal curves usw. Damit wollten sie Besonderheiten der Punktwolken in Bezug auf der Dichte der Daten, Form, Richtung usw. aufdecken.

Ihre Maßzahlen wiesen jedoch ein paar Probleme auf:

* Einige der Maßzahlen hatten eine Berechnungskomplexität der Ordnung ${\mathcal {O}}(n^{3})$ ($n$ Anzahl der Beobachtungen im Datensatz), der sie für Datensätze mit vielen Beobachtungen ungeeignet macht.
* Implizit wurde angenommen, dass für jedes Paar von Variablen eine bivariate stetige Dichtefunktion existierte. In der Praxis sind jedoch viele Variablen diskret (oder klassiert).

## Berechnung der Koeffizienten

Um diesen Problemen zu umgehen haben Wilkinson, Anand und Grossman für die Berechnung der Maßzahlen graphentheoretische Ansätze gewählt:

* Eine Delaunay-Triangulation der Daten und einen darauf aufbauend minimalen Spannbaum; siehe Grafik rechts. In einem minimalen Spannbaum werden alle Datenpunkte mit ihren Nachbarn so verbunden, dass ein Graph mit minimaler Länge entsteht, der alle Datenpunkte umfasst.
* Die konvexe Hülle der Datenpunkte, die sich als die äußeren Kanten in der Grafik rechts ergibt.
* Die $\alpha$ Form der Datenpunkte. Sie ergibt sich als die Grenzen der Dreiecke der Delaunay-Triangulation, deren Umkreis einen Radius $\leq \alpha$ hat. Im Gegensatz zur konvexen Hülle kann die $\alpha$ Form auch zu Löchern führen. $\alpha$ ist hierbei das 90-%-Quantil der Kantenlängen des minimalen Spannbaums.

Da Ausreisser in den Daten die Maßzahlen stark beeinflussen können, wurden diese zum einen auf robusten Methoden basiert (wie auch schon bei den Tukeybrüdern) und zum anderen wurden sie bei der Triangulation ausgeschlossen. Des Weiteren wurden die Maßzahlen so gewählt, dass die Berechnungkomplexität ${\mathcal {O}}(n\log(n))$ nicht überschritt. Um die Berechnung weiter zu beschleunigen wurde noch Binning angewandt, d. h. nahe beieinanderliegende Datenpunkte wurden zusammengefasst.

Alle Maßzahlen liegen im Intervall von Null bis Eins. Um dies zu erreichen, werden in einem ersten Schritt alle Variablen des Datensatze auf das Intervall $[0;1]$ reskaliert:

    $U_{i}={\frac {X_{i}-\min(X_{i})}{\max(X_{i})-\min(X_{i})}}$.

Mit den reskalierten Daten werden dann die folgenden Maßzahlen berechnet.

### Ausreisseranteil

Man berechnet zunächst das 25-%-Quantil $q_{25}$ und das 75-%-Quantil $q_{75}$ der Kantenlängen im minimalen Spannbaum (MST). Kanten deren Länge größer als $q_{75}+1{,}5(q_{75}-q_{25})$ werden als lange Kanten gekennzeichnet.

    $c_{\text{outlying}}={\frac {\text{Gesamtlänge der langen Kanten im MST}}{\text{Gesamtlänge aller Kanten im MST}}}$

Dies ist ein Maß für den Anteil der langen Kanten an allen Kanten im MST und

### Schiefe

Man berechnet das 10-%-Quantil $q_{10}$, das 50-%-Quantil $q_{50}$ und das 90-%-Quantil $q_{90}$ der Kantenlängen im MST.

    $c_{\text{skewed}}={\frac {q_{90}-q_{50}}{q_{90}-q_{10}}}$

Dies ist ein robustes Maß für die Schiefe der Verteilung der Kantenlängen im MST. Dies gibt eine Information über die relative Dichte der Datenpunkte.

### Klumpigkeit

Eine schiefe Verteilung der Kantenlängen im MST heißt nicht unbedingt, dass die Daten in Teilgruppen zerfallen. Daher wird dafür ein Maß der Klumpigkeit definiert: Wird jeweils eine Kante $e_{j}$ aus dem MST entfernt, dann zerfällt der MST in zwei Teilgraphen. In dem kleineren der beiden Teilgraphen wird nun die längste Kante gesucht:

    $c_{\text{clumpy}}=\max _{j}\left(1-{\frac {\max _{k{\text{ im kleineren Teilgraph}}}{\text{Kantenlänge}}(k)}{{\text{Kantenlänge}}(j)}}\right)$

Die Maßzahl liegt nahe Eins, wenn z. B. eine (lange) Kante zwischen zwei Clustern entfernt wird. Innerhalb eines Cluster sind die Distanzen klein, so dass das Verhältnis nahe bei Null liegt und daher $c_{\text{clumpy}}$ groß wird.

### Spärlichkeit

Die Spärlichkeit ist definiert als das 90-%-Quantil der Kantenlängen des MST:

    $c_{\text{sparse}}=\min(1,q_{90})$

### Gestreiftheit

Hierbei werden alle Kanten der Delaunay-Triangulation betrachtet. Haben zwei benachbarte Kanten einen Winkel von mehr als 138,5 Grad (genauer: $\cos({\text{Winkel}})<-0{,}75$) dann werden sie als "gestreift" bezeichnet.

    $c_{\text{striated}}={\frac {\text{Anzahl der gestreiften Kantenpaare}}{\text{Anzahl aller Kanten in der Delaunay-Triangulation}}}$

### Konvexität

Um die Konvexität der Daten zu beurteilen wird die Fläche der $\alpha$ Form mit der Fläche der konvexen Hülle verglichen:

    $c_{\text{convex}}={\frac {{\text{Fläche der }}\alpha {\text{ Form}}}{\text{Fläche der konvexen Hülle}}}$

### Dünnheit

Um zu prüfen, wie „dünn“ die Datenpunkte verteilt sind wird die $\alpha$ Form genutzt

    $c_{\text{skinny}}=1-{\frac {\sqrt {4\pi {\text{ Fläche der }}\alpha {\text{ Form}}}}{{\text{Umfang der }}\alpha {\text{ Form}}}}$

Dies ist ein normiertes Maß. Wenn die $\alpha$ Form ein Kreis ist, dann ergibt sich $c_{\text{skinny}}$ als Null.

### Faserigkeit

Die Faserigkeit prüft, ob der MST aus einem durchgehenden Pfad besteht, d. h. keine Abzweigungen besitzt. Dafür wird der Durchmesser des MST als die Länge des längsten durchgehenden Pfades bestimmt.

    $c_{\text{stringy}}={\frac {\text{Durchmesser des MST}}{\text{Gesamtlänge im MST}}}$

Besitzt der MST keine Verzweigungen, dann ergibt sich ein Wert für $c_{\text{stringy}}$ von Eins.

### Monotonie

Um einen Trend in den Daten zu sehen, wird Spearmans Rangkorrelationskoeffizient genutzt:

    $c_{\text{monotonic}}=r_{s}^{2}$

## Beispiel

Die rechte Grafik zeigt bezirksweise den mittleren Hauspreis (medv) in Abhängigkeit vom Anteil der Unterschichtbevölkerung (lstat) der Boston Housing Daten. Folgende Scagnostics Maßzahlen wurden berechnet und die Ergebnisse mit den Beispieldatensätzen von oben verglichen.

| $c_{\text{outlying}}$ | =0,1459 | Der Wert erreicht fast den maximale Wert der Beispieldatensätze. Dies weist auf einige Ausreißer in den Daten hin; tatsächlich gibt es große Abstände zwischen den Datenpunkten am rechten Rand. |
| - | - | - |
| $c_{\text{skewed}}$ | =0,7755 | Auch hier wird fast der maximale Wert der Beispieldatensätze erreicht. Man sieht deutlich in den Daten eine zentrale Region in der die Datenpunkte dichter sind und außerhalb weniger dicht. |
| $c_{\text{clumpy}}$ | =0,0322 | Dieser Wert ist relativ klein. Die Daten zerfallen auch nicht in einzelne Cluster. |
| $c_{\text{sparse}}$ | =0,0353 | Der Wert liegt noch unterhalb des kleinsten Wertes der Beispieldatensätze. D. h. die Daten bedecken nur einen Teil der Gesamtfläche. |
| $c_{\text{striated}}$ | =0,0463 | Der Wert liegt an der unteren Grenzen der Beispieldatensätze. Eine klare streifige Struktur ist daher nicht zu erkennen. |
| $c_{\text{convex}}$ | =0,3501 | Der Wert liegt im Mittelfeld der Beispieldatensätze. Insbesondere bei nicht-linearen Zusammenhängen tritt dieser Wert in den Beispieldatensätzen auf. |
| $c_{\text{skinny}}$ | =0,5833 | Auch dieser Wert liegt im Mittelfeld der Beispieldatensätze. Dies weist auf eine Struktur hin, die einen Zusammenhang vermuten lässt zwischen diesen Variablen. |
| $c_{\text{stringy}}$ | =0,3557 | Dieser Wert liegt am unteren Rand der Beispieldatensätze. Eine glatte Struktur gibt es in den Daten nicht, d. h. der Datensatz enthält etwas Streuung. |
| $c_{\text{monotonic}}$ | =0,7484 | Dieser Wert liegt am oberen Rand der Beispieldatensätze. Da es einen deutlichen Zusammenhang zwischen beiden Variablen ist das nicht überraschend. |

Zusammenfassend kann also gesagt werden: Dieses Streudiagramm enthält einen deutlichen nicht-linearen Zusammenhang mit vermutlich stärkerer Streuung. Die Daten zerfallen in eine zentralere dichte Region und eine weniger dichtere äußere Region, die einige Ausreißer enthält.

Die Boston Housing Daten bestehen aus 14 Variablen, daher ergeben sich 91 Streudiagramme, die man betrachten kann. In der folgenden Streudiagramm-Matrix sind die neun Maßzahlen für die 91 Streudiagramme dargestellt. Z. B. bei Sparse fällt ein extremer Wert auf. Dies ist das Streudiagramm der Variablen Charles-River Index mit zwei Merkmalsausprägungen (Bezirk grenzt an den Charles River oder nicht) und Index des Zugangs zu den radialen Autobahnen mit acht Merkmalsausprägungen. D. h. alle Beobachtungen im Streudiagramm dieser beiden Variablen müssen sich auf 16 Punkte konzentrieren!

