Die gemeinsame Wahrscheinlichkeitsverteilung mehrerer Zufallsvariablen nennt man multivariate Verteilung oder auch mehrdimensionale Verteilung.

Formale Darstellung

---

Um Verwechslungen zu vermeiden, werden Zufallsvariablen - wie meistens - groß geschrieben, Zufallsvektoren jedoch klein. Matrizen und Vektoren werden unterstrichen.

Man betrachtet p Zufallsvariablen X_j (j = 1, ..., p), jeweils mit einem Erwartungswert E(X_j) und der Varianz V(X_j). Die Zufallsvariablen sind zudem paarweise korreliert mit der Kovarianz Cov(X_j,X_k) (j,k = 1, ...,p; j ≠ k).

Man interessiert sich für die gemeinsame Wahrscheinlichkeit, dass alle X_j höchstens gleich einer jeweiligen Konstanten x_j sind, also

P(X₁ ≤ x₁ ; X₂ ≤ x₂ ; ... ; X_p ≤ x_p) = F_X(x₁;x₂; ... , x_p).

Multivariate Zufallsvariablen werden i.a. in Matrixform dargestellt. Man fasst die Zufallsvariablen in einem (px1)-Zufallsvektor x zusammen:

$\backslash underline\; x\; =$

\begin{pmatrix} X_1 \\ X_2 \\ \vdots\\ X_p \end{pmatrix} .

Für die obige gemeinsame Wahrscheinlichkeit erhält man

$F\_x(\backslash underline\; x)=F\_X$

\begin{pmatrix} x_1 \\ x_2 \\ \vdots\\ x_p \end{pmatrix} .

Die Erwartungswerte befinden sich im (px1)-Erwartungswertvektor

$E(\backslash underline\{x\})=$

\begin{pmatrix} E(X_1) \\ E(X_2) \\ \vdots\\ E(X_p) \end{pmatrix} .

Die Varianzen werden zusammen mit den Kovarianzen in der (pxp)-Kovarianzmatrix $\backslash underline\; \backslash Sigma$ aufgeführt:

$\backslash underline\; \backslash Sigma=$

\begin{pmatrix} V(X_1) & {\rm Cov}(X_1,X_2) & {\rm Cov}(X_1,X_3) & \ldots & {\rm Cov}(X_1,X_{p-1}) & {\rm Cov}(X_1,X_p) \\ {\rm Cov}(X_2,X_1) & V(X_2) & {\rm Cov}(X_2,X_3) & \ldots & {\rm Cov}(X_2,X_{p-1}) & {\rm Cov}(X_2,X_p) \\ {\rm Cov}(X_3,X_1) & {\rm Cov}(X_3,X_2) & V(X_3) & \ldots & {\rm Cov}(X_3,X_{p-1}) & {\rm Cov}(X_3,X_p) \\ \vdots & \vdots & \vdots & \ddots & \vdots & \vdots \\ {\rm Cov}(X_{p-1},X_1) & {\rm Cov}(X_{p-1},X_2) & {\rm Cov}(X_{p-1},X_3) & \ldots & V(X_{p-1}) & {\rm Cov}(X_{p-1},X_p) \\ {\rm Cov}(X_p,X_1) & {\rm Cov}(X_p,X_2) & {\rm Cov}(X_p,X_3) & \ldots & {\rm Cov}(X_p,X_{p-1}) & V(X_p) \\ \end{pmatrix}

Man sieht, dass Σ symmetrisch ist. Auf der Hauptdiagonalen sind die Varianzen angeordnet. x ist also verteilt mit dem Erwartungswertvektor E(x) und der Kovarianzmatrix Σ.

Die Umformung zu den Korrelationskoeffizienten

$\backslash rho\_\{jk\}=$

ergibt die Korrelationsmatrix

$\backslash underline\; R=$

\begin{pmatrix} 1 & \rho_{12} & \rho_{13} & \ldots & \rho_{1p} \\ \rho_{21} & 1 & \rho_{23} & \ldots & \rho_{2p} \\ \rho_{31} & \rho_{32} & 1 & \ldots & \rho_{3p} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ \rho_{p1} & \rho_{p2} & \rho_{p3} & \ldots & 1\\ \end{pmatrix}

Gemeinsame Wahrscheinlichkeiten sind häufig schwierig zu berechnen, vor allem, wenn schon die Einzelwahrscheinlichkeiten nicht analytisch bestimmbar sind. Man behilft sich dann gegebenenfalls mit Abschätzungen. Vor allem können die Auswirkungen der Kovarianz auf die Verteilung in der Regel nicht abgesehen werden.

Sind die Zufallsvariablen stochastisch unabhängig, ist die gemeinsame Wahrscheinlichkeit gleich dem Produkt der entsprechenden Einzelwahrscheinlichkeiten.

$F\_x(\backslash underline\; x)=\backslash underline\; F\_X$

\begin{pmatrix} x_1 \\ x_2 \\ \vdots\\ x_p \end{pmatrix}=F_{X_1}(x_1) \cdot F_{X_2}(x_2) \cdot ... \cdot F_{X_p}(x_p) .

Ausgewählte multivariate Verteilungen

---

Von Bedeutung sind vor allem die

• multivariate Normalverteilung,
• Hotelling t-Verteilung als multivariate t-Verteilung,
• Wishart-Verteilung als multivariate Chi-Quadrat-Verteilung,

die multivariaten Verfahren zu Grunde liegen. Meistens ist es möglich, mittels einer linearen Transformation den Zufallsvektor in ein Skalar umzuwandeln, das dann univariat verteilt ist und so als Testprüfgröße fungiert.

Die multivariate Normalverteilung

---

NormalVert2d.png

Gegeben ist ein Vektor x aus p gemeinsam normalverteilten Zufallsvariablen mit dem Erwartungswertvektor μ und der Kovarianzmatrix Σ mit Determinante $|\backslash underline\; \backslash Sigma|$. Die gemeinsame Dichtefunktion der Vektorkomponenten ist gegeben durch

$f\_x(\backslash underline\{x\})=(2\backslash pi)^\{-\{p\backslash over2\}\}|\backslash underline\; \backslash Sigma|^\{-\{1\; \backslash over\; 2\}\}\; \{\backslash rm\; exp\}(-\{1\; \backslash over\; 2\}(\backslash underline\; x-\backslash underline\; \backslash mu)^T\backslash underline\; \backslash Sigma^\{-1\}(\backslash underline\; x-\backslash underline\; \backslash mu))$

.

Es ist also

$\backslash underline\; x\backslash sim\; N\_p(\backslash underline\; \backslash mu;\backslash underline\; \backslash Sigma)$.

Die Kovarianzmatrix Σ ist i. a. positiv definit. Die Werte der Verteilungsfunktion F müssen numerisch ermittelt werden.

Die multivariate Normalverteilung hat spezielle Eigenschaften:

• Sind die Komponenten des Zufallsvektors x paarweise unkorreliert, sind sie auch stochastisch unabhängig.

• Die lineare Transformation y = a + Bx mit B als (qxp)-Matrix (q ≤ p) und a als (qx1)-Vektor ist q-dimensional normalverteilt als N_q (a + Bμ; BΣB^T).

• Die lineare Transformation

$\backslash underline\; y=\backslash underline\; \backslash Sigma^\{-\{1\backslash over2\}\}(\backslash underline\; x-\backslash underline\; \backslash mu)$

standardisiert den Zufallsvektor x. Es ist

$\backslash underline\; Y\; \backslash sim\; N\_p(\backslash underline\; 0;\backslash underline\; 1)$.

also sind die Komponenten von y stochastisch unabhängig.

• X kann auch eine singuläre Kovarianzmatrix besitzen. Man spricht dann von einer degenerierten oder singulären multivariaten Normalverteilung.

Beispiel für eine multivariate Normalverteilung

---

Betrachtet wird eine Apfelbaumplantage mit sehr vielen gleich alten, also vergleichbaren Apfelbäumen. Man interessiert sich für die Merkmale Größe der Apfelbäume, die Zahl der Blätter und die Erträge. Es werden also die Zufallsvariablen definiert:

X₁: Höhe eines Baumes X₂ : Ertrag [100 kg; X₃ : Zahl der Blätter Stück.

Die Variablen sind jeweils normalverteilt wie

$X\_1\; \backslash sim\; N(4;1);\; X\_2\; \backslash sim\; N(20;100);\; X\_3\; \backslash sim\; N(20;225);$

Die meisten Bäume sind also um 4 ± 1m groß, sehr kleine oder sehr große Bäume sind eher selten. Bei einem großen Baum ist der Ertrag tendenziell größer als bei einem kleinen Baum, aber es gibt natürlich hin und wieder einen großen Baum mit wenig Ertrag. Ertrag und Größe sind korreliert, die Kovarianz beträgt Cov(X₁,X₂)=9 und der Korrelationskoeffizient ρ₁₂ = 0,9.

Ebenso ist Cov(X₁,X₃)=12,75 mit dem Korrelationskoeffzienten ρ₁₃ = 0,85, und Cov(X₂,X₃)=120 mit dem Korrelationskoeffzienten ρ₂₃ = 0,8.

Fasst man die drei Zufallsvariablen im Zufallsvektor x zusammen, ist x multivariat normalverteilt mit

$\backslash underline\; \backslash mu\; =$

\begin{pmatrix} 4 \\ 20 \\ 20 \end{pmatrix}

und

$\backslash underline\; \backslash Sigma=$

\begin{pmatrix} 1& 9 &12,75 \\ 9 &100& 120 \\ 12,75 &120& 225 \end{pmatrix} .

Die entsprechende Korrelationsmatrix ist

$\backslash underline\; R=$

\begin{pmatrix} 1& 0,9 &0,85 \\ 0,9 &1& 0,8 \\ 0,85 &0,8&1 \end{pmatrix} .

Stichproben bei Multivariaten Verteilungen

---

In der Realität werden in aller Regel die Verteilungsparameter einer Multivariaten Verteilung nicht bekannt sein. Diese Parameter müssen also geschätzt werden.

Man zieht eine Stichprobe vom Umfang n. Jede Realisation i (i=1,...,n) des Zufallsvektors x könnte man als Punkt in einem p-dimensionalen Hyperraum auffassen. Man erhält so die (nxp)-Datenmatrix X als

$\backslash underline\; X=$

\begin{pmatrix} x_{11}& x_{12}& \cdots &x_{1j}&\cdots &x_{1p}\\ x_{21}& x_{22}& \cdots &x_{2j}&\cdots &x_{2p}\\ \vdots& & & & &\vdots \\ x_{i1}& x_{i2}& \cdots &x_{ij}&\cdots &x_{ip}\\ \vdots& & & & &\vdots \\ x_{n1}& x_{n2}& \cdots &x_{nj}&\cdots &x_{np} \end{pmatrix} ,

die in jeder Zeile die Koordinaten eines Punktes enthält.

Der Erwartungswertvektor wird geschätzt durch den Mittelwertvektor der p arithmetischen Durchschnitte

$\backslash widehat\{E(\backslash underline\{x\})\}=\backslash underline\{\backslash bar\; x\}=$

\begin{pmatrix} \bar x_1\\ \bar x_2\\ \vdots\\ \bar x_j\\ \vdots\\ \bar x_p \end{pmatrix}

mit den Komponenten

$\backslash bar\; x\_j\; =\; \backslash frac\{1\}\{n\}\backslash sum\_\{i=1\}^n\; x\_\{ij\}$.

Für die Schätzung der Kovarianzmatrix erweist sich die bezüglich der arithmetischen Mittelwerte zentrierte Datenmatrix X* als nützlich. Sie berechnet sich als

$\backslash underline\; X^*=\backslash underline\; X-\backslash underline\; l\backslash cdot\backslash underline\{\backslash bar\; x\}^T$,

mit den Elementen x*_ij, wobei l einen (nx1)-Spaltenvektor mit lauter Einsen bedeutet.

Die (pxp)-Kovarianzmatrix hat die geschätzten Komponenten

$s\_\{jk\}=\backslash widehat(X\_j,X\_k)=\backslash frac\{1\}\{n-1\}\backslash sum\_\{i=1\}^n\; x*\_\{ij\}x*\_\{ik\}$.

Sie ergibt sich als

$\backslash widehat\{\backslash underline\; \backslash Sigma\}=\backslash underline\; S=\; \backslash frac\{1\}\{n-1\}\backslash underline\; X^\{*T\}\backslash underline\; X^*$.

Die Korrelationsmatrix R wird geschätzt durch die paarweisen Korrelationskoeffizienten

$r\_\{jk\}=\; \backslash frac\{\backslash sum\backslash limits\_\{i=1\}^n\; x*\_\{ij\}x*\_\{ik\}\}\; \{\backslash sqrt\{\backslash sum\backslash limits\_\{i=1\}^n\; x*\_\{ij\}^2\}\backslash sqrt\{\backslash sum\backslash limits\_\{i=1\}^n\; x*\_\{ik\}^2\}\}$,

auf ihrer Hauptdiagonalen stehen Einsen.

Beispiel zu Stichproben

---

Es wurden 10 Apfelbäume zufällig ausgewählt. Die 10 Beobachtungen werden in der Datenmatrix X zusammengefasst:

$\backslash underline\; X=$

\begin{pmatrix} 3,3&24& 27 \\ 4,9& 41&55\\ 5,9& 46&52 \\ 5,2& 49&54\\ 3,6& 29 &34 \\ 4,2&33& 51 \\ 5,0&42& 43\\ 5,1&35& 54 \\ 6,8&60& 70 \\ 5,0&41&50 \end{pmatrix} .

Die Mittelwerte berechnen sich, wie beispielhaft an $\backslash bar\; x\_1$ gezeigt, als

$\backslash bar\; x\_1=\backslash frac\{1\}\{10\}(3,3+4,9+...+5,0)=4,9$.

Sie ergeben den Mittelwertvektor

$\backslash underline\{\backslash bar\; x\}=$

\begin{pmatrix} 4,9\\ 40\\ 49 \end{pmatrix}

Für die zentrierte Datenmatrix X* erhält man die zentrierten Beobachtungen, indem man von den Spalten den entsprechenden Mittelwert abzieht:

3,3 - 4,9 = -1,6;	24 – 40 = -16;	27 - 49 = -22
4,9 - 4,9 = 0;	41 - 40 = 1;	55 - 49 = 6
	...

,

also

$\backslash underline\{\backslash underline\; X\}^*=$

\begin{pmatrix} -1,6&-16& -22 \\ 0,0& 1&6\\ 1,0& 6&3 \\ 0,3& 9&5\\ -1,3& -11 &-15 \\ -0,7&-7& 2 \\ 0,1&2& -6\\ 0,2&-5& 5 \\ 1,9&20& 21 \\ 0,1&1&1 \end{pmatrix} .

Man berechnet für die Kovarianzmatrix die Kovarianzen, wie im Beispiel,

$s\_\{12\}=\backslash widehat\{\backslash rm\; Cov\}(X\_1,X\_2)=\backslash frac\{1\}\{9\}(-1,6\; \backslash cdot\; (-16)+0\backslash cdot\; 1+...+0,1\backslash cdot\; 1)\; =\backslash frac\{91\}\{9\}\backslash approx\; 10,09$

und entsprechend die Varianzen

$s\_\{22\}=\backslash widehat\{V(X\_2)\}=\backslash frac\{1\}\{9\}((-16)^2\; +1^2+...+1^2)\; =\backslash frac\{974\}\{9\}\backslash approx\; 108,22$ ,

so dass sich die Kovarianzmatrix

$\backslash underline\; S=$

\begin{pmatrix} 1,06&10,09&10,91 \\ 10,09& 108,22&106,22\\ 10,91& 106,22&142,89 \end{pmatrix}

ergibt.

Entsprechend erhält man für die Korrelationsmatrix zum Beispiel

$r\_\{12\}=\backslash frac\{10,09\}\{\backslash sqrt\{1,06\backslash cdot\; 108,22\; \}\}\; \backslash approx\; 0,9439$

bzw. insgesamt

$\backslash underline\; R=$

\begin{pmatrix} 1&0,9439&0,8884 \\ 0,9439& 1&0,8542\\ 0,8884& 0,8542&1 \end{pmatrix} .

Literatur

---

• Mardia, KV, Kent, JT, Bibby, JM: Multivariate Analysis, New York 1979
• Fahrmeir, Ludwig, Hamerle, Alfred, Tutz, Gerhard (Hrsg): Multivariate statistische Verfahren, New York 1996
• Hartung, Joachim, Elpelt, Bärbel: Multivariate Statistik, München, Wien 1999

Stochastik | Wahrscheinlichkeitsverteilung