Das Akronym ARMA (AutoRegressive-Moving Average) und die daran angelehnten Kunstwörter ARMAX und ARIMA bezeichnen lineare Modelle für stationäre, zeitdiskrete stochastische Prozesse. Sie werden zur Zeitreihenanalyse in der Messtechnik, in der Statistik und dort insbesondere in der Ökonometrie eingesetzt. Hier sind sie auch unter dem Namen Box-Jenkins-Modelle bekannt. Die Prognosemodelle der Wirtschaftsinstitute und Banken sind in der Regel aus ARMA-Modellen zusammengesetzt. Ihr mathematischer Kern ist ein lineares Gleichungssystem.

Mathematische Definition eines ARMA-Prozesses

---

In das Modell fließen Rauschterme und gewichtete frühere Werte der Zeitreihe linear ein. ARMA-Modelle sind eines der Hauptwerkzeuge zur Vorhersage von beobachteten, stochastischen Signalen. Sind die zu modellierenden Signale nicht stationär, dann muss man sie gegebenenfalls vor der Modellierung differenzieren, um den Trend zu beseitigen.

MA-Modell

$y\_t=\backslash sum\_\{j=0\}^m\; b\_j\; \backslash epsilon\_\{t-j\}$ Das Signal setzt sich aus einem durch gleitendes Mittel (=Moving Average) der Länge m geglätteten Signal einer (nicht direkt messbaren) anderen Zeitreihe und einem Rauschterm (j=0) zusammen.

Siehe auch: FIR-Filter

AR-Modell

$y\_t=\backslash epsilon\_t\; +\; \backslash sum\_\{i=1\}^n\; a\_i\; y\_\{t-i\}$ Das Signal setzt sich aus einem geglätteten Signal seiner n vorhergehenden Werte und einem Rauschterm zusammen.

Siehe auch: IIR-Filter (Infinite Impulse Response-Filter)

ARMA-Modell

$y\_t=\backslash epsilon\_t\; +\; \backslash sum\_\{i=1\}^n\; a\_i\; y\_\{t-i\}\; +\; \backslash sum\_\{j=1\}^m\; b\_j\; \backslash epsilon\_\{t-j\}$ Dieses Modell wird auch als ARMA(n,m)-Modell bezeichnet, wobei n und m die Ordnung des Prozesses heißen.
Mit Hilfe des so genannten Verschiebungsoperators L (von lag=Zeitverschiebung):

$L^d\; x\_t\; =\; x\_\{t-d\}$

schreibt man kürzer auch:

$(1+\backslash phi(L))y\_t\; =\; (1+\backslash theta(L))\; \backslash epsilon\_t$

wobei φ und θ beides endliche Polynome (der Grade n und m) darstellen:

$\backslash phi(x)\; =\; \backslash phi\_1\; x+\; \backslash cdots\; +\; \backslash phi\_n\; x^n$

Inhaltliche Interpretation: Was ist MA und was ist AR?

Moving Average

$\backslash epsilon\_t$ ist ein s.g. weißes Rauschen, eine Zufallsvariable, die für alle $t$ gleich verteilt ist mit Erwartungswert $\backslash mu$ und der Varianz $\backslash sigma^2$. Die Abhängigkeit beschränkt sich bei MA-Termen auf den Erwartungswert: Ist

$Y\_t=\backslash alpha\; \backslash sum\_\{j\}\; \backslash epsilon\_\{t-j\}$

dann wird lediglich der Erwartungswert von Y mit jedem Zeitschritt um $\backslash alpha\; \backslash mu$ verschoben. $Y\_t$ selbst ist stochastisch bestimmt.

Auto-Regression

Anders beim Auto-Regressionsteil: Hier ist $Y\_t$ deterministisch von der Vergangenheit abhängig. In

$Y\_t=Y\_\{t-1\}+\backslash epsilon$

unterliegt $Y\_t$ genau dann einer Störung, wenn $Y\_\{t-1\}$ einer Störung unterliegt.

ARMA-Modelle in der Statistik

---

Regressionsmodelle spielen in der Statistik eine große Rolle. In der Ökonometrie müssen oft mehrere Zeitreihen der Form $x\_1(t),\; x\_2(t)...x\_n(t)$ miteinander in Zusammenhang gebracht werden, die s.g. Wirtschaftsindikatoren, also z.B. Zins, Arbeitslosigkeit, Investitionen usw. Man unterscheidet zwischen endogenen zeitabhängigen Variablen Y(t) (die also vom Modell erklärt werden) und exogenen Variablen X(t), die von außen definiert werden. Mit ihnen kann man das allgemeine lineare Gleichungssystem (LGS)

$BY=AX+\backslash epsilon$

formulieren. B,Y,A und X sind Matrizen mit sovielen Zeilen wie Beobachtungen und sovielen Spalten wie Variablen des jeweiligen Typs. Jeder Zeitpunkt zählt als Beobachtung. Geht einunddieselbe Variable zu verschiedenen Zeitpunkten (also als Y(t), Y(t-1) usw.) in das LGS ein, so zählt dies als mehrere Variablen. Die Gleichung $Y(t)=\backslash beta\_1\; Y(t-1)+\backslash beta\_2\; Y(t-2)+\backslash epsilon$ hat also drei Variablen. Das ist entscheidend für die ARMA-Modelle. $\backslash epsilon$ ist ein Vektor mit sovielen Zeilen wie Beobachtungen.

ARMAX und ARIMA

Ist der Regressor X dabei, spricht man von ARMAX-Modellen. Gehen nur die (diskreten) Ableitungen von Y in das Modell ein, so dass hinterher die Modellprognosen wieder integriert (siehe Integration) werden müssen, so spricht man von ARIMA-Modellen, das I steht für "Integrated".

Alle Modelle der ARMA-Familie haben dieses LGS zur Grundlage. Viele LGS können mit einer einfachen linearen Regression (LR) geschätzt werden. Voraussetzung, dass die Standardfehler der Schätzer unverzerrt sind, ist, dass die Störterme $\backslash epsilon$ von Y nicht autokorrelieren, da Korrelation der Fehler untereinander zwar nicht den Schätzer selbst, jedoch den zugehörigen Standardfehler verzerrt (meist wird er stark unterschätzt). Wenn Autoregressionsterme der Form

$y\_t=\backslash epsilon\_t\; +\; \backslash sum\_\{i=1\}^n\; a\_i\; y\_\{t-i\}$

vorliegen, liegt in der Regel eine solche Autokorrelation der Störterme vor.

Interpretation des Moving Average-Teils

Man sollte das LGS daher um einen Term der Form

$\backslash epsilon=\backslash sum\_\{j=0\}^m\; \backslash gamma\_j\; \backslash epsilon\_\{t-j\}+\backslash epsilon\text{'}$,

also um eine Autoregression der Fehlerterme erweitern. Praktisch spielen vor allem Erweiterungen der Ordnung 1:

$\backslash epsilon=\backslash gamma\_1\; \backslash epsilon\_\{t-1\}+\backslash epsilon\text{'}$

eine Rolle. Das ist ein Markow-Prozess.

Der Begriff "MA" für solche rein stochastischen Prozesse ist eher irreführend. ARMA-Modelle sind also Simultan-Modelle für deterministische Zusammenhangsmodelle (AR-Anteil, entspricht Regressionsmodell) und stochastischen Prozessen (MA-Anteil).

ARMA-Modelle (auch ARMAX, ARIMA) werden durch nichtlineare Regressionsverfahren geschätzt.

Siehe auch

---

Yule-Walker-Gleichungen, Autokorrelation, Digitales Filter, VARMA

Ökonometrie | Zeitreihenanalyse

Literatur

---

BOX, G.E.P. and JENKINS, G.M. (1970) Time series analysis: Forecasting and control, San Francisco: Holden-Day

McCLEARY, R. and HAY, R.A. (1986) Applied Time Series Analysis for the Social Sciences, Beverly Hills: Sage Publications

HAMILTON, James D. (1994) Time Series Analysis, Princeton: Princeton University Press

ENDERS, W. (1995) Applied Econometic Time Series, John Wiley & Sons INC.

MILLS, Terence C. (1999) The Econometric Modelling of Financial Time Series, 2nd Edition, Cambridge University Press

TSAY, Ruey S. (2005) Analysis of Financial Time Series, 2nd Edition, Wiley Series in Prob. and Statistics

Autoregressive moving average model | Modelo autorregresivo de media móbil | Autoregressive moving average model | ARMA模型