Statistische Signifikanz

In der Statistik heißen Unterschiede signifikant, wenn sie nur mit einer bestimmten geringen Wahrscheinlichkeit durch Zufall zustande kommen. Die Überprüfung statistischer Signifikanz geschieht unter Anwendung von dem Datenmaterial angepassten Signifikanztests, die eine Abschätzung der Irrtumswahrscheinlichkeit erlauben. Das Quantil der maximal zulässigen geschätzten Irrtumswahrscheinlichkeit wird a priori festgelegt und oft mit $\alpha$ bezeichnet, beispielsweise $\alpha=0{,}05$ für 5% Irrtumswahrscheinlichkeit. Je geringer diese, desto höher die Informationsqualität.

Die statistische Signifikanz beschreibt den Informationsgehalt eines Ereignisses bzw. einer Messung.

Beispiele

Bei einer Umfrage wird festgestellt, dass 55% der Frauen zu Partei A tendieren, während von 53% der Männer Partei B bevorzugt wird. Gibt es tatsächlich einen Unterschied bei der politischen Überzeugung von Männern und Frauen oder sind nur zufällig bei den Frauen viele Anhängerinnen von Partei A und bei den Männern von Partei B befragt worden?
Mit einem neuen Medikament ist die Heilungsrate höher als ohne Medikament. Ist das neue Medikament wirklich wirksam oder sind nur zufällig besonders viele Patienten ausgewählt worden, die auch von alleine wieder gesund geworden wären?
In der Umgebung einer Chemiefabrik tritt eine bestimmte Krankheit besonders häufig auf. Ist das Zufall oder gibt es einen Zusammenhang?

In den oben genannten Beispielen kann man sich nie hundertprozentig sicher sein, dass der Zufall die Ergebnisse nicht verfälscht hat. Man kann aber berechnen, wie wahrscheinlich es ist, dass die gemessenen Ergebnisse nur aufgrund eines ungünstigen Zufalls auftreten. Dieser zufällige Fehler wird allgemein als Fehler 1. Art und die bedingte Wahrscheinlichkeit seines Auftretens unter der Voraussetzung, dass die Nullhypothese richtig ist, als Irrtumswahrscheinlichkeit bezeichnet.

Es hat sich eingebürgert, die Irrtumswahrscheinlichkeit auf 5 Prozent festzulegen. Das bedeutet aber in der Praxis, dass eine von 20 Untersuchungen, bei denen die Nullhypothese richtig ist, zu dem Schluss kommt, sie sei falsch.

Die Wahl des Wertes 5% ist wie folgt motiviert: eine normalverteilte Zufallsgröße nimmt nur mit einer Wahrscheinlichkeit von weniger als 5% einen Wert an, der sich vom Erwartungswert um mehr als die zweifache Standardabweichung unterscheidet. Bei einer Irrtumswahrscheinlichkeit von 5 % spricht man von Signifikanz, wählt man als Grenze für die Irrtumswahrscheinlichkeit den Wert 0,3%, so spricht man von einem hochsignifikanten Ergebnis; die Motivation für den Wert 0,3% ist ähnlich: eine normalverteilte Zufallsgröße nimmt nur mit einer Wahrscheinlichkeit von weniger als 0,3% einen Wert an, der sich vom Erwartungswert um mehr als die dreifache Standardabweichung unterscheidet.

Auch bei tatsächlich oder vorgeblich statistisch signifikanten Aussagen ist immer eine kritische Überprüfung der Versuchsanordnung und -durchführung notwendig. Nur selten genügen wissenschaftliche Untersuchungen den mathematischen Anforderungen an einen aussagefähigen statistischen Test. Bei vielen Studien steht der Wunsch des oder der Studiendurchführenden (z.B. im Rahmen einer Doktorarbeit) nach einem 'signifikanten' Ergebnis bei der Studiendurchführung zu sehr im Vordergrund - Untersuchungen, bei denen die Nullhypothese bestätigt wird, werden nämlich gemeinhin als uninteressant und überflüssig angesehen. Als Hinweise auf die Qualität einer Studie können im medizinischen Umfeld die Eigenschaften "randomisiert", "kontrolliert" und "doppelblind" gelten. Ohne diese sind Aussagen etwa zur Wirksamkeit von Therapien mit äußerster Vorsicht zu behandeln. Sehr schwierig und problematisch ist insbesondere die Interpretation signifikanter Korrelationen in retrospektiven Studien. Zu bedenken ist darüberhinaus stets, dass aus statistisch signifikanten Korrelationen oft fälschlich auf eine vermeintliche Kausalität geschlossen wird (Beispiel: Zwischen 1960 und 1990 korrelierte die Zahl der Störche in Deutschland signifikant mit der Geburtenrate, da beide Zahlen stark gesunken sind, dennoch ist die Kausalität zumindest fraglich).

Aussagewert und Power (Beispiel klinische Forschung)

Statistisch signifikante Studien können trotzdem einen geringen praktischen Aussagewert haben.

Studien mit großer Fallzahl führen aufgrund der hohen statistischen Power oft zu hoch signifikanten Ergebnissen. Solche Studien können trotzdem einen geringen Aussagewert haben, wenn die Größe des beobachteten Effekts (oder der gemessene Parameter) nicht klinisch relevant ist. Statistische Signifikanz ist also ein notwendiges Kriterium, aber noch kein hinreichender Beweis für Wirkung eines Medikaments von praktischer Relevanz.

Weitere kritische Prüfsteine vom methodologischen Gesichtspunkt aus sind:

die Korrektheit der statistischen Modellannahmen (beispielsweise die Verteilungsannahme)

die Anzahl der durchgeführten statistischen Tests (bei mehreren Tests, von welchen nicht einer eindeutig als primärer Test gekennzeichnet ist, sollte eine Adjustierung des Signifikanzniveaus durchgeführt werden)

die prospektive Definition der Analysemethoden vor der "Entblindung" doppelblinder Studien.

Irrige Überzeugungen

Entgegen weit verbreiteter Meinung ist Signifikanz nicht mit der Irrtumswahrscheinlichkeit gleichzusetzenWolfgang Weihe, Klinische Studien und Statistik, Deutsches Ärzteblatt 101, 26.03.2004. Nicht zutreffend sind die Annahmen, das Signifikanzniveau (bzw. der beobachtete p-Wert) lege fest

die Effektgröße
die Wahrscheinlichkeit, dass die Nullhypothese wahr oder falsch ist
die Wahrscheinlichkeit, dass die Alternativhypothese wahr oder falsch ist
den Grad der Zuversicht, dass das Ergebnis wiederholbar istGerd Gigerenzer, Zeno Swijtink, Theodore Porter: Das Reich des Zufalls ISBN 3827401011.

Wissenschaftliches Publizieren

Vielfach wurde die Signifikanz als Maß dafür genommen, ob ein wissenschaftlicher Artikel veröffentlicht werden sollte. Dies führt jedoch zum sogenannten "Publikationsbias", da mögliche Zufallsergebnisse nicht durch Publikation der gesamten Bandbreite der durchgeführten Untersuchungen relativiert werden können.

Die Herausgeber der Zeitschrift für Sozialpsychologie erklärten hingegen ausdrücklich, dass die Annahme von Artikeln in ihrer Zeitschrift nicht von der Signifikanz der Ergebnisse abhängt, da die Redaktion einen Kontrapunkt zu dem Ausbreiten des Fehlers 1. Art schaffen wolle. In der Publikation von Ergebnissen klinischer Studien sind derzeit Anstrengungen durch internationale Fachzeitschriften wie auch der forschenden Institutionen (insbesondere Pharmaunternehmen) im Gange, öffentlich zugängliche Datenbanken, in welchen verbindlich alle durchgeführten Studien sowie ihre prospektiv definierten Zielparameter enthalten sind, zu schaffen. Dadurch sollen die Komplettheit der Veröffentlichung auch unangenehmer Resultate überprüfbar und eine Einschätzung des Publikationsbias möglich werden.

Literatur

Hans-Peter Beck-Bornholdt, Hans-Hermann Dubben: Der Hund, der Eier legt. Rowolt 2001, ISBN 3499611546, (populärwissenschaftliche Darstellung)
Jürgen Bortz: Statistik für Human- und Sozialwissenschaftler. (Springer 2004), ISBN 354021271X

Quellen

Weblinks

Statistik

Gourt Home::Gourt :: Statistische Signifikanz