Informationstheorie

Die Informationstheorie ist eine mathematische Theorie aus dem Bereich der Wahrscheinlichkeitstheorie und Statistik, die auf Claude Shannon zurückgeht.

Sie beschäftigt sich mit Begriffen wie Information, Entropie, Informationsübertragung, Datenkompression, Kodierung, Kryptographie, Komplexitätstheorie und verwandten Themen.

Neben der Mathematik, Informatik und Nachrichtentechnik wird die theoretische Betrachtung von Kommunikation durch die Informationstheorie auch zur Beschreibung von Kommunikationssystemen in anderen Bereichen (Medien in der Publizistik, Nervensystem in der Neurologie, DNA und Proteinsequenzen in der Molekularbiologie, Wissen in der Informationswissenschaft und Dokumentation) etc. eingesetzt.

Geschichte

Shannon 2.jpeg]]

Vor allem Claude Elwood Shannon lieferte in den 1940er bis 1950er Jahren wesentliche Beiträge zur Theorie der Datenübertragung und der Wahrscheinlichkeitstheorie.

Er fragte sich, wie man eine verlustfreie Datenübertragung über elektronische (heute auch optische) Kanäle sicherstellen kann. Dabei geht es insbesondere darum, die Datensignale vom Hintergrundrauschen zu trennen. Außerdem versucht man, während der Übertragung aufgetretene Fehler zu erkennen und zu korrigieren. Dazu ist es notwendig, redundante (d.h. überflüssige) Daten mitzusenden, um dem Datenempfänger eine Datenverifikation oder Datenkorrektur zu ermöglichen.

Klassische Informationskonzepte versagen teilweise in quantenmechanischen Systemen. Dies führt zum Konzept der Quanteninformation.

Die Informationstheorie stellt mathematische Methoden zur Messung bestimmter Eigenschaften von Information zur Verfügung.

Zwischen Entropie und (bedeutsamer) Information (Informationsgehalt) besteht ein nichtmonotoner Zusammenhang. Ist die Entropie gleich Null (regelmäßiges, 100%-ig vorhersagbares Signal), so ist der (potenzielle) Nutzwert für einen Organismus genauso gering wie bei der gegen unendlich strebenden Entropie eines Rauschsignals. Das Informations-Maximum liegt also, grob gesprochen, in einem "mittleren" Entropiebereich.

Es sei darauf hingewiesen, dass der Begriff der Information aus der Informationstheorie keinen direkten Bezug zu Semantik, Bedeutung und Wissen hat, da sich diese Eigenschaften mit informationstheoretischen Verfahren nicht messen lassen.

In neuerer Zeit wird zunehmend versucht, die Komplexität einer Nachricht nicht mehr nur über statistische Betrachtung der Daten zu bestimmen, sondern vielmehr die Algorithmen zu betrachten, die diese Daten erzeugen können. Solche Ansätze sind insbesondere die Kolmogorow-Komplexität und die algorithmische Tiefe, sowie die algorithmische Informationstheorie von Gregory Chaitin.

Literatur

Claude E. Shannon. A mathematical theory of communication. Bell System Tech. J., 27:379-423, 623-656, 1948. (Shannons bahnbrechende Veröffentlichung)
Holger Lyre: Informationstheorie - Eine philosophisch naturwissenschaftliche Einführung, UTB 2289;
Ein verständliche Einführung (auf Englisch) zur speziellen nachrichtentechnischen Informationstheorie gibt es im Netz von einem Biologen T. D. Schneider http://www.lecb.ncifcrf.gov/~toms/paper/primer/
Deutsche Scripte zur Informationstheorie, welche allerdings sehr knapp gehalten sind:
- http://www.oelinger.de/maria/it_codi/index.htm (MicroSoft Word)
U. Schöning: Perlen der Theoretischen Informatik. Bibl. Institut Wissenschaftsverlag, 1995.
U. Schöning: Algorithmen - kurz gefasst, Spektrum Akademischer Verlag, 1. Auflage, 09/1997
U. Schöning: Theoretische Informatik - kurzgefasst. Spektrum Akademischer Verlag, 3. Auflage, 1999
U. Schöning: Logik für Informatiker, Spektrum Akademischer Verlag, 5. Auflage, 2000
J. R. Pierce: An Introduction to Information Theory: Symbols, Signals and Noise; Dover Publications, Inc., New York, second edition, 1980.
W. Sacco, W. Copes, C. Sloyer, and R. Stark: Information Theory: Saving Bits; Janson Publications, Inc., Dedham, MA, 1988.
N. J. A. Sloane and A. D. Wyner; Claude Elwood Shannon: Collected Papers; IEEE Press, Piscataway, NJ, 1993.
Solomon Kullback: Information Theory and Statistics (Dover Books on Mathematics), 1968;
Alexander I. Khinchin: Mathematical Foundations of Information Theory;
Fazlollah M. Reza: An Introduction to Information Theory, 1961;
Robert B. Ash: Information Theory, 1965;
Thomas M. Cover, Joy A. Thomas: Elements of Information Theory (Wiley Series in Telecommunication), 1991;
Michael Kary, Martin Mahner: Warum Shannons "Informationstheorie" keine Informationstheorie ist. Naturwissenschaftliche Rundschau 57(11), S. 609 - 616 (2004), ISSN 0028-1050

Siehe auch

Weblinks

http://pespmc1.vub.ac.be/ASC/indexASC.html
http://www.mathematik.uni-bielefeld.de/ahlswede/itlinks_f.html
http://werner-heise.de/Einleitung_IC.html
http://goethe.ira.uka.de/seminare/redundanz/vortrag01/

Kybernetik | Informationstheorie | Kognitionswissenschaft

Gourt Home::Gourt :: Informationstheorie

Geschichte

Literatur

Siehe auch

Weblinks