Direkt zum Inhalt

Lexikon der Mathematik: Informationstheorie

Theorie, die sich mit den mathematischen Regeln beschäftigt, welche in Systemen zur Übertragung oder Manipulation von Information gelten.

Sie beschäftigt sich im wesentlichen mit den Fragestellungen, wie Nachrichten übertragen bzw. manipuliert werden können, jedoch nicht mit den physikalischen Bausteinen, die die Übertragung und Manipulation von Nachrichten realisieren. Im Mittelpunkt der Informationstheorie stehen somit Überlegungen, wie Information mathematisch gemessen werden kann (Entropie, informationstheoretische), d. h. wie hoch der Informationsgehalt einer übermittelten Nachricht ist, und wie während der Übertragunggestörte Informationen erkannt (fehlererkennender Code) und restauriert (fehlerkorrigierender Code) werden können.

Bei letzterem wird in der Regel ein Szenario betrachtet, das von einer Informationsquelle ausgeht, die eine Nachricht erzeugt, welche zu einem Empfänger über einen Kanal übertragen werden soll. Vor der Versendung wird die Nachricht durch einen Sender (transmitter) in eine übertragbare Form codiert. Die so transformierte Nachricht wird Signal genannt. Ein Empfänger (receiver) empfängt das Signal und decodiert es in seine ursprüngliche Gestalt zurück. Der Kanal kann in dem Sinne gestört sein, daß während der Übertragung das Signal verändert werden kann.

Die grundlegende Idee der Informationstheorie, wie sie von Claude E. Shannon begründet wurde, ist, daß Information quantifiziert werden kann, wie dies zum Beispiel auch bei Masse der Fall ist. Dies hat zur Folge, daß es durch die Informationstheorie möglich ist, zu bestimmen, wie groß der Informationsgewinn der durch eine gegebene Informationsquelle erzeugten Nachrichten ist, und wieviel Information ein gegebener Kanal zwischen Sender und Empfänger übertragen kann.

[1] Sloane, N.J.A., Wyner, A.D.: Claude Elwood Shannon – Collected Papers. IEEE Press, 1993.
[2] Topsoe, F.: Informationstheorie. Teubner Stuttgart, 1974.

Lesermeinung

Wenn Sie inhaltliche Anmerkungen zu diesem Artikel haben, können Sie die Redaktion per E-Mail informieren. Wir lesen Ihre Zuschrift, bitten jedoch um Verständnis, dass wir nicht jede beantworten können.

  • Die Autoren
- Prof. Dr. Guido Walz

Partnervideos