Text C Informationstheorie

Text C Informationstheorie

Die Informationstheorie stellt die Grundlagen für alle Wissenschaftsgebiete dar,die sich mit der Verarbeitung von Informationen und derÜbertragung von Nachrichten befassen.Sie wurde 1948 von C.E.Shannon entwickelt und veröffentlicht und ist heute wegen der weltweit zunehmenden Nutzung von Computernetzen von elementarer Bedeutung.

In der Einführung wurde der Zusammenhang zwischen Informations-und Datenverarbeitung erklärt.Wir werden nun die für die gesamte Informatik wichtigen Begriffe der Nachricht und der Information erläutern und darüber hinaus zeigen,wie Information quantitativ bewertet,also gemessen werden kann.

Nachricht und lnformation

Umgangssprachlich ist eine Nachricht eine Mitteilung einer beliebigen Art in Form von Sprache,Text oder allgemein von Daten.Nachrichten können an andere gesendet werden,wobei ein geeigneter”Transport“gewählt werden muss,ein Nachrichtenübertragungskanal.Unter Information verstehen wir umgangssprachlich den”Inhalt der Nachricht“,der________aus einer Bewertung oder Interpretation________.Die Information ist somit im Gegensatz zur Nachricht etwas Abstraktes.Wir können dieses wie folgend beschreiben:Die(abstrakte)Information wird durch die(konkrete)Nachricht mitgeteilt!

Bei der Interpretation einer Nachricht müssen verschiedene Gesichtspunkte unterschieden werden.Es gilt hierbei zwischen syntaktischen,semantischen und pragmatischen Aspekten zu unterscheiden:

.Die Syntax definiert den formalen Aufbau von Nachrichten.Dies betrifft bei sprachlichen Nachrichten z.B.die Anordnung von Buchstaben,Wörtern und Satzzeichen,aber auch die Häufigkeit des Auftretens von bestimmten Buchstabenkombinationen.

.Die Semantik einer Nachricht_______________________________deren(inhaltliche)Bedeutung.Dies ist im weitesten Sinne das,was umgangssprachlich unter Information verstanden wird.

.Unter Pragmatik wird letztlich der Wert der Information für den Empfänger verstanden.Ein Zeichen ist ein Element einer endlichen Menge von unterscheidbaren”Dingen“,dem Zeichenvorrat.Ein Zeichenvorrat,in dem eine lineare Ordnung definiert ist,heiβt Alphabet.

Eine Nachricht ist eine zufällige Auswahl von Zeichen eines Zeichenvorrats,die in einem bestimmten räumlichen und zeitlichen Zusammenhang auftreten.Ein Zeichen zusammen mit seiner Bedeutung wird Symbol genannt.Der Begriff Zeichen ist deshalb vom Begriff Symbol zu unterscheiden.Er umfasst die Syntax und die Semantik des Zeichens.Zeichenvorräte sind z.B.die internationale Lautschrift(sie besitzt keine Reihenfolge der Zeichen)oder die”Farben“von Spielkarten.

In der Informationstheorie werden die beiden Partnerüblicherweise mit Quelle und Senke bezeichnet.Folgende Abbildung zeigt das zugrunde liegende Modell:

图示

Abb.9-3

In der Informationstheorie wird davon ausgegangen,dass eine Quelle Zeichen aus einem Zeichenvorrat mit einer zeitunabhängigen Wahrscheinlichkeit auswählt.Mathematisch gesehen entspricht dies einem stochastischen Prozess.Es wird ferner angenommen,dass die einem Zeichen oder einer Nachricht zugeordnete Information(Semantik)bekannt ist.Dies bedeutet:Die Informationstheorie ausschlieβlich________den syntaktischen Aspekten einer Nachricht.

Es geht letztlich darum,bei Eintreffen eines Zeichens zu entscheiden,welches der möglichen Zeichen vorliegt.Die Informationstheorie befasst sich mit dieser Klassifizierung von Zeichen und nutzt den Begriff der Information im Sinne einer Entscheidungsinformation.Zweck der Informationstheorie ist primär das Messen dieser(Entscheidungs-)Information.

Misst man den Aufwand der Zeichen-Klassifizierung,so erhält man Informationenüber die Struktur von Nachrichten.Diese Informationen können dann gezielt genutzt werden,um z.B.effiziente Codes und sichere Verschlüsselungsverfahren zu entwickeln.

lnformationsquelle und lnformationsgehalt

Im Voraus zusammenfassend definierte Shannon:”Die Unbestimmtheit einer Quelle istäquivalent zur Informationsmenge“.Wir werden sehen,dass in der Informationstheorie Information eine Aussageüber etwas Neues ist,also mit Erkenntnis zu tun hat.Zuerst soll nun der wesentliche Begriff der Quelle definiert werden:

Eine Nachrichtenquelle ist ein Mechanismus,der aus einer Menge von möglichen Nachrichten eine auswählt und an einen Bestimmungsort,die Nachrichtensenke sendet!Die Auswahl der Nachricht ist zufällig!

Die grundlegende Annahme besteht darin,dass eine Nachrichtenquelle als stochastischer also Zufallsprozess verstanden wird.Die Nachrichtensenke weiβ nicht,welche Nachricht von der Nachrichtenquelle als nächste gesendet wird.Diese Definition ist sehr allgemein gehalten und wird deshalb für die Informationstheorie weiter spezifiziert zur Informationsquelle:

Eine Informationsquelle(kurz Quelle)ist eine Nachrichtenquelle,die eine Folge von Zeichen aus einem endlichen Zeichenvorrat sendet.

Die Quelle heiβt diskret,wenn die Auftrittswahrscheinlichkeit jedes einzelnen Zeichens bekannt ist.

Ist die Auswahl eines Zeichens zudem statistisch unabhängig von der Auswahl des vorhergehenden Zeichens,so________es________________eine Quelle ohne Gedächtnis.

Quelle:Vorlesungsskript”Grundlagen der Informatik“von Prof.Dr.Claus Hentschel(FH Hannover).

Ⅰ.Fragen zum Text

1.Definieren Sie die Begriffe Zeichen und Nachricht.

2.Warum nutzt man die Informationen gezielt?

3.Was bedeutet eine Nachrichtenquelle?

4.Füllen Sie die im Text stehenden Lücken mit den folgenden Wortgruppen aus.

sich handeln um sich ergeben

sich befassen mit sich beziehen auf

Ⅱ.Grammatik zum Text(https://www.daowen.com)

ForMen Sie die Passivsätze in Aktivsätze uM und uMgekehrt.

a.Wir werden nun die für die gesamte Informatik wichtigen Begriffe der Nachricht und der Information erläutern.

________________________________________________

________________________________________________

b.Bei der Interpretation einer Nachricht müssen verschiedene Gesichtspunkte unterschieden werden.

________________________________________________

________________________________________________

c.Unter Pragmatik wird letztlich der Wert der Information für den Empfänger verstanden.

________________________________________________

Ⅲ.Übersetzen Sie die folgenden Sätze ins Chinesische.

1.Die Informationstheorie stellt die Grundlagen für alle Wissenschaftsgebiete dar,die sich mit der Verarbeitung von Informationen und derÜbertragung von Nachrichten befassen.

________________________________________________

________________________________________________

2.Nachrichten können an andere gesendet werden,wobei ein geeigneter”Transport“gewählt werden muss,ein Nachrichtenübertragungskanal.

________________________________________________

________________________________________________

3.In der Informationstheorie wird davon ausgegangen,dass eine Quelle Zeichen aus einem Zeichenvorrat mit einer zeitunabhängigen Wahrscheinlichkeit auswählt.

________________________________________________

________________________________________________

4.Die grundlegende Annahme besteht darin,dass eine Nachrichtenquelle als stochastischer also Zufallsprozess verstanden wird!

________________________________________________

________________________________________________

Ⅳ.Textwiedergabe 图示

________________________________________________

________________________________________________

________________________________________________

________________________________________________

________________________________________________

________________________________________________

________________________________________________

________________________________________________