Informationstheorie

Grundbegriffe der Theorie in den vierziger Jahren des zwanzigsten Jahrhunderts eingeführt, Shannon. Informationstheorie – die Wissenschaft des Prozesses der Übertragung, Speicherung und Daten in natürlichen, technischen und sozialen Systemen abgerufen werden. Bei vielen Anwendungen von wissenschaftlichen Bereichen wie Informatik, Linguistik, Kryptographie, Kontrolltheorie, Bildverarbeitung, Genetik, Psychologie, Ökonomie, Organisation von Herstellungsverfahren sind diese Wissenschaft verwendet.

In modernen Bedingungen mit der Informationstheorie sehr fest an eine Codierungstheorie gebunden, diskutiert die am häufigsten auftretenden Problemen der Übereinstimmung zwischen einem Signal und einer Nachricht, und der Theorie der Signalverarbeitung, wobei die Quantisierung untersucht und Wiederherstellungssignale und spektraler und Korrelationsanalyse davon.

Informationstheorie betrachtet das Grundkonzept der „Informationen“ zum größten Teil quantitativ, ohne Berücksichtigung ihres Wertes, und manchmal sinnlos. Bei diesem Ansatz wird eine Textseite enthält etwa die gleiche Menge an Daten, die von einer Reihe von Zeichen und Symbolen bestimmt und hängt nicht von der Tatsache, dass, streng genommen, dort gedruckt wird, auch wenn es absolut sinnlos und chaotische Menge von einigen Symbolen.

Dieser Ansatz ist gerechtfertigt, aber nur für die Simulation von Kommunikationssystemen, da sie genau Informationen zu übertragen , die Kommunikationskanäle, die eine beliebige Menge von Zeichen und Symbolen sein kann. Dann, wenn es notwendig ist, zu berücksichtigen, den Wert und die Bedeutung von Daten, ist quantitativer Ansatz inakzeptabel. Diese Umstände stark eingeschränkt Bereich der möglichen Anwendung dieser Theorie.

Grundlagen der Informationstheorie erfordern die Betrachtung verschiedener Fragen, einschließlich der unmittelbar im Zusammenhang mit dem Senden und Empfangen von Daten. Das Hauptkommunikationsschema, das in der Lehre betrachtet wird, ist wie folgt. Informationstheorie und Codierung Er ist der Ansicht, dass diese die Quelle-Meldungen sind, die ein Wort oder einen Satz von Wörtern geschrieben bestimmten Buchstaben des Alphabets. Die Quelle der Nachricht kann Text auf jede natürliche oder sein künstliche Sprache, die menschliche Sprache, Datenbank und einige mathematische Modelle, eine Folge von Buchstaben zu schaffen. Der Transmitter wandelt die Nachricht in ein Signal auf die physikalische Beschaffenheit des Kommunikationskanals entspricht, – Mittel für die Signalübertragung. Während des Durchgangs eines solchen ist es störanfällig, die Verzerrungen in dem Wert des Informationsparameters einzuführen. Der Empfänger gewinnt die ursprüngliche Nachricht aus dem empfangenen Signal verzerrt. Nachricht in einer reduzierten Form kommt zu dem Ziel – eine bestimmte Person oder ein technisches Gerät.

Nachrichtenquelle ist statistische Natur, das heißt das Aussehen jeder Nachricht, die von einer gewissen Wahrscheinlichkeit bestimmt wird. Shannons Informationstheorie glaubt, dass, wenn die Wahrscheinlichkeit der Nachricht gleich eins ist, das heißt, sein Aussehen deutlich und Unsicherheiten nicht glauben, dass es keine Informationen tragen.

Eines der wichtigsten Probleme der Informationstheorie betrachtet die Koordination der Kommunikationskanal und Informationen Eigenschaften der Nachrichtenquelle. Bandbreite wird durch die Einheit von 1 Bit pro Sekunde bestimmt.

Ein Problem bei Kommunikationssystemen sind Störungen auf den gewünschten Signalpfad. Shannon, leider gibt uns nicht die spezifischen Methoden für diejenigen, die sich. Die einfachste Methode , die Entfernung oft Nachrichten wiederholt wird , ist nicht sehr effektiv , da es mehr Zeit , Kosten für dauert die Übertragung von Informationen. Viel mehr Effizienz ermöglicht die Verwendung von Codes, die es Ihnen ermöglichen, zu erkennen und zu korrigieren Fehler der Datenübertragung.