Als «information-theory» getaggte Fragen

Sind alle Morse-Code-Zeichenfolgen eindeutig entschlüsselbar? Ohne die Räume, ......-...-..---.-----.-..-..-.. könnte sein, Hello Worldaber vielleicht ist der erste Buchstabe ein 5- in der Tat sieht es sehr unwahrscheinlich aus, dass eine willkürliche Folge von Punkten und Strichen eine eindeutige...

Diese Idee kam mir als Kind, als ich das Programmieren lernte und PRNGs zum ersten Mal begegnete. Ich weiß immer noch nicht, wie realistisch es ist, aber jetzt gibt es Stapelaustausch. Hier ist ein 14-jähriges Schema für einen erstaunlichen Komprimierungsalgorithmus: Nehmen Sie ein PRNG und...

Laut Wikipedia : Shannons Entropie misst die in einer Nachricht enthaltenen Informationen im Gegensatz zu dem Teil der Nachricht, der bestimmt wird (oder vorhersehbar ist). Beispiele für letztere sind Redundanz in der Sprachstruktur oder statistische Eigenschaften in Bezug auf die Häufigkeit des...

Angenommen, ich muss die folgende diskrete Verteilung simulieren: P(X=k)={12N,1−12N,if k=1if k=0P(X=k)={12N,if k=11−12N,if k=0 P(X = k) = \begin{cases} \frac{1}{2^N}, & \text{if $k = 1$} \\ 1 - \frac{1}{2^N}, & \text{if $k = 0$} \end{cases} Der naheliegendste Weg ist, zufällige Bits zu zeichnen und...

Ich habe eine Datei mit bestellten Binärzahlen von bis 2 n - 1 :0002n- 12n−12^n - 1 0000000000 0000000001 0000000010 0000000011 0000000100 ... 1111111111 7z hat diese Datei nicht sehr effizient komprimiert (für n = 20 wurden 22 MB auf 300 kB komprimiert). Gibt es Algorithmen, die sehr einfache...

Ich lese das Buch: " Code: Die verborgene Sprache von Computerhardware und -software " und der Autor in Kapitel 2 sagt: Man sagt, Morsecode sei ein binärer Code (was wörtlich zwei mal zwei bedeutet), da die Komponenten des Codes nur aus zwei Dingen bestehen - einem Punkt und einem Bindestrich....

Ich bin kürzlich auf den folgenden interessanten Artikel gestoßen, der behauptet, zufällige Datensätze unabhängig von Art und Format der Daten immer um mehr als 50% effizient zu komprimieren. Grundsätzlich werden Primzahlen verwendet, um eine eindeutige Darstellung von 4-Byte-Datenblöcken zu...

Um eine Nachricht zu verschlüsseln mit einem one-time-pad Schlüssel tun Sie .m1m1m_1kkkEn c ( m1, k ) = m1⊕ kEnc(m1,k)=m1⊕kEnc(m_1,k) = m_1 \oplus k Wenn Sie dasselbe , um eine andere Nachricht zu verschlüsseln, erhalten Sie , und wenn Sie Xoder der beiden Chiffretexte ausführen, erhalten Sie...

Vergleicht man ein geordnetes Paar (x, y) mit einem ungeordneten Paar {x, y} (gesetzt), so beträgt die Differenz theoretisch nur ein Bit, da es genau eines einzelnen Bits bedarf, um darzustellen, ob x zuerst kommt oder y. Wenn wir also eine Menge {x, y} haben, in der x, y zwei verschiedene...

Sie haben ein Array von verschiedenen Elementen. Sie haben Zugriff auf einen Komparator (eine Black-Box-Funktion, die zwei Elemente und und true zurückgibt, falls ) und eine wirklich zufällige Quelle von Bits (eine Black-Box-Funktion, die keine Argumente verwendet und ein unabhängig einheitlich...

Ich las über Datenkomprimierungsalgorithmen und die theoretische Grenze für die Datenkomprimierung. Kürzlich bin ich auf eine Komprimierungsmethode mit dem Namen "Combinatorial Entropy Encoding" gestoßen. Die Hauptidee dieser Methode besteht darin, die Datei als die in der Datei dargestellten...

Laut Wikipedia : Informellerweise entspricht aus der Sicht der algorithmischen Informationstheorie der Informationsgehalt einer Zeichenkette der Länge der kürzest möglichen in sich geschlossenen Darstellung dieser Zeichenkette. Was ist die analoge informelle rigorose Definition von "nützlichen...

Wenn Sie ein beliebiges 9x9-Raster angeben möchten, müssen Sie die Position und den Wert jedes Quadrats angeben. Eine naive Codierung könnte dazu 81 (x, y, value) Triplets ergeben, die 4 Bits für jedes x, y und einen Wert (1-9 = 9 Werte = 4 Bits) für insgesamt 81x4x3 = 972 Bits erfordern. Durch...

Bei einer Reihe von Werten , der Shannon Entropy in Log - Basis  zu kommen . Soweit ich weiß, ist die aufgerundete Shannon-Entropie in Basis  die minimale Anzahl von Binärbits, um einen einzelnen der Werte darzustellen.AAAAAAAABCAAAAAAAABCAAAAAAAABC2220.9220.9220.922222 Entnommen aus der Einführung...

Ich schreibe gerade Code, um Binärdaten zu generieren. Ich muss speziell 64-Bit-Zahlen mit einer bestimmten Anzahl von gesetzten Bits generieren. Genauer gesagt sollte die Prozedur einige annehmen und eine pseudozufällige 64-Bit-Zahl mit genau auf gesetzten Bits und den Rest auf 0 setzen.0 < n...

Bei der Arbeit wurde ich beauftragt, einige Typinformationen über eine dynamische Sprache abzuleiten. Ich schreibe Folgen von Anweisungen in verschachtelte letAusdrücke um, wie folgt: return x; Z => x var x; Z => let x = undefined in Z x = y; Z => let x = y in Z if x then T else F; Z =>...

Beim Versuch, die Beziehungen zwischen Huffman-Codierung, arithmetischer Codierung und Bereichscodierung zu verstehen, begann ich über die Mängel der Huffman-Codierung nachzudenken, die mit dem Problem der fraktionierten Bitpackung zusammenhängen . Angenommen, Sie haben 240 mögliche Werte für ein...

In der Codierungstheorie bedeutet "wie gut ein Code ist", wie viele Kanalfehler korrigiert oder besser ausgedrückt, der maximale Rauschpegel, mit dem der Code umgehen kann. Um bessere Codes zu erhalten, werden die Codes mit einem großen Alphabet (anstatt einem binären) entworfen. Und dann ist der...

Die Anforderung, dass die Codierung präfixfrei sein muss, führt zu großen Bäumen, da der Baum vollständig sein muss. Gibt es einen Schwellenwert, bei dem die nicht codierte Speicherung von Daten mit fester Länge effizienter wäre als die Codierung der

Das Problem besteht darin, die Existenz von , st, zu beweisen oder zu widerlegen ; ; . ( steht für Hamming Distance)CCC|c|=6,∀c∈C|c|=6,∀c∈C|c| = 6,\forall c\in C|C|=32|C|=32|C| = 32d(ci,cj)≥2,1≤i<j≤32d(ci,cj)≥2,1≤i<j≤32d(c_i,c_j)\geq2,1\leq