Diese Idee kam mir als Kind, als ich das Programmieren lernte und PRNGs zum ersten Mal begegnete. Ich weiß immer noch nicht, wie realistisch es ist, aber jetzt gibt es Stapelaustausch. Hier ist ein 14-jähriges Schema für einen erstaunlichen Komprimierungsalgorithmus: Nehmen Sie ein PRNG und...
Laut Wikipedia : Shannons Entropie misst die in einer Nachricht enthaltenen Informationen im Gegensatz zu dem Teil der Nachricht, der bestimmt wird (oder vorhersehbar ist). Beispiele für letztere sind Redundanz in der Sprachstruktur oder statistische Eigenschaften in Bezug auf die Häufigkeit des...
Alan Turing schlug ein Modell für eine Maschine vor (die Turing Machine, TM), die berechnet (Zahlen, Funktionen usw.) und den Haltesatz bewies . Ein TM ist ein abstraktes Konzept einer Maschine (oder eines Motors, wenn Sie möchten). Der Haltesatz ist ein Unmöglichkeitsergebnis. Eine Carnot-Engine...
Angenommen, ich muss die folgende diskrete Verteilung simulieren: P(X=k)={12N,1−12N,if k=1if k=0P(X=k)={12N,if k=11−12N,if k=0 P(X = k) = \begin{cases} \frac{1}{2^N}, & \text{if $k = 1$} \\ 1 - \frac{1}{2^N}, & \text{if $k = 0$} \end{cases} Der naheliegendste Weg ist, zufällige Bits zu zeichnen und...
Einige Leute sagten folgendes: Wer versucht, mit deterministischen Mitteln Zufallszahlen zu generieren, lebt natürlich in einem Zustand der Sünde. Das bedeutet immer, dass Sie mit nur einem Computer keine echten Zufallszahlen generieren können. Und er sagte, dass Computer die gleiche Größe hätten...
Unter Linux sind die Dateien /dev/randomund/dev/urandom Dateien die blockierenden bzw. nicht blockierenden Quellen für pseudozufällige Bytes. Sie können als normale Dateien gelesen werden: $ hexdump /dev/random 0000000 28eb d9e7 44bb 1ac9 d06f b943 f904 8ffa 0000010 5652 1f08 ccb8 9ee2 d85c 7c6b...
Sie haben ein Array von verschiedenen Elementen. Sie haben Zugriff auf einen Komparator (eine Black-Box-Funktion, die zwei Elemente und und true zurückgibt, falls ) und eine wirklich zufällige Quelle von Bits (eine Black-Box-Funktion, die keine Argumente verwendet und ein unabhängig einheitlich...
Bei einer Reihe von Werten , der Shannon Entropy in Log - Basis zu kommen . Soweit ich weiß, ist die aufgerundete Shannon-Entropie in Basis die minimale Anzahl von Binärbits, um einen einzelnen der Werte darzustellen.AAAAAAAABCAAAAAAAABCAAAAAAAABC2220.9220.9220.922222 Entnommen aus der Einführung...
Bei der Arbeit wurde ich beauftragt, einige Typinformationen über eine dynamische Sprache abzuleiten. Ich schreibe Folgen von Anweisungen in verschachtelte letAusdrücke um, wie folgt: return x; Z => x var x; Z => let x = undefined in Z x = y; Z => let x = y in Z if x then T else F; Z =>...
Beim Versuch, die Beziehungen zwischen Huffman-Codierung, arithmetischer Codierung und Bereichscodierung zu verstehen, begann ich über die Mängel der Huffman-Codierung nachzudenken, die mit dem Problem der fraktionierten Bitpackung zusammenhängen . Angenommen, Sie haben 240 mögliche Werte für ein...
Ich habe ein constrainted Optimierungsproblem in der (Shannon) -Matrix Entropie . Die Matrix A kann als die Summe der Rang-1-Matrizen der Form [ v i( s u m( E n t r ( e i g ( A ) ) ) )(sum(entr(eig(A))))\mathtt{(sum(entr(eig(A))))}EINAA wobei v i ein gegebener normalisierter Vektor ist. Die...
Ich versuche jetzt, viele nicht redundante (tatsächliche) Informationen zu messen, die meine Datei enthält. Einige nennen dies die Menge an Entropie. Natürlich gibt es das Standard-p (x) -Protokoll {p (x)}, aber ich denke, dass Shannon es nur unter dem Gesichtspunkt der Übertragung durch einen...
Shannons Entropie [Plog (1 / p)] für ein Bild ist eine probabilistische Methode zum Vergleichen von zwei Pixeln oder einer Gruppe von Pixeln. Angenommen, ein Bild mit einer Matrix von 3 × 3 hat Pixelintensitätswerte 1 1 2 2 3 3 4 4 5 und ein anderes Bild mit einer 3 × 3-Matrix weist eine Gruppe von...
In vielen Artikeln habe ich gelesen, dass es bekannt ist, dass die Shannon-Entropie einer Zufallsvariablen durch unabhängige Kopien der Variablen in Min-Entropie (bis zu einem kleinen statistischen Abstand) umgewandelt werden kann. Kann mir jemand erklären, was genau das