Fragen in der Informationstheorie
Informell ausgedrückt ist die Kolmogorov-Komplexität eines Strings Länge eines kürzesten Programms, das x ausgibt . Wir können einen Begriff von 'zufälliger Zeichenfolge' definieren, indem wir ihn verwenden ( x ist zufällig, wenn K ( x ) ≥ 0,99 | x | ). Es ist leicht zu erkennen, dass die meisten...
Diese Frage wurde Jeannette Wing nach ihrem PCAST-Vortrag über Informatik gestellt. "Gibt es aus physikalischer Sicht ein maximales Informationsvolumen?" Jenseits von "Was ist Information?" sollte man auch herausfinden, was "volumen" in diesem zusammenhang bedeutet? Vielleicht ist die maximale...
Die Komplexität des Kolmogorov-Präfixes (dh ist die Größe des minimalen selbstbegrenzenden Programms, das ausgibt ) weist mehrere nette Merkmale auf:K(x)K(x)K(x)xxx Es entspricht einer Intuition, Strings mit Mustern oder Strukturen eine geringere Komplexität zu geben als Strings ohne. Es erlaubt...
Ich suche nach fehlerkorrigierenden Codes des folgenden Typs: Binärcodes mit konstanter Rate, decodierbar aus einem konstanten Bruchteil von Fehlern durch einen Decodierer, der als eine Boolesche Schaltung der Größe implementiert werden kann , wobei die Codierungslänge ist.O(N)O(N)O(N)NNN Einige...
Der Huffman-Code für eine Wahrscheinlichkeitsverteilung ist der Präfixcode mit der minimalen gewichteten durchschnittlichen Codewortlänge , wobei die Länge des ten Codeworts ist. Es ist ein bekanntes Theorem, dass die durchschnittliche Länge pro Symbol des Huffman-Codes zwischen und , wobei die...
In der Quanteninformationstheorie wird der Abstand zwischen zwei Quantenkanälen häufig mit der Diamantnorm gemessen. Es gibt auch eine Reihe von Möglichkeiten, um den Abstand zwischen zwei Quantenzuständen zu messen, z. B. den Spurabstand, die Wiedergabetreue usw. Der Jamiołkowski-Isomorphismus...
Informationskomplexität war ein sehr nützliches Werkzeug für die Komplexität der Kommunikation, das hauptsächlich dazu diente, die Kommunikationskomplexität verteilter Probleme zu verringern. Gibt es ein Analogon der Informationskomplexität für die Abfragekomplexität? Es gibt viele Parallelen...
Bei der Implementierung eines Bloom-Filters erfordert der herkömmliche Ansatz mehrere unabhängige Hash-Funktionen. Kirsch und Mitzenmacher haben gezeigt, dass man eigentlich nur zwei braucht und den Rest als Linearkombination daraus erzeugen kann. Meine Frage ist: Was ist der Unterschied zwischen...
In letzter Zeit habe ich mich mit Komprimierungsalgorithmen befasst und mich gefragt, welches die beste Komprimierungsrate ist, die durch verlustfreie Datenkomprimierung erreicht werden kann. Bisher war die einzige Quelle, die ich zu diesem Thema finden konnte, die Wikipedia: Die verlustfreie...
Lemma: Unter der Annahme einer Eta-Äquivalenz haben wir das (\x -> ⊥) = ⊥ :: A -> B. Beweis: ⊥ = (\x -> ⊥ x)durch Eta-Äquivalenz und (\x -> ⊥ x) = (\x -> ⊥)durch Reduktion unter dem Lambda. Der Haskell 2010-Bericht, Abschnitt 6.2, spezifiziert die seqFunktion durch zwei Gleichungen:...
Die meisten von uns kennen die Shannon-Entropie einer Zufallsvariablen, , und alle damit zusammenhängenden informationstheoretische Maßnahmen wie relative Entropie, gegenseitige Information und so weiter. Es gibt einige andere Entropiemaßnahmen, die üblicherweise in der theoretischen Informatik und...
Der beliebte DEFLATE-Algorithmus verwendet Huffman-Codierung über Lempel-Ziv. Wenn wir eine zufällige Datenquelle haben (= 1-Bit-Entropie / Bit), ist es im Allgemeinen wahrscheinlich , dass keine Codierung, einschließlich Huffman, diese im Durchschnitt komprimiert. Wenn Lempel-Ziv "perfekt" wäre...
Ich bin für eine Schranke für die Entropie H(X+Y)H(X+Y)H(X+Y) aus der Summe zweier unabhängiger diskreten Zufallsvariablen XXX und YYY . Natürlich ist H(X+Y)≤H(X)+H(Y) (∗)H(X+Y)≤H(X)+H(Y) (∗)H(X+Y) \leq H(X) + H(Y) ~~~~~~(*) . Bezogen auf die Summe von nnn unabhängigen...
Angenommen, wir haben eine Funktion , so dass ( Wir können uns also als Distribution vorstellen. Es ist natürlich, die Entropie einer solchen Funktion wie folgt zu definieren: Σ x ∈ Z n 2 f ( x ) 2 = 1 { f ( x ) 2 } x ∈ Z N 2 H ( f ) = - Σ x ∈ Z n 2 f ( x ) 2 log ( f ( x ) 2 ) .f: Zn2→...
Normalerweise wird die Shannon-Entropie verwendet, um die Ergebnisse der Kanalcodierung zu beweisen. Auch für die Trennung von Quellkanälen wird die Shannon-Entropie verwendet. Hat es eine Studie gegeben, um die Komplexität von Kolmogorov für diese Ergebnisse zu nutzen (oder zumindest den...
Es gibt Forscher, die zeigen, dass das Löschen von Bits Energie verbrauchen muss. Gibt es jetzt Forschungen zum durchschnittlichen Energieverbrauch von Algorithmen mit der Rechenkomplexität ? Ich vermute, die Komplexität von hängt mit dem durchschnittlichen Energieverbrauch zusammen. Ich hoffe, ich...
Ich arbeite in einem rechnergestützten neurowissenschaftlichen Labor, das die gegenseitige Information zwischen Paaren oder Gruppen von Neuronen quantifiziert. Vor kurzem verlagerte der Chef seinen Fokus auf die Messung der "Komplexität der neuronalen Dynamik". Bei der Verfolgung dieser...
Gegeben ist ein Quantenzustand , der gleichmäßig zufällig aus einer Menge von N gemischten Zuständen ρ 1 ausgewählt wird . . . ρ N , wie hoch ist die maximale durchschnittliche Wahrscheinlichkeit, A korrekt zu identifizieren ?ρAρA\rho_ANNNρ1...ρNρ1...ρN\rho_1 ... \rho_NAAA Dieses Problem kann in...
Lassen Sie uns und eine ganze Zahl t > 0 festlegen .0<E<10<E<10 E \}{i | ci≤E}{i | ci≤E}\{ i ~|~ c_i \leq E \} Also, beweise es oder finde den Fehler! Ich hoffe, dass es ein lustiges Spiel für dich sein könnte! Motivation der Frage : Angenommen, Sie haben eine Zufallsvariable , ein...
Ich suche derzeit ein Fach für eine Diplomarbeit und bin auf das Gebiet der algorithmischen Informationstheorie gestoßen. Das Feld scheint für mich sehr interessant zu sein, aber es scheint, dass alles so ist, wie es vor vielen Jahren gemacht wurde. Meine Frage ist also: Ist das Feld "lebendig"...