Kolmogorov Komplexität: Warum brauchen Sie mehr Bytes als die Zeichenkette selbst?

Ich habe den Wikipedia-Eintrag zu Kolmogorov Complexity gelesen ( dank dieser Frage ), in dem es heißt:

Es kann gezeigt werden, dass die Kolmogorov-Komplexität eines Strings nicht mehr als ein paar Bytes größer sein kann als die Länge des Strings.

Warum brauchst du jemals mehr als die Zeichenkette selbst, um es zu beschreiben?

Der genaue Wert der Kolmogorov-Komplexität hängt von der Sprache ab, die für die Darstellung von Zeichenfolgen ausgewählt wurde. Diese Sprache muss vollständig sein, sodass es keine Option ist, alle Zeichenfolgen als solche darzustellen.

Nach dem Pigeonhole-Prinzip gibt es, wenn es mindestens eine Kette von höchstens Länge gibt, deren Darstellung kürzer als sich selbst ist, auch mindestens eine Kette von höchstens n Länge, deren Darstellung länger als sich selbst ist. (Die Darstellung ist ein Kompressionsalgorithmus.)$n$$n$

Sie können eine Beschreibungssprache haben, in der jede Zeichenfolge eine Darstellung hat, die höchstens ein Bit länger ist als sie selbst: Beginnen Sie jede Darstellung mit einem Bit, das entweder "buchstäblich drucken" oder "interpretieren" anzeigt. Nicht alle Beschreibungssprachen sind so einfach.

$C$$C$

Die hier betrachtete Beschreibung einer Saite ist eine Eingabe für eine universelle Turingmaschine. Sie können sich das als C-Programm vorstellen. Die Zeichenfolge hello worldnicht, von selbst, bildet ein C - Programm, aber die folgenden tut: int main(int argc, char *argv[]) { printf("hello world"); }. Wie Sie sehen, ist der Overhead konstant, aber nicht Null.