Abschätzung der VC-Dimension

Was ist über das folgende Problem bekannt?

Wenn eine Sammlung von Funktionen , finde eine größte Untersammlung unter der Bedingung, dass VC-Dimension für eine ganze Zahl . $C$ $f:\{0,1\}^n\rightarrow\{0,1\}$ $S \subseteq C$ $(S) \leq k$ $k$

Gibt es Näherungsalgorithmen oder Härteergebnisse für dieses Problem?

reference-request approximation-algorithms cg.comp-geom lg.learning vc-dimension Aaron Roth
quelle

Die Funktionen scheinen bei der Maximierung von | S | keine Rolle zu spielen

Suresh Venkat

Die Auswahl der Funktionen bestimmt die VC-Dimension von S. Das Problem besteht darin, eine möglichst große Klasse von Funktionen zu finden, die einer VC-Dimensionsbeschränkung unterliegen.

Aaron Roth

Aha. Übersetzt in "Geometrieland" erhalten Sie eine Sammlung von Bereichen (f fungiert als charakteristische Funktion) und möchten eine größte Untersammlung von begrenzten VC-Dimensionen.

Suresh Venkat

Das andere Problem bei der Beantwortung der Frage: Wie wird C dargestellt? Wir wissen , dass die maximal mögliche Größe

ist

von Sauer Lemma und sogar eine Funktion in Aufschreiben

erfordert

Bits.

S

$S$

O (2^{n k})

$O(2^{nk})$

C

$C$

n

$n$

Suresh Venkat

Richtig. Ich bin an Ergebnissen in jedem Repräsentationsregime interessiert. Sie könnten sich vorstellen, dass

als

Matrix, in diesem Fall Laufzeit

wäre "effizient" (obwohl nicht die Zeit

, was nötig ist, um vollständig zu prüfen, ob alle Sammlungen von

Punkten zerbrochen sind). Wenn algorithmische Ergebnisse nur mit Black-Box-Abfragezugriff auf die Funktionen in

sind, wäre dies sogar noch besser.

C

$C$

2^{n} \times | C |

$2^n\times |C|$

2^{n} \times | C |

$2^n\times |C|$

2^{n \times k}

$2^{n\times k}$

k

$k$

C

$C$

Aaron Roth

Antworten:

Edit : Das ursprüngliche Problem ist schwer zu approximieren, wenn wobei $n^{1-\epsilon}$ $k=1$ $n$ die Anzahl der Mengen bezeichnet.

Das Dual eines Hypergraphen wird erhalten, indem Scheitelpunkte mit Kanten ausgetauscht und Vorkommen beibehalten werden. Es ist einfacher, das Problem zu verstehen, wenn wir feststellen, dass ein Hypergraph die VC-Dimension 1 hat, wenn sein Dual kreuzfrei ist (für alle in mindestens eines von ist leer). $P, Q$ $A$ $P \cap Q, P \backslash Q, Q \backslash P, (P \cup Q)^c$

Durch die Dualität ist das ursprüngliche Problem (für ) äquivalent zu, wenn ein Hypergraph , um eine maximale Größe mit $k=1$ $(V, \mathcal{S})$ $U \subseteq V$ $(U, \{S \cap U \mid S \in \mathcal{S}\})$ Querfrei.

In der Tat ist dies (dual) Problem sehr schwer , auch wenn alle Sätze in haben Größe 2: dann ist es eine grafische Darstellung ist , und wir sind für eine max-size Vertex Größe , deren Untergraphen , die sich nicht alle zwei Randweg enthalten ( es ist nicht schwer zu erkennen, dass dies der einzige Weg ist, auf dem ein Kreuzungspaar entstehen kann, vorausgesetzt, der Graph hat mindestens 4 Eckpunkte. Diese Eigenschaft ist jedoch erblich und nichttrivial und daher können wir ein Ergebnis von Feige und Kogan verwenden , um die Härte zu zeigen. $\mathcal{S}$

Ursprüngliche Antwort

Das doppelte Problem für (finde eine maximale Größe so dass die doppelte VC-Dimension von höchstens 1 ist) ist innerhalb von (in einer Familie mit Mengen) schwer zu approximieren . $k=1$ $S$ $S$ $n^{1-\epsilon}$ $\Theta(n)$

Der Grund dafür ist , dass die Dual - VC-Dimension einer Familie ist 1 genau dann , wenn folgendes gilt: für alle in , mindestens eines von ist leer. (Dh VC-dim = 1 ist das Doppelte dessen, was oft als Kreuzungsfreiheit bezeichnet wird.) $A$ $P, Q$ $A$ $P \cap Q, P \backslash Q, Q \backslash P, (P \cup Q)^c$

Wir reduzieren von der unabhängigen Menge auf die Berechnung der kreuzungsfreien Unterfamilie mit maximaler Größe. Wenn ein Graph konstruiere einen Hypergraphen wobei für ein Dummy-Element . Für jeden Vertex von addieren wir die folgende Menge zu : $G=(V, E)$ $H=(X, S)$ $X = V \uplus E \uplus \{0\}$ $0$ $v$ $G$ $T_v$ $S$

{v} \cup {e ∣ e is an edge incident to v} .

$\{v\} \cup \{e \mid e \textrm{ is an edge incident to }v\}.$

$\{T_v\}_{v \in U}$ $U$ $G$

Aber für das ursprüngliche (ursprüngliche) Problem scheint ein wenig mehr Nachdenken erforderlich zu sein ... sieht interessant aus!

daveagp
quelle

Einige relevante verwandte Arbeiten: Die Schätzung der VC-Dimension selbst (geschweige denn das Auffinden einer großen Subkollektion mit begrenzter VC-Dimension) in Ihrer Darstellung ist LOGNP-vollständig (LOGNP ist NP, beschränkt auf log n Bits Nichtdeterminismus). Es gibt auch einige verwandte Arbeiten zum Schätzen und Approximieren der VC-Dimension, wenn die Darstellung des Bereichsraums kompakter ist (siehe auch die Referenzen innerhalb).

Suresh Venkat
quelle