Grundlegendes zu den Wolfe-Bedingungen für eine ungenaue Liniensuche

Nach Nocedal & Wrights Buch Numerical Optimization (2006) sind die Wolfe-Bedingungen für eine ungenaue Liniensuche für eine Abstiegsrichtung $p$ :

Ausreichende Abnahme: Curvature Zustand: für $f(x+\alpha p)\le f(x)+c_1\alpha_k\nabla f(x)^T p$
$\nabla f(x+\alpha p)^Tp\ge c_2 \nabla f(x)^T p$
$0<c_1<c_2<1$

Ich kann sehen, wie die Bedingung der ausreichenden Abnahme besagt, dass der Funktionswert am neuen Punkt unter der Tangente bei . Aber ich bin nicht sicher, was der Krümmungszustand mir geometrisch sagt. Warum muss auch die Beziehung auferlegt werden? Was leistet dies geometrisch? $x+\alpha p$ $x$ $c_1<c_2$

optimization Paul
quelle

Antworten:

$\nabla f(x)\cdot p < 0$ $p$ $p$ $\nabla f=0$ $x+\alpha p$ $p$ $\nabla f(x+\alpha p) \cdot p$ ist immer noch so negativ wie bei x. Vielmehr wollen wir an einer Stelle anhalten, an der der Gradient weniger negativ oder sogar positiv ist.

| \nabla f (x + α p) \cdot p | \leq c_{2} | \nabla f (x) \cdot p |

$|\nabla f(x+\alpha p) \cdot p| \le c_2 |\nabla f(x) \cdot p|$

$c_1<c_2$ .

Wolfgang Bangerth
quelle

So, no matter what smooth function

f

$f$ Ich wähle, Einstellung

c_{2} < c_{1}

$c_2<c_1$ wird entweder die ausreichende Abnahme- oder die Krümmungsbedingung nicht erfüllt?

Paul

Nein, anders herum. Wenn du wählst

c_{2} < c_{1}

$c_2<c_1$ dann gibt es funktionen

f (x)

$f(x)$ wenn eine der beiden Bedingungen nicht erfüllt ist, obwohl Sie eine Abstiegsrichtung haben. In einem solchen Fall würde die Zeilensuche keine Schrittlänge finden.

Wolfgang Bangerth