Gleichzeitige Maximierung zweier Funktionen ohne verfügbare Ableitungen

Ich habe zwei Variablen kund tals Funktionen von zwei anderen Variablen p1und p2. Ich kenne auch ihre Maximalwerte. Ich habe keinen analytischen Ausdruck dafür. Ich möchte die Werte von kund tfinden, die ihren Maximalwerten am nächsten kommen.

Gibt es eine Möglichkeit, das k = f1(p1, p2)und zu optimieren t = f2(p1, p2)?

Ich kann versuchen, das Produkt k0 * t0oder das Produkt der Quadrate k0^2 * t0^2oder eine andere Beziehung der beiden zu überprüfen .

Ist das effizient und welchen Weg?

Vielen Dank.

Hier gibt es zwei Probleme:

1. Ihr Optimierungsproblem hat zwei konkurrierende Ziele: Maximieren von und Maximieren von . Dies wird als Optimierung mit mehreren Zielen (oder mehreren Kriterien ) bezeichnet, und solche Probleme haben eine unendliche Anzahl von Lösungen, die jeweils auf einer spezifischen Wahl des relativen Gewichts der Ziele basieren (dh ist es wichtiger, dass nahe beieinander liegt auf den Maximalwert als für ?). Wenn beide für Sie die gleiche Bedeutung haben, können Sie einfach die Funktion minimieren wobei und sind die bekannten Maximalwerte von$k=f_1(p_1,p_2)$$t = f_2(p_1,p_2)$$f_1$$f_2$

   $$F(p_1,p_2) = (f_1(p_1,p_2)-K)^2 + (f_2(p_1,p_2)-T)^2,$$ $K$$T$$k$bzw. . Andernfalls würden Sie vor jedem Begriff ein entsprechendes Gewicht hinzufügen. (Wenn die nicht bekannt , würden Sie stattdessen minimieren .)$t$$-f_1^2-f_2^2$

2. Um einen Minimierer von , können Sie nur Funktionswerte von an einem bestimmten Punkt . Dies ist als derivatfreie Optimierung bekannt. siehe z. B. Einführung in die derivatfreie Optimierung von Conn, Scheinberg und Vicente oder Kapitel 9 in Numerische Optimierung . Die meisten von ihnen verwenden ungefähre Ableitungen, die auf endlichen Differenzen basieren, oder Ableitungen von Interpolationsfunktionen. Da eine Funktion von nur zwei Variablen ist, ist es nicht zu teuer (oder instabil), endliche Differenznäherungen des vollständigen Hessischen zu erstellen. Die Idee ist folgende: Wenn ein Punkt , konstruieren Sie ein lokales quadratisches Modell $F$$F$$(p_1,p_2)$$F$$p^k=(p_1^k,p_2^k)$

   $$m_k(p^k + d) = F(p^k) + (g^k)^T d + \frac{1}{2} d^TH^kd,$$ berechne seinen Minimierer und setze . Hier für ein kleines (aber nicht zu kleines, siehe unten) , mit und ist der ungefähre Gradient und ist eine Taylor-Näherung des Hessischen. Dies erfordert die Bewertung von$d^k$$p^{k+1} = p^k+d^k$$\epsilon>0$ $$g^k = (g_1,g_2)^T,\quad g_i = \frac{F(p^k+\epsilon e_i)-F(p^k-\epsilon e_i)}{2\epsilon}$$ $e_1 = (1,0)^T$$e_2 = (0,1)^T$ $$H^k = \begin{pmatrix}h_{11}&h_{12}\\h_{21}&h_{22}\end{pmatrix}, \quad h_{ij} = \frac{F(p^k+\epsilon e_i + \epsilon e_j) - F(p^k + \epsilon e_i) - F(p^k+\epsilon e_j) + F(p^k)}{\epsilon^2}$$ $F$ an 5 zusätzlichen Punkten in jeder Iteration.

   Ein wichtiges Problem bei jeder Finite-Differenzen-Approximation ist die Wahl von : Wenn es zu groß ist, haben Sie eine schlechte Approximation der Ableitung; Wenn es zu klein ist, besteht die Gefahr einer Stornierung und damit einer numerischen Instabilität. Eine gute Faustregel ist, , wobei die Einheitsrundung ist (ungefähr für doppelte Genauigkeit).$\epsilon$$\epsilon = {u}^{1/3}$$u$$10^{-16}$

   In der Praxis möchten Sie dies mit einer Trust-Region-Strategie kombinieren, bei der Sie benötigen, um in einen Ball zu gelangen, dessen Radius Sie während der Iteration anpassen (siehe die oben genannten Bücher).$d^k$

   Einen Vergleich von Algorithmen und Implementierungen zur derivatfreien Optimierung finden Sie auf dieser Webseite , die dem Artikel "Derivatfreie Optimierung: Ein Überblick über Algorithmen und ein Vergleich von Softwareimplementierungen" von Luis Miguel Rios und Nikolaos V. Sahinidis beigefügt ist

Bei der Mehrzieloptimierung gibt es viele Möglichkeiten, die Zielvariablen in Ihrer Analyse zu kombinieren / zu vergleichen. Das Problem ist, dass es keinen "richtigen" Weg gibt, dies zu tun. Es hängt ganz davon ab, was das Problem tatsächlich ist und was die Variablen darstellen. Ihre beste Wette ist wahrscheinlich, etwas wie zu maximieren, wobei ein beliebiger positiver Wert ist. Wenn Sie eine Antwort erhalten haben, prüfen Sie, ob Ihnen das resultierende und gefällt , und ändern Sie nach Bedarf, bis Sie eine Lösung gefunden haben, mit der Sie zufrieden sind.a k t $k+a*t$$a$$k$$t$$a$

Was die eigentliche Optimierung betrifft, ist es nicht das Ende der Welt, keinen analytischen Ausdruck für die Funktionen zu haben, aber keine Informationen zu haben, wird es schwierig machen. Wenn Sie ein gewisses Maß an Glätte / Kontinuität annehmen können, auch wenn es nur stückweise ist, können Sie einen Wurzelfindungsalgorithmus für eine abgeleitete Näherung verwenden, um lokale Maxima zu finden (es gibt viel ausgefeiltere Methoden als diese, aber ich bin nicht vertraut damit andere Leute hier könnten Sie wahrscheinlich in die richtige Richtung weisen). Wenn Sie Konvexität herstellen können, können Sie diese auf globale Optimalität ausweiten.

Eine echte Black-Box-Mehrzieloptimierung ist nicht gerade ein einfaches Problem, aber ein paar Annahmen und ein iterativer Prozess mit einer objektiven Reduzierung sollten Ihnen eine akzeptable Antwort geben (vorausgesetzt, es gibt eine).