Was bedeutet "hochgradig nichtlinear"?

27

Ich lese oft über eine Funktion, die "hochgradig nicht linear" ist. Meines Erachtens gibt es "linear" und "nichtlinear". Worum geht es also bei diesem "Hoch"? Gibt es einen formalen Unterschied zu nichtlinearen? Wie ist es definiert?

terminology nonlinear mathematical-statistics Toby El Tejedor
quelle

8

Informell: "Erwarten Sie nicht, Änderungen in der Eingabe einfach auf Änderungen in der Ausgabe abbilden zu können."

Keshlam

2

Hast du das in einem Artikel über Deep Learning gelesen? Eine hochgradig nichtlineare Funktionsapproximation ist eine der Motivationen für tiefes Lernen, da es für ein flaches Netzwerk schwierig ist, die Art von Dingen zu modellieren, die Joe in seiner Antwort beschreibt.

Neil G

1

Ich würde sagen, es hängt davon ab, wo Sie es lesen. Wenn dies von mathematisch versierten Leuten geschrieben wird, dann könnte es bedeuten, welche Antworten hier (bis jetzt) zur Verfügung stehen. Wenn es von einem Praktiker wie einem Arzt oder einem Biologen geschrieben wurde, könnte dies bedeuten, dass die Beziehung nicht gerade, sondern stark gekrümmt ist. Meiner Erfahrung nach meinen die meisten Leute, dass lineare Regression bedeutet, Daten mit geraden Linien zu versehen, was ein Teil der Quelle der Verwirrung sein könnte.

Roman Luštrik

Nein, ich habe @NeilG nicht.

Toby El Tejedor

1

Es ist kein einzeln definierter Begriff - ein Physiker wird tendenziell eine ganz andere Bedeutung als ein Kryptograf annehmen. Ohne mehr Kontext kann diese Frage nicht richtig beantwortet werden - wir würden den Kontext erraten (oder wir müssten jeden einzelnen berücksichtigen).

Glen_b -Reinstate Monica

44

Ich glaube nicht, dass es eine formale Definition gibt. Ich habe den Eindruck, dass dies einfach bedeutet, dass es nicht nur nicht linear ist, sondern dass der Versuch, es mit einer linearen Näherung zu modellieren, keine vernünftigen Ergebnisse liefert und sogar zu Instabilitäten bei der Anpassungsmethode führen kann. Jemand kann es auch verwenden, um einfach zu bedeuten, dass kleine Eingabeänderungen zu uninteressanten großen Ausgabeänderungen führen können.

Wayne
quelle

2

(+1) für das Anbieten eines sehr vernünftigen Kriteriums / Inhalts für "hochgradig nichtlinear" (diese lineare Annäherung kann die Sache verschlimmern).

Alecos Papadopoulos

16

Formal kann man sagen, dass sich die zweite Ableitung erheblich von Null unterscheidet. Wenn 0 eine "vernünftige" Annäherung an die zweite Ableitung über den interessierenden Bereich darstellt, ist dies nahezu linear. Wenn dies nicht der Fall ist, werden die nichtlinearen Effekte für die Erfassung sehr wichtig.

Ich habe selten gehört, dass Begriffe wie dieser für relativ einfache Polynome gelten, und im praktischen Gebrauch scheint er für divergierende dynamische Systeme (chaostheoretische Art von Dingen) oder für sehr ungleichmäßige Funktionen (bei denen Ableitungen höherer Ordnung ungleich Null sind) zu gelten ).

Joe
quelle

3

Übrigens ist "glatt" wirklich ein Fachbegriff, was bedeutet, dass jedes Derivat existiert. x -> e^xist glatt, obwohl seine Ableitungen aller Ordnungen überall ungleich Null sind :-)

Steve Jessop

10

Der wichtige Aspekt, der in den anderen ausgezeichneten Antworten fehlt, ist die Domäne . Eg, ist , $f(x)=x^2$

stark nichtlinear bei aber $[-10;10]$
nicht auf jeder Hälfte der Domäne (dh auf beiden und kann möglicherweise eine lineare Approximation von ohne eine unmittelbare Katastrophe verwendet werden). $[-10;0]$ $[0;10]$ $f$

Ein weiteres Beispiel ist , das ist $f(x)=x^3-x$

stark nichtlinear bei aber $[-1;1]$
nicht in der größeren Domäne $[-10;;10]$

sds
quelle

Ich bin nicht einverstanden mit

. Sie ist um 0 immer stark nichtlinear. Betrachten Sie

, wobei

. Wie ist das linear zu dir? Es hat nicht einmal einen linearen Term (offensichtlich), es kann überhaupt nicht linear angenähert werden.

x^{2}

$x^2$

x = [0.1, 0.2, 0.3]

$x =[0.1,0.2,0.3]$

f (x) = [0.01, 0.04, 0.09]

$f(x)=[0.01,0.04,0.09]$

Aksakal

3

@Aksakal: Die Funktion ist sicherlich nicht linear (nirgends), aber wie gesagt, "man kann möglicherweise eine lineare Approximation von f ohne eine unmittelbare Katastrophe verwenden"

sds

1

Jede Funktion kann durch eine Linie approximiert werden, es ist nur eine Frage, wie schlecht die Approximation ist. Und in x \ in [0, 0.5] ist der Fehler nicht so schlimm.

Joe

8

Wie bereits erwähnt, gibt es meiner Meinung nach keine formale Definition. Ich würde es als eine Funktion definieren, die im typischen Störungsbereich des Arguments nicht linear angenähert werden kann. Zum Beispiel haben Sie und . Wenn dann die Approximation zusammenbricht, dann ist sie stark nichtlinear. Zum Beispiel $y=f(x)$ $\sigma^2=var[x]$ $f(x+\sigma)\approx f(x)+f'(x)\sigma$ wärehohem Maße nicht-linear seinfür jeden um Null, weil seine TaylorReihe ist . $f(x)=exp(x^2)$ $x$ $1+x^2+x^4/2+O(x^5)$

Aksakal
quelle

1

Informell ... "hochgradig nichtlinear" bedeutet "selbst ein Blinder kann sehen, dass es keine gerade Linie ist!" ;) Persönlich nehme ich es als Gefahrenzeichen, dass es bei Verwendung mit Beispielen aus der Praxis irgendwie "in die Luft jagt".

Der Turm von Hanoi könnte als Beispiel für eine höchst nichtlineare Architektur bezeichnet werden. Die Legende besagt, dass die Welt untergehen wird, wenn die Mönche einen Stapel mit 64 Platten fertig stellen. Wenn Sie die Gesamtzeit für Training, Fütterung, Unterbringung und Motivation für die Unterstützung einer undankbaren, langweiligen, sinnlosen generationenübergreifenden Aufgabe zählen, würde ich erwarten, dass die Gesamtkosten in Mannstunden wirklich wegfallen!

iheggie
quelle

1

Als professioneller Mathematiker kann ich bestätigen, dass "hoch nichtlinear" kein mathematisch genau definierter Begriff ist. :)

Und nichts von "hoch alles", was ich mir vorstellen kann.

Nichtlinear ist genau und entgegengesetzt zu linear (offensichtlich).

Aber linear kommt in zwei verschiedenen Bedeutungen vor:

$f(x) = ax+b$
$f(x) = ax$ $b$

$(ax + b)$

Dmitri Zaitsev
quelle

1

Bisher ist dies die einzige Antwort, der ich zustimmen werde;) (+1) für Oldschool sein!

Raaja

Was bedeutet "hochgradig nichtlinear"?

Antworten: