Wann sollten log1p und expm1 verwendet werden?

Ich habe eine einfache Frage, die für Google wirklich schwierig ist (neben der kanonischen, was jeder Informatiker über Gleitkomma-Arithmetik wissen sollte ).

Wann sollten Funktionen wie log1poder expm1anstelle von logund verwendet werden exp? Wann sollten sie nicht verwendet werden? Wie unterscheiden sich die verschiedenen Implementierungen dieser Funktionen hinsichtlich ihrer Verwendung?

floating-point Tim
quelle

Willkommen bei Scicomp.SE! Das ist eine sehr vernünftige Frage, die sich jedoch leichter beantworten lässt, wenn Sie ein wenig erläutern, auf das log1p Sie sich beziehen (insbesondere wie es implementiert ist, damit wir nicht raten müssen).

Christian Clason

Für reelle Argumente sollten log1p

und expm1

verwendet werden, wenn

klein ist, z. B. wenn

in der Gleitkommagenauigkeit. Siehe z. B. docs.scipy.org/doc/numpy/reference/generated/numpy.expm1.html und docs.scipy.org/doc/numpy/reference/generated/numpy.log1p.html .

(x)

$(x)$

(x)

$(x)$

x

$x$

1 + x = 1

$1 + x = 1$

GoHokies

@ChristianClason danke, ich beziehe mich hauptsächlich auf C ++ std oder R, aber wenn du fragst, beginne ich zu denken, dass es auch sehr interessant wäre, etwas über Unterschiede in den Implementierungen zu lernen.

Tim

Hier ist ein Beispiel: scicomp.stackexchange.com/questions/8371/…

Juan M. Bello-Rivas

@ user2186862 "wenn

klein ist" ist korrekt, aber nicht nur "wenn

in Gleitkommagenauigkeit" (was für

in der üblichen Arithmetik mit doppelter Genauigkeit vorkommt). Die von Ihnen verlinkten Dokumentationsseiten zeigen, dass sie beispielsweise bereits für

nützlich sind .

x

$x$

1 + x = 1

$1+x=1$

x \approx 10^{- 16}

$x\approx 10^{-16}$

x \approx 10^{- 10}

$x\approx 10^{-10}$

Federico Poloni

Antworten:

\exp (x) = \sum_{n = 0}^{\infty} \frac{x^{n}}{n!} = 1 + x + \frac{1}{2} x^{2} + \dots

$\begin{equation} \exp(x) = \sum_{n=0}^\infty \frac{x^n}{n!} = 1 + x + \frac12 x^2 + \dots \end{equation}$

| x | ≪ 1

$|x| \ll 1$

\exp (x) \approx 1 + x

$\exp(x) \approx 1 + x$

\exp (x) - 1

$\exp(x) -1$

| x | ≪ 1

$|x| \ll 1$

Dies kann leicht in Python demonstriert werden:

>>> from math import (exp, expm1)

>>> x = 1e-8
>>> exp(x) - 1
9.99999993922529e-09
>>> expm1(x)
1.0000000050000001e-08

>>> x = 1e-22
>>> exp(x) - 1
0.0
>>> expm1(x)
1e-22

\begin{aligned} \exp (10^{- 8}) - 1 & = 0.000000010000000050000000166666667083333334166666668 \dots \\ \exp (10^{- 22}) - 1 & = 0.000000000000000000000100000000000000000000005000000 \dots \end{aligned}

$\begin{align} \exp(10^{-8}) -1 &= 0.000000010000000050000000166666667083333334166666668 \dots \\ \exp(10^{-22})-1 &= 0.000000000000000000000100000000000000000000005000000 \dots \end{align}$

Im Allgemeinen sollte eine "genaue" Implementierung von expund expm1auf nicht mehr als 1ULP (dh eine Einheit des letzten Platzes) korrekt sein. Da das Erreichen dieser Genauigkeit jedoch zu einem "langsamen" Code führt, ist manchmal eine schnelle, weniger genaue Implementierung verfügbar. Zum Beispiel in CUDA haben wir expfund expm1f, wo fsteht für schnell. Laut dem CUDA C-Programmierhandbuch, App. D das expfhat einen Fehler von 2ULP.

Wenn Sie sich nicht um Fehler in der Größenordnung weniger ULPS kümmern, sind in der Regel unterschiedliche Implementierungen der Exponentialfunktion gleichwertig. Beachten Sie jedoch, dass Fehler möglicherweise irgendwo versteckt sind ... (Denken Sie an den Pentium FDIV-Fehler ?)

expm1 $\exp(x)-1$ $x$ $x$ expm1

>>> exp(200)-1 == exp(200) == expm1(200)
True

$1$ $\exp(200)$

loglog1p $\log(1+x) \approx x$ $|x| \ll 1$

Stefano M
quelle

Diese Antwort war bereits in den Kommentaren zur OP-Frage enthalten. Ich fand es jedoch nützlich, nur aus Gründen der Klarheit einen längeren (wenn auch einfachen) Bericht zu geben, in der Hoffnung, dass er einigen Lesern nützlich sein wird.

Stefano M

OK, aber dann kann man einfach schließen, "damit ich immer expm1 anstelle von exp verwenden kann" ...

Tim

@tim Ihre Schlussfolgerung ist falsch: Sie können immer expm1(x)anstelle von verwenden exp(x)-1. Gilt natürlich exp(x) == exp(x) - 1generell nicht.

Stefano M

x ≪ 1

$x \ll 1$

expm1(x)

0 \leq x \leq 1

$0\leq x \leq 1$ exp(x) - 1

x \approx 1

$x\approx 1$

x < ϵ

$x < \epsilon$

ϵ

$\epsilon$

Um den Unterschied zwischen logund zu erweitern, kann log1pes hilfreich sein, den Graphen wieder aufzurufen, wenn der Logarithmus:

log $x$ $0$ $\ln(x)$ $- \infty$ $x$ $0$ $\ln(x)$ $\ln(\frac{1}{e}) = -1$ $\ln(\frac{1}{e^{10}}) = -10$

$x$ $0$ $\ln(x+1)$ $0$ $\ln(1+\frac{1}{e}) \sim 0.31$ $\ln(1+\frac{1}{e^{10}}) \sim 0.000045$ log1p

$1$ log $0$ $1$ log1p

sfmiller940
quelle