Mir ist bewusst, dass Gleitkomma-Arithmetik Präzisionsprobleme hat. Normalerweise überwinde ich sie, indem ich zu einer festen Dezimaldarstellung der Zahl wechsle oder einfach den Fehler vernachlässige. Ich weiß jedoch nicht, was die Ursachen für diese Ungenauigkeit sind. Warum gibt es so viele...
Programmiersprachen wie Schema (R5RS) und Python ( siehe diese Frage ) runden auf die nächste gerade Ganzzahl ab, wenn der Wert genau zwischen den umgebenden Ganzzahlen liegt. Was ist die Begründung dafür? Gibt es eine mathematische Idee, die es einfacher macht, über folgende Berechnungen...
Bei der Untersuchung der Genauigkeit von Gleitkommazahlen habe ich an einigen Stellen eine ähnliche Aussage gesehen " float und double sind ( für / verwendet oft in ) Ingenieurwesen und wissenschaftliche Berechnung " Nach meinem Verständnis ist die Stärke von Floats und Doubles die Menge an...
Computer haben Probleme beim Speichern von Bruchzahlen, bei denen der Nenner keine Lösung für 2 ^ x ist. Dies liegt daran, dass die erste Stelle nach der Dezimalstelle 1/2, die zweite 1/4 (oder 1 / (2 ^ 1) und 1 / (2 ^ 2)) usw. wert ist. Warum mit allen möglichen Rundungsfehlern umgehen, wenn der...
Beim Erstellen einer Anwendung, die sich mit vielen mathematischen Berechnungen befasst, bin ich auf das Problem gestoßen, dass bestimmte Zahlen Rundungsfehler verursachen. Ich verstehe zwar, dass Fließkommazahlen nicht exakt sind , aber das Problem besteht darin, wie ich mit exakten Zahlen umgehe,...
Ich versuche darüber nachzudenken, wie ich mit extrem großen Zahlen rechnen würde (bis unendlich - keine Fließkommazahlen), wenn das Sprachkonstrukt keine Zahlen verarbeiten kann, die größer als ein bestimmter Wert sind. Ich bin sicher, dass ich nicht der Erste oder der Letzte bin, der diese...
In der Numerik ist es sehr wichtig, instabile Schemata zu identifizieren und ihre Stabilität zu verbessern. Wie identifiziere ich instabile Gleitkommaberechnungen? Ich arbeite an einer sehr komplexen Simulation, bei der viele numerische Schemata zusammenarbeiten, und suche nach einer Methode, um...
Während eines anderen Programmierers Überprüfung Implementierung einer Funktion der Normalverteilung CDF zu berechnen , habe ich einen Vorschlag , um entweder die gesamte Implementierung mit Python eingebauten Funktionen oder verwenden SciPy, eine gemeinsame wissenschaftliche Bibliothek...