Overа этот вопрос есть ответы на Stapelüberlauf на русском : Вычисления на числах с плавающей точкой не работают Betrachten Sie den folgenden Code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum treten diese Ungenauigkeiten...
Ich kenne UIKitVerwendungen CGFloatwegen des auflösungsunabhängigen Koordinatensystems. Aber jedes Mal , möchte ich , wenn beispielsweise überprüfen , frame.origin.xist 0es macht mich krank: if (theView.frame.origin.x == 0) { // do important operation } Ist das nicht CGFloatanfällig für Fehlalarme...
Der folgende Code ist offensichtlich falsch. Was ist das Problem? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal
Laut dieser java.sun-Seite == ist der Gleichheitsvergleichsoperator für Gleitkommazahlen in Java. Wenn ich jedoch diesen Code eingebe: if(sectionID == currentSectionID) In meinem Editor und bei der statischen Analyse wird Folgendes angezeigt: "JAVA0078 Gleitkommawerte im Vergleich zu ==" Was...
Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben ( Ist die Gleitkomma-Mathematik gebrochen? ). Aber ich verstehe nicht, warum gut 4*0.1gedruckt wird 0.4, aber 3*0.1nicht, wenn beide Werte tatsächlich hässliche Dezimaldarstellungen haben: >>> 3*0.1...
Ist es im folgenden Beispiel möglich, eine Division durch 0 (oder unendlich) zu erhalten? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Im Normalfall wird dies natürlich nicht der Fall sein. Was aber, wenn aund bsehr nahe...
Ich versuche, Dezimalzahlen auf Dezimalstellen zu kürzen. Etwas wie das: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)macht genau das Richtige, aber es rundet den Wert ab. Ich brauche den Wert nicht abgerundet. Hoffe das ist in Javascript möglich.
Gibt es eine Möglichkeit, programmgesteuert das Double zu erhalten, das 1.0 am nächsten kommt, aber nicht 1.0 ist? Ein hackiger Weg, dies zu tun, wäre, das Double auf eine gleich große Ganzzahl zu speichern und dann eine zu subtrahieren. So wie IEEE754-Gleitkommaformate funktionieren, würde dies...
assert(0.1 + 0.2 != 0.3); // shall be true ist meine Lieblingsprüfung, dass eine Sprache native Gleitkomma-Arithmetik verwendet. C ++ #include <cstdio> int main() { printf("%d\n", (0.1 + 0.2 != 0.3)); return 0; } Ausgabe: 1 http://ideone.com/ErBMd Python print(0.1 + 0.2 != 0.3) Ausgabe: True...
Bei meiner Frage geht es nicht um schwebende Präzision. Es geht darum, warum Equals()anders ist als ==. Ich verstehe warum .1f + .2f == .3fist false(während .1m + .2m == .3mist true). Ich verstehe, das ==ist Referenz und .Equals()ist Wertvergleich. ( Bearbeiten : Ich weiß, dass mehr dahinter...