Als «floating-point» getaggte Fragen

Wie kann ich eine Dezimalzahl (Gleitkomma) auf die nächste Ganzzahl runden? z.B 1.2 = 1 1.7 = 2

Beim Lesen von Luas Quellcode habe ich festgestellt, dass Lua a verwendet macro, um a doubleauf 32 Bit zu runden int. Ich habe das extrahiert macround es sieht so aus: union i_cast {double d; int i[2]}; #define double2int(i, d, t) \ {volatile union i_cast u; u.d = (d) + 6755399441055744.0; \ (i)...

Was ist der Unterschied zwischen einer Gleitkommaoperation mit einfacher Genauigkeit und einer Gleitkommaoperation mit doppelter Genauigkeit? Ich interessiere mich besonders für praktische Begriffe in Bezug auf Videospielkonsolen. Verfügt der Nintendo 64 beispielsweise über einen 64-Bit-Prozessor,...

Ich weiß, dass die ==Überprüfung der Gleichheit von Gleitkommavariablen kein guter Weg ist. Aber ich möchte das nur mit den folgenden Aussagen wissen: float x = ... float y = x; assert(y == x) Wird die Behauptung wahr sein, da sie von ykopiert

Wie kann man das Format für die Ausgabe einer Groupby-Operation in Pandas ändern, die eine wissenschaftliche Notation für sehr große Zahlen erzeugt? Ich weiß, wie man Zeichenfolgen in Python formatiert, aber ich bin ratlos, wenn es darum geht, sie hier anzuwenden.

Wenn ich aus Gründen der Klarheit eine Sprache verwende, die IEE 754-Floats implementiert, erkläre ich: float f0 = 0.f; float f1 = 1.f; ... und dann wieder ausdrucken, bekomme ich 0,0000 und 1,0000 - genau. IEEE 754 ist jedoch nicht in der Lage, alle Zahlen entlang der realen Linie...

Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben ( Ist die Gleitkomma-Mathematik gebrochen? ). Aber ich verstehe nicht, warum gut 4*0.1gedruckt wird 0.4, aber 3*0.1nicht, wenn beide Werte tatsächlich hässliche Dezimaldarstellungen haben: >>> 3*0.1...

Kann jemand etwas Licht ins Dunkel bringen, warum Double.MIN_VALUEnicht der Mindestwert ist, den Doppel annehmen können? Es ist ein positiver Wert, und ein Double kann natürlich negativ sein. Ich verstehe, warum es eine nützliche Zahl ist, aber es scheint ein sehr unintuitiver Name zu sein,...

Ich bemühe mich sehr, zwei Gleitkommazahlen in einem Bash-Skript zu vergleichen. Ich muss Variablen, z let num1=3.17648e-22 let num2=1.5 Jetzt möchte ich nur einen einfachen Vergleich dieser beiden Zahlen durchführen: st=`echo "$num1 < $num2" | bc` if [ $st -eq 1]; then echo -e "$num1 <...

Nein, dies ist keine weitere Frage "Warum ist (1 / 3.0) * 3! = 1" . Ich habe in letzter Zeit viel über Gleitkomma gelesen; Insbesondere, wie dieselbe Berechnung auf verschiedenen Architekturen oder Optimierungseinstellungen zu unterschiedlichen Ergebnissen führen kann . Dies ist ein Problem bei...

Der Code float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); gibt Ihnen die Ausgabe x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 Dabei steht in der dritten Ausgabezeile...

Ich habe gerade OCPJP-Fragen studiert und diesen seltsamen Code gefunden: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Als ich den Code ausführte, bekam ich: false true Wie ist die Ausgabe, falsewenn wir zwei Dinge...

Ich möchte zwei Floats in PHP vergleichen, wie in diesem Beispielcode: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } In diesem Code wird das Ergebnis der elseBedingung anstelle der ifBedingung zurückgegeben, obwohl $aund...

Ich weiß, dass die 0.1Dezimalzahl nicht exakt mit einer endlichen Binärzahl dargestellt werden kann ( Erklärung ), daher double n = 0.1verliert sie an Genauigkeit und ist nicht genau 0.1. Andererseits 0.5kann genau dargestellt werden, weil es ist 0.5 = 1/2 = 0.1b. Trotzdem ist es verständlich, dass...

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Der obige Code wird gedruckt: 11.399999999999 Wie würde ich dies dazu bringen, nur 11.4 zu drucken (oder als verwenden zu...

Hier ist mein Code: x = 1.0 y = 100000.0 print x/y Mein Quotient wird als angezeigt 1.00000e-05. Gibt es eine Möglichkeit, die wissenschaftliche Notation zu unterdrücken und als anzuzeigen 0.00001? Ich werde das Ergebnis als Zeichenfolge

Ich verstehe gcc's --ffast-math Flag von Geschwindigkeit für Float-Ops erheblich erhöhen kann und außerhalb der IEEE-Standards liegt, aber ich kann anscheinend keine Informationen darüber finden, was wirklich passiert, wenn es eingeschaltet ist. Kann jemand bitte einige Details erklären und...

Ich habe beispielsweise eine Gleitkommazahl 135.12345678910. Ich möchte diesen Wert mit einer Zeichenfolge verknüpfen, möchte aber nur 135.123456789. Mit print kann ich dies einfach tun, indem ich Folgendes mache: print "%.9f" % numvar mit numvarmeiner ursprünglichen Nummer zu sein. Gibt es eine...

Ich habe eine Funktion, die Float-Argumente verwendet (im Allgemeinen Ganzzahlen oder Dezimalstellen mit einer signifikanten Ziffer), und ich muss die Werte in einer Zeichenfolge mit zwei Dezimalstellen (5 -> 5,00, 5,5 -> 5,50 usw.) ausgeben. Wie kann ich das in Python

Ich weiß, die Frage scheint seltsam zu sein. Programmierer denken manchmal zu viel. Bitte lesen Sie weiter ... In CI verwenden signedund unsignedganze Zahlen viel. Ich mag die Tatsache, dass der Compiler mich warnt, wenn ich einer vorzeichenlosen Variablen eine vorzeichenbehaftete Ganzzahl zuweise....