Ich weiß, dass Sie sich normalerweise nicht auf die Gleichheit zwischen Doppel- oder Dezimalwerten verlassen können, aber ich frage mich, ob 0 ein Sonderfall ist. Während ich Ungenauigkeiten zwischen 0,00000000000001 und 0,00000000000002 verstehen kann, scheint 0 selbst ziemlich schwer zu...
Ich verwende das Standard- JSON-Modul in Python 2.6, um eine Liste von Floats zu serialisieren. Ich erhalte jedoch folgende Ergebnisse: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Ich möchte, dass die...
Ich mache einige leistungskritische Arbeiten in C ++ und wir verwenden derzeit ganzzahlige Berechnungen für Probleme, die von Natur aus Gleitkommawerte sind, weil "es schneller ist". Dies verursacht eine Menge nerviger Probleme und fügt viel nervigen Code hinzu. Jetzt erinnere ich mich, dass ich...
Wenn ich C-Code mit meiner Cross-Toolchain kompiliere, druckt der Linker Seiten mit Warnungen, die besagen, dass meine ausführbare Datei Hard Floats verwendet, meine Libc jedoch Soft Floats. Was ist der
Fall 1: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0.0)<<std::endl; } Es wird ohne Warnungen kompiliert und gedruckt inf. OK, C ++ kann die Division durch Null verarbeiten ( siehe live ). Aber, Fall 2: #include <iostream> int main() { double...
Ich habe einen primitiven Float und ich brauche als primitiven Double. Wenn ich den Schwimmer einfach verdopple, bekomme ich seltsame zusätzliche Präzision. Beispielsweise: float temp = 14009.35F; System.out.println(Float.toString(temp)); // Prints 14009.35
Ich habe über Gleitkomma gelesen und verstehe, dass NaN aus Operationen resultieren kann. Aber ich kann nicht genau verstehen, was das für Konzepte sind. Was ist der Unterschied zwischen ihnen? Welches kann während der C ++ - Programmierung erzeugt werden? Könnte ich als Programmierer ein Programm...
Angenommen, der Engpass meines Java-Programms besteht in einigen engen Schleifen, um eine Reihe von Vektorpunktprodukten zu berechnen. Ja, ich habe ein Profil erstellt, ja, es ist der Engpass, ja, es ist signifikant, ja, so ist der Algorithmus, ja, ich habe Proguard ausgeführt, um den Bytecode zu...
Ich habe eine Liste von Schwimmern. Wenn ich es einfach printmache, zeigt es sich so: [9.0, 0.052999999999999999, 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006] Ich könnte verwenden print "%.2f", was eine forSchleife erfordern würde , um die Liste zu...
Das ist etwas, woran ich seit Jahren denke, aber ich habe mir nie die Zeit genommen, danach zu fragen. Viele (Pseudo-) Zufallszahlengeneratoren erzeugen eine Zufallszahl zwischen 0,0 und 1,0. Mathematisch gesehen gibt es in diesem Bereich unendlich viele Zahlen, die jedoch doubleeine Gleitkommazahl...
Ich entwickle einige technische Simulationen. Dies beinhaltet die Implementierung einiger langer Gleichungen wie dieser Gleichung, um die Spannung in einem gummiartigen Material zu berechnen: T = ( mu * ( pow(l1 * pow(l1 * l2 * l3, -0.1e1 / 0.3e1), a) * a * ( pow(l1 * l2 * l3, -0.1e1 / 0.3e1) - l1...
Ich versuche, Dezimalzahlen auf Dezimalstellen zu kürzen. Etwas wie das: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)macht genau das Richtige, aber es rundet den Wert ab. Ich brauche den Wert nicht abgerundet. Hoffe das ist in Javascript möglich.
Gibt es eine pythonische Möglichkeit, eine Zahl 1234.5678in zwei Teile aufzuteilen, (1234, 0.5678)dh den ganzzahligen Teil und den dezimalen Teil?
Ich habe versucht herauszufinden, wo floatdie Fähigkeit verloren geht, große Ganzzahlen genau darzustellen. Also habe ich diesen kleinen Ausschnitt geschrieben: int main() { for (int i=0; ; i++) { if ((float)i!=i) { return i; } } } Dieser Code scheint mit allen Compilern außer clang zu...
In den Headern stdint.h(C99), boost / cstdint.hpp und cstdint(C ++ 0x) gibt es unter anderem den Typ int32_t. Gibt es ähnliche Gleitkommatypen mit fester Größe? So etwas wie
Ich versuche eine einfache Unterteilung in Go durchzuführen. fmt.Println(3/10) Dies gibt 0 statt 0,3 aus. Das ist irgendwie komisch. Könnte jemand bitte mitteilen, was der Grund dafür ist? Ich möchte verschiedene arithmetische Operationen in Go ausführen. Vielen Dank
Ich mache ein Programm, das aus Gründen, die nicht erklärt werden müssen, erfordert, dass ein Float in einen String konvertiert wird, der mit len () gezählt wird. Str (float (x)) führt jedoch dazu, dass x gerundet wird, wenn es in einen String konvertiert wird, der das Ganze abwirft. Kennt jemand...
Gibt es eine Möglichkeit, programmgesteuert das Double zu erhalten, das 1.0 am nächsten kommt, aber nicht 1.0 ist? Ein hackiger Weg, dies zu tun, wäre, das Double auf eine gleich große Ganzzahl zu speichern und dann eine zu subtrahieren. So wie IEEE754-Gleitkommaformate funktionieren, würde dies...
Wie konvertiert man einen Float in eine Zeichenfolge in C ++, während man die Genauigkeit und Anzahl der Dezimalstellen angibt? Beispielsweise: 3.14159265359 -> "3.14"
Ich habe eine Zeichenfolge, die einen Dezimalwert enthält, und ich muss diese Zeichenfolge in eine Gleitkommavariable konvertieren. Ein Beispiel für die Zeichenfolge, die ich habe, ist "5.45", und ich möchte ein Gleitkommaäquivalent, damit ich .1 hinzufügen kann. Ich habe im Internet gesucht,...