Als «floating-point» getaggte Fragen

Overа этот вопрос есть ответы на Stapelüberlauf на русском : Вычисления на числах с плавающей точкой не работают Betrachten Sie den folgenden Code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum treten diese Ungenauigkeiten...

Wie kann ich in Python eine numerische Zeichenfolge "545.2222"auf den entsprechenden Gleitkommawert analysieren 545.2222? Oder analysieren Sie die Zeichenfolge "31"auf eine Ganzzahl 31? Ich möchte nur wissen, wie man einen Float str zu einem floatund (separat) einen Int str zu einem analysiert...

Ich mache eine numerische Optimierung für eine wissenschaftliche Anwendung. Eine Sache, die mir aufgefallen ist, ist, dass GCC den Aufruf pow(a,2)durch Kompilieren optimiert a*a, aber der Aufruf pow(a,6)nicht optimiert ist und tatsächlich die Bibliotheksfunktion aufruft pow, was die Leistung...

Was ist der Unterschied zwischen decimal, floatund doublein .NET? Wann würde jemand eines davon

Ich möchte aauf 13,95 gerundet werden . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Die roundFunktion funktioniert nicht wie

Wie kann am besten überprüft werden, ob eine Zeichenfolge in Python als Zahl dargestellt werden kann? Die Funktion, die ich derzeit habe, ist: def is_number(s): try: float(s) return True except ValueError: return False Was nicht nur hässlich und langsam ist, sondern auch klobig erscheint....

Warum macht dieses Stück Code, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i =...

Mir wurde immer gesagt, ich solle niemals Geld mit doubleoder floatTypen repräsentieren , und diesmal stelle ich Ihnen die Frage: Warum? Ich bin sicher, es gibt einen sehr guten Grund, ich weiß einfach nicht, was es

Laut html5.org muss das "value-Attribut" des Eingabetyps "number", sofern angegeben und nicht leer, einen Wert haben, der eine gültige Gleitkommazahl ist. " Es handelt sich jedoch einfach (jedenfalls in der neuesten Version von Chrome) um ein "Updown" -Steuerelement mit Ganzzahlen, nicht um Floats:...

Ich möchte meine Zahlen so formatieren, dass immer 2 Dezimalstellen angezeigt werden, gegebenenfalls gerundet. Beispiele: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Ich habe dies verwendet: parseFloat(num).toFixed(2); Aber es wird angezeigt 1als1 statt

Gibt es eine Möglichkeit, um 0,1 zwischen 0 und 1 zu wechseln? Ich dachte, ich könnte es wie folgt machen, aber es schlug fehl: for i in range(0, 1, 0.1): print i Stattdessen heißt es, dass das Schrittargument nicht Null sein kann, was ich nicht erwartet

Ich habe zwei ganzzahlige Werte aund b, aber ich brauche ihr Verhältnis in Gleitkomma. Ich weiß das a < bund möchte berechnen a / b. Wenn ich also eine ganzzahlige Division verwende, erhalte ich immer 0 mit einem Rest von a. Wie kann ich cim Folgenden erzwingen , eine Gleitkommazahl in Python...

Ich möchte a verwenden Track-Bar, um Formdie Deckkraft von a zu ändern . Das ist mein Code: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Wenn ich die Anwendung erstelle, wird der folgende Fehler angezeigt: Konvertieren kann nicht implizit Art decimalzudouble Ich habe...

Ich habe das folgende Dummy-Testskript: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Führen Sie das Code-Snippet ausErgebnisse ausblendenErweitern Sie das Snippet Dadurch wird das Ergebnis gedruckt, 0.020000000000000004während es nur gedruckt werden soll 0.02(wenn Sie Ihren...

Im folgenden Programm können Sie sehen, dass jeder Wert etwas kleiner als .5abgerundet ist, außer 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } while...

Was wäre der effizienteste Weg, um zwei doubleoder zwei floatWerte zu vergleichen ? Einfach das zu tun ist nicht richtig: bool CompareDoubles1 (double A, double B) { return A == B; } Aber so etwas wie: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) &&...

Ein 64-Bit-Double kann eine ganze Zahl +/- 2 53 genau darstellen Angesichts dieser Tatsache verwende ich für alle meine Typen einen Doppeltyp als Einzeltyp, da meine größte Ganzzahl vorzeichenloses 32-Bit ist. Aber jetzt muss ich diese Pseudo-Ganzzahlen drucken, aber das Problem ist, dass sie auch...

Dieses Problem bringt mich um. Wie rundet man eine Zahl UP in Python auf? Ich habe versucht, die Zahl abzurunden, aber es hat die Zahl abgerundet. Beispiel: round(2.3) = 2.0 and not 3, what I would like Das habe ich versucht int (Nummer + .5) aber es rundet die Nummer wieder ab! Beispiel: int(2.3 +...

Wofür ist der richtige Formatbezeichner doublein printf? Ist es %foder ist es %lf? Ich glaube es ist %f, aber ich bin nicht sicher. Codebeispiel #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

Wie kann ich in JavaScript beim Konvertieren von einem Float in einen String nur zwei Stellen nach dem Dezimalpunkt erhalten? Zum Beispiel 0,34 anstelle von