Overа этот вопрос есть ответы на Stapelüberlauf на русском : Вычисления на числах с плавающей точкой не работают Betrachten Sie den folgenden Code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum treten diese Ungenauigkeiten...
Ich möchte höchstens 2 Dezimalstellen runden, aber nur bei Bedarf . Eingang: 10 1.7777777 9.1 Ausgabe: 10 1.78 9.1 Wie kann ich das in JavaScript machen?
Wie kann ich in Python eine numerische Zeichenfolge "545.2222"auf den entsprechenden Gleitkommawert analysieren 545.2222? Oder analysieren Sie die Zeichenfolge "31"auf eine Ganzzahl 31? Ich möchte nur wissen, wie man einen Float str zu einem floatund (separat) einen Int str zu einem analysiert...
Ich mache eine numerische Optimierung für eine wissenschaftliche Anwendung. Eine Sache, die mir aufgefallen ist, ist, dass GCC den Aufruf pow(a,2)durch Kompilieren optimiert a*a, aber der Aufruf pow(a,6)nicht optimiert ist und tatsächlich die Bibliotheksfunktion aufruft pow, was die Leistung...
Was ist der Unterschied zwischen decimal, floatund doublein .NET? Wann würde jemand eines davon
Ich möchte aauf 13,95 gerundet werden . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Die roundFunktion funktioniert nicht wie
Wie kann am besten überprüft werden, ob eine Zeichenfolge in Python als Zahl dargestellt werden kann? Die Funktion, die ich derzeit habe, ist: def is_number(s): try: float(s) return True except ValueError: return False Was nicht nur hässlich und langsam ist, sondern auch klobig erscheint....
Warum macht dieses Stück Code, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i =...
Für ältere * .doc-Dokumente war dies ausreichend: header("Content-Type: application/msword"); Welchen MIME-Typ soll ich für neue docx-Dokumente verwenden? Auch für pptx- und
Mir wurde immer gesagt, ich solle niemals Geld mit doubleoder floatTypen repräsentieren , und diesmal stelle ich Ihnen die Frage: Warum? Ich bin sicher, es gibt einen sehr guten Grund, ich weiß einfach nicht, was es
Laut html5.org muss das "value-Attribut" des Eingabetyps "number", sofern angegeben und nicht leer, einen Wert haben, der eine gültige Gleitkommazahl ist. " Es handelt sich jedoch einfach (jedenfalls in der neuesten Version von Chrome) um ein "Updown" -Steuerelement mit Ganzzahlen, nicht um Floats:...
Ich möchte meine Zahlen so formatieren, dass immer 2 Dezimalstellen angezeigt werden, gegebenenfalls gerundet. Beispiele: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Ich habe dies verwendet: parseFloat(num).toFixed(2); Aber es wird angezeigt 1als1 statt
Gibt es eine Möglichkeit, um 0,1 zwischen 0 und 1 zu wechseln? Ich dachte, ich könnte es wie folgt machen, aber es schlug fehl: for i in range(0, 1, 0.1): print i Stattdessen heißt es, dass das Schrittargument nicht Null sein kann, was ich nicht erwartet
Ich habe zwei ganzzahlige Werte aund b, aber ich brauche ihr Verhältnis in Gleitkomma. Ich weiß das a < bund möchte berechnen a / b. Wenn ich also eine ganzzahlige Division verwende, erhalte ich immer 0 mit einem Rest von a. Wie kann ich cim Folgenden erzwingen , eine Gleitkommazahl in Python...
Ich möchte a verwenden Track-Bar, um Formdie Deckkraft von a zu ändern . Das ist mein Code: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Wenn ich die Anwendung erstelle, wird der folgende Fehler angezeigt: Konvertieren kann nicht implizit Art decimalzudouble Ich habe...
Ich habe das folgende Dummy-Testskript: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Führen Sie das Code-Snippet ausErgebnisse ausblendenErweitern Sie das Snippet Dadurch wird das Ergebnis gedruckt, 0.020000000000000004während es nur gedruckt werden soll 0.02(wenn Sie Ihren...
Ich habe diese Codezeile, die meine Zahlen auf zwei Dezimalstellen rundet. Aber ich bekomme Zahlen wie diese: 10.8, 2.4 usw. Dies sind nicht meine Vorstellung von zwei Dezimalstellen. Wie kann ich also Folgendes verbessern? Math.round(price*Math.pow(10,2))/Math.pow(10,2); Ich möchte Zahlen wie...
Im folgenden Programm können Sie sehen, dass jeder Wert etwas kleiner als .5abgerundet ist, außer 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } while...
Was wäre der effizienteste Weg, um zwei doubleoder zwei floatWerte zu vergleichen ? Einfach das zu tun ist nicht richtig: bool CompareDoubles1 (double A, double B) { return A == B; } Aber so etwas wie: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) &&...
Ein 64-Bit-Double kann eine ganze Zahl +/- 2 53 genau darstellen Angesichts dieser Tatsache verwende ich für alle meine Typen einen Doppeltyp als Einzeltyp, da meine größte Ganzzahl vorzeichenloses 32-Bit ist. Aber jetzt muss ich diese Pseudo-Ganzzahlen drucken, aber das Problem ist, dass sie auch...