Ich habe über den Unterschied zwischen doppelter und einfacher Genauigkeit gelesen. In den meisten Fällen scheint die Verwendung des einen oder anderen die Ergebnisse jedoch nicht zu beeinflussen floatund doublescheint austauschbar zu sein. Ist das wirklich der Fall? Wann sind Schwimmer und Doppel...
randrange(start, stop)Nimmt nur ganzzahlige Argumente an. Wie würde ich also eine Zufallszahl zwischen zwei Gleitkommawerten
Ich habe den folgenden Code. Ich möchte es so haben, dass ich, wenn price_result gleich einer ganzen Zahl ist, sagen wir 10, zwei Dezimalstellen hinzufügen möchte. 10 wäre also 10.00. Oder wenn es gleich 10,6 wäre, wäre es 10,60. Ich bin mir nicht sicher, wie ich das machen soll. price_result =...
Ich kenne UIKitVerwendungen CGFloatwegen des auflösungsunabhängigen Koordinatensystems. Aber jedes Mal , möchte ich , wenn beispielsweise überprüfen , frame.origin.xist 0es macht mich krank: if (theView.frame.origin.x == 0) { // do important operation } Ist das nicht CGFloatanfällig für Fehlalarme...
Ich habe die folgende Zeile verwendet, um float in int umzuwandeln, aber es ist nicht so genau, wie ich es gerne hätte: float a=8.61f; int b; b=(int)a; Das Ergebnis ist: 8(Es sollte sein 9) Wann a = -7.65fist das Ergebnis: -7(Es sollte sein -8) Was ist der beste Weg, um es zu
Also habe ich die Antwort auf meine letzte Frage bekommen (ich weiß nicht, warum ich nicht daran gedacht habe). Ich habe eine doubleVerwendung gedruckt cout, die gerundet wurde, als ich sie nicht erwartet hatte. Wie kann ich einen coutAusdruck doublemit voller Präzision
Es ist bekannt, dass der Vergleich von Floats auf Gleichheit aufgrund von Rundungs- und Präzisionsproblemen etwas umständlich ist. Zum Beispiel: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Was ist der empfohlene Weg, um in Python damit...
Ich wollte eine Zahl mit 2 Dezimalstellen anzeigen. Ich dachte, ich könnte toPrecision(2)in JavaScript verwenden. Wenn die Nummer jedoch ist 0.05, bekomme ich 0.0500. Ich möchte lieber, dass es gleich bleibt. Sehen Sie es auf JSbin . Was ist der beste Weg, dies zu tun? Ich kann mir vorstellen,...
Ich sehe diese Konstante immer wieder in verschiedenen Grafik-Header-Dateien 0.0039215689 Es scheint vielleicht etwas mit Farbe zu tun zu haben? Hier ist der erste Treffer bei Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G =...
Ich muss einige Gleitkommavariablen berechnen und mein Kollege schlägt mir vor, sie BigDecimalstattdessen zu verwenden, doubleda sie genauer sind. Aber ich möchte wissen, was es ist und wie ich das Beste daraus machen kann
Es ist bekannt, dass sich NaNs in der Arithmetik ausbreiten, aber ich konnte keine Demonstrationen finden, deshalb schrieb ich einen kleinen Test: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg...
Ich habe den Wert 25.00in a float, aber wenn ich ihn auf dem Bildschirm drucke, ist es 25.0000000. Wie kann ich den Wert mit nur zwei Dezimalstellen
Warum liefert das Ändern der Summenreihenfolge ein anderes Ergebnis? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Sowohl Java als auch JavaScript geben die gleichen Ergebnisse zurück. Ich verstehe, dass aufgrund der Art und Weise, wie Gleitkommazahlen binär dargestellt...
In SO wurden mehrere Fragen zur Gleitkomma-Darstellung gestellt. Zum Beispiel hat die Dezimalzahl 0.1 keine exakte Binärdarstellung, daher ist es gefährlich, den Operator == zu verwenden, um sie mit einer anderen Gleitkommazahl zu vergleichen. Ich verstehe die Prinzipien hinter der...
Beim Vergleich von Floats mit ganzen Zahlen dauert die Auswertung einiger Wertepaare viel länger als bei anderen Werten ähnlicher Größe. Beispielsweise: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 Wenn der...
Manchmal verwirren mich Activerecord-Datentypen. Ähm, oft. Eine meiner ewigen Fragen ist für einen bestimmten Fall: Soll ich verwenden :decimaloder :float? Ich bin oft auf diesen Link gestoßen , ActiveRecord :: decimal vs: float? , aber die Antworten sind nicht klar genug, um sicher zu...
Der folgende Code ist offensichtlich falsch. Was ist das Problem? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal
Wie generiere ich zufällige Floats in C ++? Ich dachte, ich könnte den ganzzahligen Rand nehmen und ihn durch etwas teilen. Wäre das
Warum verhalten sich Vergleiche von NaN-Werten anders als alle anderen Werte? Das heißt, alle Vergleiche mit den Operatoren ==, <=,> =, <,>, bei denen einer oder beide Werte NaN sind, geben entgegen dem Verhalten aller anderen Werte false zurück. Ich nehme an, dies vereinfacht...
Ich kann drei Vorteile für die Verwendung double(oder float) anstelle von nennen decimal: Verbraucht weniger Speicher. Schneller, da Gleitkomma-Mathematikoperationen von Prozessoren nativ unterstützt werden. Kann einen größeren Zahlenbereich darstellen. Diese Vorteile scheinen jedoch nur für...