Ich habe mich gefragt, ob es eine Möglichkeit gibt, einen Zeitstempel in c # aus einer Datums- / Uhrzeitangabe zu erstellen. Ich benötige einen Millisekunden-Genauigkeitswert, der auch in Compact Framework funktioniert (da DateTime.ToBinary () in CF nicht vorhanden ist). Mein Problem ist, dass ich...
Ich weiß, dass Sie sich normalerweise nicht auf die Gleichheit zwischen Doppel- oder Dezimalwerten verlassen können, aber ich frage mich, ob 0 ein Sonderfall ist. Während ich Ungenauigkeiten zwischen 0,00000000000001 und 0,00000000000002 verstehen kann, scheint 0 selbst ziemlich schwer zu...
Bei einem Double möchte ich es auf eine bestimmte Anzahl von Genauigkeitspunkten nach dem Dezimalpunkt runden, ähnlich wie bei der round () -Funktion von PHP. Das nächste, was ich in den Dart-Dokumenten finden kann, ist double.toStringAsPrecision (), aber das ist nicht ganz das, was ich brauche, da...
Ich habe gerade ein unerwartetes Verhalten mit DateTime.UtcNow festgestellt, als ich einige Unit-Tests durchgeführt habe. Wenn Sie DateTime.Now/UtcNow schnell hintereinander aufrufen, erhalten Sie anscheinend den gleichen Wert für ein länger als erwartetes Zeitintervall zurück, anstatt genauere...
Das ist etwas, woran ich seit Jahren denke, aber ich habe mir nie die Zeit genommen, danach zu fragen. Viele (Pseudo-) Zufallszahlengeneratoren erzeugen eine Zufallszahl zwischen 0,0 und 1,0. Mathematisch gesehen gibt es in diesem Bereich unendlich viele Zahlen, die jedoch doubleeine Gleitkommazahl...
Dies ist keine Frage, da es eher bewusst ist. Ich habe eine Anwendung aktualisiert, die json_encode()PHP7.1.1 verwendet , und es wurde ein Problem festgestellt, bei dem Floats so geändert wurden, dass sie manchmal 17 Stellen umfassen. Laut Dokumentation wurde PHP 7.1.x serialize_precisionbeim...
Was sind die Vor- und Nachteile der Verwendung eines in C ++ anstelle des
Ich habe einige Kunden, die seltsame Rechnungen bekommen. Ich konnte das Kernproblem eingrenzen: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) -- 199.96 SELECT...
Geschlossen . Diese Frage muss fokussierter sein . Derzeit werden keine Antworten akzeptiert. Möchten Sie diese Frage verbessern? Aktualisieren Sie die Frage so, dass sie sich nur auf ein Problem konzentriert, indem Sie diesen Beitrag bearbeiten . Im letzten Monat geschlossen . Verbessere diese...
Ich weiß ein wenig darüber, wie Gleitkommazahlen dargestellt werden, aber leider nicht genug. Die allgemeine Frage lautet: Welcher Zahlenbereich kann für eine bestimmte Genauigkeit (für meine Zwecke die Anzahl der genauen Dezimalstellen in Basis 10) für 16-, 32- und 64-Bit-IEEE-754-Systeme...
Diese Frage entstand aus etwas Seltsamem, das mir auffiel, nachdem ich diese Frage weiter untersucht hatte ... Ich habe MATLAB-Variablen immer standardmäßig als doppelt genau verstanden . Wenn ich also so etwas wie eine Variable mit 20 Nachkommastellen deklarieren würde: >> num =...
Ich schreibe ein Programm, in dem ich doppelte Punkte löschen muss, die in einer Matrix gespeichert sind. Das Problem ist, dass MATLAB bei der Überprüfung, ob sich diese Punkte in der Matrix befinden, diese in der Matrix nicht erkennen kann, obwohl sie vorhanden sind. Im folgenden Code...
Ich lande oft in Situationen, in denen überprüft werden muss, ob der ermittelte Unterschied über der Maschinengenauigkeit liegt. Scheint für diesen Zweck R hat eine handliche Variable:.Machine$double.eps . Wenn ich mich jedoch an den R-Quellcode wende, um Richtlinien zur Verwendung dieses Werts zu...
Angenommen, wir nehmen np.dotzwei 'float32'2D-Arrays: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Zahlen. Außer, sie können sich ändern: Fall 1 : Scheibea np.random.seed(1) a = np.random.randn(9,...
Ich habe eine ziemlich lange Liste von Gleitkomma-Positivzahlen ( std::vector<float>, Größe ~ 1000). Die Nummern sind in absteigender Reihenfolge sortiert. Wenn ich sie in der Reihenfolge summiere: for (auto v : vec) { sum += v; } Ich denke, ich kann ein numerisches Stabilitätsproblem haben,...
C ++ hat std::nextafter(), was den nächsten darstellbaren Wert nach einem gegebenen Gleitkommawert f zurückgibt . In meinem Fall möchte ich n Bits Slop in den unteren Mantissenbits zulassen , sodass für 3 Bits Slop der 8. nächste Wert nach einem bestimmten Wert f erforderlich wäre . Ich könnte...