Bei Fragen zur numerischen Präzision bei der Programmierung. Verwenden Sie für die Klassifizierungsgenauigkeit das Tag [Präzisionsrückruf].
Ich möchte aauf 13,95 gerundet werden . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Die roundFunktion funktioniert nicht wie
Ich habe über den Unterschied zwischen doppelter und einfacher Genauigkeit gelesen. In den meisten Fällen scheint die Verwendung des einen oder anderen die Ergebnisse jedoch nicht zu beeinflussen floatund doublescheint austauschbar zu sein. Ist das wirklich der Fall? Wann sind Schwimmer und Doppel...
Genauigkeit Vs. Präzision Was würde Ich mag es , wissen , ob ich verwenden sollte System.currentTimeMillis () oder System.nanoTime () , wenn mein Objekt der Positionen in meinem Spiel zu aktualisieren? Ihre Bewegungsänderung ist direkt proportional zur seit dem letzten Anruf verstrichenen Zeit,...
Also habe ich die Antwort auf meine letzte Frage bekommen (ich weiß nicht, warum ich nicht daran gedacht habe). Ich habe eine doubleVerwendung gedruckt cout, die gerundet wurde, als ich sie nicht erwartet hatte. Wie kann ich einen coutAusdruck doublemit voller Präzision
Ich wollte eine Zahl mit 2 Dezimalstellen anzeigen. Ich dachte, ich könnte toPrecision(2)in JavaScript verwenden. Wenn die Nummer jedoch ist 0.05, bekomme ich 0.0500. Ich möchte lieber, dass es gleich bleibt. Sehen Sie es auf JSbin . Was ist der beste Weg, dies zu tun? Ich kann mir vorstellen,...
Ich habe die folgende Spalte in einer Datenbank angegeben: dezimal (5,2) Wie interpretiert man das? Anhand der Eigenschaften in der Spalte, die in SQL Server Management Studio angezeigt werden, kann ich sehen, dass dies bedeutet: dezimal (numerische Genauigkeit, numerische Skala). Was bedeuten...
Wie kann ich einen Zeitstempel der tatsächlichen Zeit mit Millisekundengenauigkeit genau erstellen? Ich brauche so etwas wie 16.4.2013 9: 48: 00: 123. Ist das möglich? Ich habe eine Anwendung, in der ich 10 Mal pro Sekunde Werte abtastet und diese in einem Diagramm anzeigen
Warum verlieren einige Zahlen an Genauigkeit, wenn sie als Gleitkommazahlen gespeichert werden? Zum Beispiel kann die Dezimalzahl 9.2genau als Verhältnis von zwei Dezimalzahlen ( 92/10) ausgedrückt werden, die beide genau in binär ( 0b1011100/0b1010) ausgedrückt werden können . Das gleiche...
Ich versuche , die Summe zu bekommen 1 + 2 + ... + 1000000000, aber ich bin immer lustig Ergebnisse in PHP und Node.js . PHP $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", "")); // 500000000067108992 Node.js var sum = 0; for (i = 0; i <=...
Vor kurzem musste ich ein Double in Text serialisieren und es dann zurückbekommen. Der Wert scheint nicht gleichwertig zu sein: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Laut MSDN: Standard Numeric Format...
Was ist der Unterschied zwischen einer Gleitkommaoperation mit einfacher Genauigkeit und einer Gleitkommaoperation mit doppelter Genauigkeit? Ich interessiere mich besonders für praktische Begriffe in Bezug auf Videospielkonsolen. Verfügt der Nintendo 64 beispielsweise über einen 64-Bit-Prozessor,...
Nein, dies ist keine weitere Frage "Warum ist (1 / 3.0) * 3! = 1" . Ich habe in letzter Zeit viel über Gleitkomma gelesen; Insbesondere, wie dieselbe Berechnung auf verschiedenen Architekturen oder Optimierungseinstellungen zu unterschiedlichen Ergebnissen führen kann . Dies ist ein Problem bei...
Ich weiß, dass die 0.1Dezimalzahl nicht exakt mit einer endlichen Binärzahl dargestellt werden kann ( Erklärung ), daher double n = 0.1verliert sie an Genauigkeit und ist nicht genau 0.1. Andererseits 0.5kann genau dargestellt werden, weil es ist 0.5 = 1/2 = 0.1b. Trotzdem ist es verständlich, dass...
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Der obige Code wird gedruckt: 11.399999999999 Wie würde ich dies dazu bringen, nur 11.4 zu drucken (oder als verwenden zu...
Ich mache ein Programm, in dem ich die Zeit in Millisekunden bekommen muss. Mit Zeit meine ich eine Zahl, die niemals gleich ist und immer 1000 Zahlen größer ist als vor einer Sekunde. Ich habe versucht, DateTime.Nowzu einem zu konvertieren TimeSpanund das TotalMillisecondsdaraus zu machen ... aber...
Gibt es eine Möglichkeit, die Zeit nur mit ANSI C mit einer Genauigkeit von Millisekunden oder mehr zu messen? Ich habe time.h durchsucht, aber nur Funktionen mit zweiter Genauigkeit
Ich bin neu in JavaScript und habe gerade entdeckt toFixed()und toPrecision()Zahlen gerundet. Ich kann jedoch nicht herausfinden, was der Unterschied zwischen den beiden ist. Was ist der Unterschied zwischen number.toFixed()und
In R gibt es eine Option, um die Kontrolle über die Ziffernanzeige zu erlangen. Beispielsweise: options(digits=10) soll die Berechnungsergebnisse bis zum Ende der R-Sitzung in 10 Ziffern angeben. In der Hilfedatei von R lautet die Definition für den Ziffernparameter wie folgt: Ziffern: Steuert...
Dies war eine Frage, die mir kürzlich bei meinem Interview gestellt wurde und die ich wissen möchte (ich erinnere mich nicht wirklich an die Theorie der numerischen Analyse, also helfen Sie mir bitte :) Wenn wir eine Funktion haben, die Gleitkommazahlen akkumuliert: std::accumulate(v.begin(),...
Gibt es einen printfBreitenbezeichner, der auf einen Gleitkomma- Bezeichner angewendet werden kann, der die Ausgabe automatisch auf die erforderliche Anzahl signifikanter Stellen formatiert, sodass beim erneuten Einscannen der Zeichenfolge der ursprüngliche Gleitkommawert erfasst wird? Angenommen,...