Als «decimal» getaggte Fragen

78
Java BigDecimal Möglicher Überlauffehler

Ich habe Randbedingungen für Code mit a getestet BigDecimalund festgestellt, dass sich a beim BigDecimalInitialisieren mit dem String "1e2147483647"unerwartet verhält. Es scheint einen Wert zwischen 0und zu haben 1e-2147483647. Wenn ich versuche anzurufen intValue(), bekomme ich eine...

77
C ++ - Konvertierung von Dezimal zu Binär

Ich habe ein 'einfaches' Programm geschrieben (es hat 30 Minuten gedauert), das die Dezimalzahl in eine Binärzahl umwandelt. Ich bin mir sicher, dass es einen viel einfacheren Weg gibt. Können Sie es mir zeigen? Hier ist der Code: #include <iostream> #include <stdlib.h> using namespace...

73
Python-Dezimalformat

WAS ist ein guter Weg, um eine Python-Dezimalstelle so zu formatieren? 1,00 -> '1' 1,20 -> '1,2' 1,23 -> '1,23' 1,234 -> '1,23' 1,2345 -> '1,23'

73
Java-Dezimalformatierung mit String.format?

Ich muss einen Dezimalwert in eine Zeichenfolge formatieren, in der immer mindestens 2 Dezimalstellen und höchstens 4 angezeigt werden. So zum Beispiel "34.49596" would be "34.4959" "49.3" would be "49.30" Kann dies mit dem Befehl String.format erfolgen? Oder gibt es eine einfachere /...

71
Zwei Dezimalstellen mit printf ()

Ich versuche, eine Zahl mit zwei Dezimalstellen printf()wie folgt zu schreiben : #include <cstdio> int main() { printf("When this number: %d is assigned to 2 dp, it will be: 2%f ", 94.9456, 94.9456); return 0; } Wenn ich das Programm starte, erhalte ich folgende Ausgabe: #...

14
Wann wird float vs decimal verwendet?

Ich erstelle diese API und die Datenbank speichert Werte, die einen der folgenden Werte darstellen: Prozentsatz durchschnittlich Bewertung Ich habe ehrlich gesagt keine Ahnung, wie ich etwas darstellen soll, dessen Zahlen zwischen 0 und 100% liegen. Sollte es sein 0,00 - 1,00 0,00 - 100,00 jede...