Als «int» getaggte Fragen

14
Wann wird float vs decimal verwendet?

Ich erstelle diese API und die Datenbank speichert Werte, die einen der folgenden Werte darstellen: Prozentsatz durchschnittlich Bewertung Ich habe ehrlich gesagt keine Ahnung, wie ich etwas darstellen soll, dessen Zahlen zwischen 0 und 100% liegen. Sollte es sein 0,00 - 1,00 0,00 - 100,00 jede...

12
Effiziente stabile Summe der bestellten Nummern

Ich habe eine ziemlich lange Liste von Gleitkomma-Positivzahlen ( std::vector<float>, Größe ~ 1000). Die Nummern sind in absteigender Reihenfolge sortiert. Wenn ich sie in der Reihenfolge summiere: for (auto v : vec) { sum += v; } Ich denke, ich kann ein numerisches Stabilitätsproblem haben,...

12
Seltsames Verhalten von (^) in Haskell

Warum gibt GHCi unten eine falsche Antwort? GHCi λ> ((-20.24373193905347)^12)^2 - ((-20.24373193905347)^24) 4.503599627370496e15 Python3 >>> ((-20.24373193905347)**12)**2 - ((-20.24373193905347)**24) 0.0 UPDATE Ich würde Haskells (^) Funktion wie folgt implementieren. powerXY ::...

10
C # -Überlaufverhalten für deaktiviertes uint

Ich habe diesen Code unter https://dotnetfiddle.net/ getestet : using System; public class Program { const float scale = 64 * 1024; public static void Main() { Console.WriteLine(unchecked((uint)(ulong)(1.2 * scale * scale + 1.5 * scale))); Console.WriteLine(unchecked((uint)(ulong)(scale* scale +...