Als «floating-point» getaggte Fragen

123
round () scheint nicht richtig zu runden

In der Dokumentation für die Funktion round () wird angegeben, dass Sie eine Zahl und die Positionen nach der Dezimalstelle an round übergeben. Also sollte es dies tun: n = 5.59 round(n, 1) # 5.6 Aber in Wirklichkeit schleicht sich eine gute alte Gleitkomma-Verrücktheit ein und Sie...

120
PHP String zum Float

Ich bin mit PHP überhaupt nicht vertraut und hatte eine kurze Frage. Ich habe 2 Variablen pricePerUnitund InvoicedUnits. Hier ist der Code, der diese auf Werte setzt: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string)

120
Cast to Int vs Floor

Gibt es einen Unterschied zwischen diesen: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); Soweit ich weiß, haben beide Fälle das gleiche Ergebnis. Gibt es einen Unterschied im kompilierten

110
Das Abschneiden von Floats in Python

Ich möchte Ziffern aus einem Float entfernen, um eine feste Anzahl von Ziffern nach dem Punkt zu erhalten, wie z. 1.923328437452 -> 1.923 Ich muss als Zeichenfolge für eine andere Funktion ausgeben, nicht drucken. Außerdem möchte ich die verlorenen Ziffern ignorieren und nicht...

102
"F" nach Nummer

Was bedeutet das fnach den Zahlen? Ist das von C oder Objective-C? Gibt es einen Unterschied, wenn dies nicht zu einer konstanten Zahl hinzugefügt wird? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); Können Sie erklären, warum ich nicht einfach schreiben würde: CGRect frame = CGRectMake(0,...

102
Was ist float in Java?

Ich habe diesen Code geschrieben: float b = 3.6; und ich verstehe das: Fehler: Ungelöstes Kompilierungsproblem: Typinkongruenz: Konvertiert nicht von Double in Float Warum? Was ist die Definition von