Als «dc» getaggte Fragen

Wie formatiere ich Gleitkommazahlen mit genau 2 signifikanten Stellen in Bash?

Ich möchte die Gleitkommazahl mit genau zwei signifikanten Stellen in Bash drucken (möglicherweise mit einem gängigen Tool wie awk, bc, dc, perl usw.). Beispiele: 76543 sollte als 76000 gedruckt werden 0,0076543 sollte als 0,0076 gedruckt werden In beiden Fällen sind die signifikanten Ziffern 7 und...

Präzision verlieren mit Gleichstrom

Ich möchte verwenden dc, um einige Basis-16-Zahlen mit Hexadezimalpunkten zu behandeln, aber ich stoße auf Präzisionsprobleme. Zum Beispiel multipliziere ich unten F423F.FDmit 100, beide hex. Die erwartete Antwort ist F423FFD, stattdessen F423FFA.E1, nahe beieinander, aber auch nach dem Runden...