Als «precision» getaggte Fragen

Probleme im Zusammenhang mit der Darstellung numerischer Größen in einer endlichen Darstellung in einer bestimmten Basis, die sich von ihrem genauen mathematischen Wert unterscheiden.

77
Gibt es einen hochwertigen nichtlinearen Programmierlöser für Python?

Ich habe mehrere herausfordernde nicht konvexe globale Optimierungsprobleme zu lösen. Derzeit verwende ich die Optimization Toolbox von MATLAB (speziell fmincon()mit algorithm = 'sqp'), was sehr effektiv ist . Der größte Teil meines Codes ist jedoch in Python, und ich würde die Optimierung gerne...

13
Single versus Double Floating-Point-Präzision

Gleitkommazahlen mit einfacher Genauigkeit belegen die Hälfte des Arbeitsspeichers und können auf modernen Maschinen (auch auf GPUs) fast doppelt so schnell ausgeführt werden wie mit doppelter Genauigkeit. Viele FDTD-Codes, die ich gefunden habe, verwenden ausschließlich Arithmetik und Speicherung...

9
Darstellung von Eisenstein-Zahlen ohne Schwimmer

Ich habe ein Projekt, in dem ich quadratische Felder verwenden muss. Speziell Zahlen der Form mita,b∈Q.a+b−3−−−√a+b−3a + b \sqrt{-3}a,b∈Qa,b∈Qa,b \in \mathbb{Q} Zum Beispiel sind hier die Primzahlen in Eisenstein-Ganzzahlen : Ich möchte keinen Salbei verwenden. Ich möchte meinen eigenen Datentyp...