Es ist bekannt, dass in C Gleitkomma-Literale (z . B. 1.23) einen Typ haben double. Infolgedessen wird jede Berechnung, die sie betrifft, auf das Doppelte hochgestuft. Ich arbeite an einem eingebetteten Echtzeitsystem mit einer Gleitkommaeinheit, die nur floatZahlen mit einfacher Genauigkeit ( )...
Wenn ich schreibe: int x = /* any non-zero integer value */; float y = x; float z = y / y; Ist zgarantiert genau 1.f?
Ich frage mich, was der Unterschied zwischen diesen beiden Variablen in C ist: float price = 3.00; und float price = 3.00f; Was ist die Verwendung von Suffix fin diesem Fall?
assert(0.1 + 0.2 != 0.3); // shall be true ist meine Lieblingsprüfung, dass eine Sprache native Gleitkomma-Arithmetik verwendet. C ++ #include <cstdio> int main() { printf("%d\n", (0.1 + 0.2 != 0.3)); return 0; } Ausgabe: 1 http://ideone.com/ErBMd Python print(0.1 + 0.2 != 0.3) Ausgabe: True...
Ich führe das folgende Python-Skript aus: #!/usr/bin/python import os,sys from scipy import stats import numpy as np f=open('data2.txt', 'r').readlines() N=len(f)-1 for i in range(0,N): w=f[i].split() l1=w[1:8] l2=w[8:15] list1=[float(x) for x in l1] list2=[float(x) for x in l2]
Warum haben Doppel -0so gut wie +0? Was ist der Hintergrund und die Bedeutung?
Kann überprüft werden, ob a floateine positive Null (0,0) oder eine negative Null (-0,0) ist? Ich habe das floatin ein konvertiert Stringund überprüft, ob das erste ein charist '-', aber gibt es andere Möglichkeiten?
Diese Frage entstand aus etwas Seltsamem, das mir auffiel, nachdem ich diese Frage weiter untersucht hatte ... Ich habe MATLAB-Variablen immer standardmäßig als doppelt genau verstanden . Wenn ich also so etwas wie eine Variable mit 20 Nachkommastellen deklarieren würde: >> num =...
Ich erstelle zum Spaß, aber ich möchte es trotzdem ernsthaft angehen, eine Seite, auf der verschiedene Tests stattfinden. Mit diesen Tests hoffe ich statistische Daten zu sammeln. Einige der Daten enthalten den Prozentsatz der Vollständigkeit der Tests, wenn sie zeitlich festgelegt sind. Ich...
Ich habe im Compiler-Explorer herumgespielt und festgestellt, dass die Reihenfolge der an std :: min übergebenen Argumente die ausgegebene Assembly ändert. Hier ist das Beispiel im Godbolt Compiler Explorer double std_min_xy(double x, double y) { return std::min(x, y); } double...
Grundsätzlich konvertiere ich einen Float in einen Int, aber ich habe nicht immer den erwarteten Wert. Hier ist der Code, den ich ausführe: x = 2,51 print("--------- 251.0") y = 251.0 print(y) print(int(y)) print("--------- 2.51 * 100") y = x * 100 print(y) print(int(y)) print("---------...
Gibt es eine eingebaute MATLAB-Funktion, um herauszufinden, ob eine Matrix einen bestimmten Wert enthält? (ala PHPs in_array())
Wir haben eine Reihe von iOS-Apps, zu denen verschiedene Entwickler beitragen. Ein Problem, das ich weiterhin bemerke, ist, dass Ansichten in unseren Storyboards aus der Position verschoben werden, in der sie platziert wurden, oder die Größe geändert werden, sodass sie kleiner sind plötzlich...
Ich habe eine Preisliste mit einem Komma für einen Dezimalpunkt und einem Punkt als Tausendertrennzeichen. Einige Beispiele: 12,30 116,10 1,563,14 Diese kommen in diesem Format von Dritten. Ich möchte sie in Floats umwandeln und zusammenfügen. Was ist der beste Weg, dies zu tun?...
Ich schreibe ein Programm, in dem ich doppelte Punkte löschen muss, die in einer Matrix gespeichert sind. Das Problem ist, dass MATLAB bei der Überprüfung, ob sich diese Punkte in der Matrix befinden, diese in der Matrix nicht erkennen kann, obwohl sie vorhanden sind. Im folgenden Code...
Ich lande oft in Situationen, in denen überprüft werden muss, ob der ermittelte Unterschied über der Maschinengenauigkeit liegt. Scheint für diesen Zweck R hat eine handliche Variable:.Machine$double.eps . Wenn ich mich jedoch an den R-Quellcode wende, um Richtlinien zur Verwendung dieses Werts zu...
Ich erstelle diese API und die Datenbank speichert Werte, die einen der folgenden Werte darstellen: Prozentsatz durchschnittlich Bewertung Ich habe ehrlich gesagt keine Ahnung, wie ich etwas darstellen soll, dessen Zahlen zwischen 0 und 100% liegen. Sollte es sein 0,00 - 1,00 0,00 - 100,00 jede...
Ich habe eine ziemlich lange Liste von Gleitkomma-Positivzahlen ( std::vector<float>, Größe ~ 1000). Die Nummern sind in absteigender Reihenfolge sortiert. Wenn ich sie in der Reihenfolge summiere: for (auto v : vec) { sum += v; } Ich denke, ich kann ein numerisches Stabilitätsproblem haben,...
Warum gibt GHCi unten eine falsche Antwort? GHCi λ> ((-20.24373193905347)^12)^2 - ((-20.24373193905347)^24) 4.503599627370496e15 Python3 >>> ((-20.24373193905347)**12)**2 - ((-20.24373193905347)**24) 0.0 UPDATE Ich würde Haskells (^) Funktion wie folgt implementieren. powerXY ::...
Betrachten Sie das folgende Demonstrationsprogramm. #include <iostream> int main() { typedef float T; 0.f.T::~T(); } Dieses Programm wird zusammengestellt von Microsoft Visual Studio Community 2019. Aber clangund gccgeben Sie einen Fehler wie diesen aus prog.cc:7:5: error: unable to...