GUten Morgen,
ich habe einige Rechenoperationen die im Wertebereich vom double ablaufen. Jedoch kommt nach einer unbestimmten Anzahl an Rechenoperationen (in Abhängigkeit vom variablen Eingangswert) eine negative Zahl heraus, dieses ist mathematisch aber nicht möglich. Ist dieses ein Zeichen für das Überlaufen von double?
Wenn ja, kann ich gegebenfalls, meine Werte nach/während der Rechnung einfach runden um so einen Überlauf zu verhinden?
Ich denke das bei der Nutzung von:
das Runden wahrscheinlich zu spät kommt.
mit freundlichem Gruß
Thorsten
ich habe einige Rechenoperationen die im Wertebereich vom double ablaufen. Jedoch kommt nach einer unbestimmten Anzahl an Rechenoperationen (in Abhängigkeit vom variablen Eingangswert) eine negative Zahl heraus, dieses ist mathematisch aber nicht möglich. Ist dieses ein Zeichen für das Überlaufen von double?
Wenn ja, kann ich gegebenfalls, meine Werte nach/während der Rechnung einfach runden um so einen Überlauf zu verhinden?
Ich denke das bei der Nutzung von:
Java:
double d = 2.3445635634567;
NumberFormat n = NumberFormat.getInstance();
n.setMaximumFractionDigits(2); // max. 2 stellen hinter komma
System.out.println(n.format(d));
mit freundlichem Gruß
Thorsten