float/double verhält sich seltsam

[waquner]

hi guys!

ich hab ein kleines problem mit folgendem Code:

this.credit -= cans[selection].getCost();

this.credit ist ein float und cans[selection].getCost(); liefert auch einen float zurück
wenn jetzt aber beispielsweise this.credit=1.04 ist und getCost() 0.9 zurückliefert
hat this.credit nachher nicht den wert 1.04-0.9 = 0.14 sondern 0.13999999
bei doubles dasselbe nur mit mehr nachkommastellen

woran liegt das? muss ich jedesmal aufrunden?

danke und lg waquner

 

[Bleiglanz]

nein, du musst das nur für die Ausgabe runden (DecimalFormat)

die Zahl selbst kannst du nicht "runden", weil sich 0.14 im 2er System eben nicht darstellen lässt

 

[The_S]

Such mal im Forum nach "Fließkommazahlen" + evtl. Problem oder runden. Gabs schon seeeeeeeeeehr oft 😉

 

[waquner]

wow das geht aber schnell hier, dakönnen sich andre foren nur ein beispiel dran nehmen🙂

genug der schleimerei🙂
in meinem fall muss ich dann wohl doch jedes mal runden, weil er in einer schleife versucht bestimmte zahlen abzuziehen (es geht um geld, das kleinste ist also 0.01 = 1 cent) und da er bei =0 aufhören soll, macht er das nicht...
danke aufn jednfall!

 

[Guest]

hoppla runden geht ja ned, hab ich überlesen...

 

[The_S]

Doch du kannst runden.

public class Rund {
	
	public static void main(String[] args) {
		
		double dbl = 0.13999999998;
		System.out.println((Math.round(dbl * 100D) / 100D));
	}
}

 

[LordSam]

Wenn es sich um eine Währung handelt könntest Du auch evtl. die Beträge z.B. in 'Cent' speichern. Dann kannst du einen Integer-typ verwenden (int/long). Damit sparst Du Dir die Probleme mit Fließkommazahlen. Du musst dann die Daten nur zur Anzeige umformatieren... ( / 100 ).