Thread Kaufmännisch korrekt runden (67 answers)
Opened by bianca at 2009-12-11 07:14

topeg
 2009-12-12 10:53
#129250 #129250
User since
2006-07-10
2611 Artikel
BenutzerIn

user image
Code: (dl )
'0.0000000075'.............auf 9 Stelle(n): '7e-009'................... FEHLER! Erwartet '0.000000008'
Das ist nur ein Symptom. Das kann auch bei ganz anderen Zahlen auftreten.
Wenn du dir anschaust wie ich die zahlen generiere wirst du sehen, dass sich sie in der zweiten Testschleife aufaddiere. Dadurch werden sie "unsauber".
Ich addiere immer Fließkommazahlen miteinander. Das sorgt dafür, das sie kleine Ungenauigkeiten ansammeln. Wenn du die Zahlen "frisch" erzeugst, passiert das bei den verwendeten Zahlen nicht. Aber auch manche direkt erzeugte Zahlen können als binäre Fließkommazahlen nicht darstellbar sein. Wenn so ein Problem bei dir auftaucht, dann rundet deine Funktion manchmal falsch.

View full thread Kaufmännisch korrekt runden