Thread Kaufmännisch korrekt runden
(67 answers)
Opened by bianca at 2009-12-11 07:14 Code: (dl
)
'0.0000000075'.............auf 9 Stelle(n): '7e-009'................... FEHLER! Erwartet '0.000000008' Wenn du dir anschaust wie ich die zahlen generiere wirst du sehen, dass sich sie in der zweiten Testschleife aufaddiere. Dadurch werden sie "unsauber". Ich addiere immer Fließkommazahlen miteinander. Das sorgt dafür, das sie kleine Ungenauigkeiten ansammeln. Wenn du die Zahlen "frisch" erzeugst, passiert das bei den verwendeten Zahlen nicht. Aber auch manche direkt erzeugte Zahlen können als binäre Fließkommazahlen nicht darstellbar sein. Wenn so ein Problem bei dir auftaucht, dann rundet deine Funktion manchmal falsch. |