Thread Rechenfehler mit Perl ausgleichen (71 answers)
Opened by bianca at 2013-04-27 13:42

tonewheel
 2013-05-02 07:09
#167393 #167393
User since
2006-10-01
182 articles
BenutzerIn
[default_avatar]
2013-05-02T04:35:48 bianca
2013-05-01T21:47:17 tonewheel
Hier ein Beispiel in JavaScript

Da hatte ich mit toFixed() einige gute Ergebnisse erhalten aber nicht in die Tiefe getestet. Wieso hast du toPrecision() verwendet? Wo ist der Unterschied?

Ausser, dass toFixed die Zahl in einen String wandelt und toPrecision nicht, wirkt sich das anscheinend nicht unterschiedlich auf die Nachkommastellen/Rundungen aus.

View full thread Rechenfehler mit Perl ausgleichen