Thread Rechenfehler mit Perl ausgleichen (71 answers)
Opened by bianca at 2013-04-27 13:42

pq
 2013-04-28 22:06
#167342 #167342
User since
2003-08-04
12203 articles
Admin1
[Homepage]
user image
2013-04-28T19:14:30 hlubenow
(was man vom Computer auch zu Recht erwartet).

wenn du dem computer beibringst, die 0.57 korrekt zu speichern, kannst du das erwarten, ja.
in dem genannten fall wäre das z.b. einfach zu erreichen, indem man statt einer kommazahl einen bruch speichert (57/100). dann geht nichts verloren und bei der multiplikation bleibt die 57 exakt erhalten. (das kann natürlich bei etwas kompliziertren rechnungen einen ziemlichen speicherbedarf nach sich ziehen).
speichert man solche kommazahlen binär, kann man das nicht erwarten.
Always code as if the guy who ends up maintaining your code will be a violent psychopath who knows where you live. -- Damian Conway in "Perl Best Practices"
lesen: Wiki:Wie frage ich & perlintro Wiki:brian's Leitfaden für jedes Perl-Problem

View full thread Rechenfehler mit Perl ausgleichen