Christian Kruse: Rundungsfehler bei Subtraktion ...

Beitrag lesen

Hallo Kalle,

ja, spinn ich denn? Wenn man von einer ganzen Zahl mehrmals zwei
Zehntel abzieht, MUSS man doch irgendwann auf NULL kommen, oder?

Theoretisch ja. Praktisch ist 1/10, also 0,1 im Binaer-System ohne
Periode nicht darstellbar. Und da der Computer im Binaer-System
rechnet und ausserdem nur endlich genau ist, musst du das halt
beruecksichtigen, indem du z. B. mit 10 multiplizierst und dann
rechnest oder, bei Vergleichen, mit 0 ± ε rechnest.

Grüße,
 CK

--
Es ist uns nicht möglich, in einem Bereich unseres Lebens richtig zu verhalten, wenn wir in allen anderen falsch handeln. Das Leben ist ein unteilbares Ganzes.
http://wwwtech.de/