01.05.2005, 00:00 Uhr

Rundungsfehler beim Umwandeln von Fließkommawerten in Ganzzahlwerte

Ein älterer Mathematiklehrer wird gefragt, wie viel 2 plus 2 ergibt. Er holt seine Logarithmentafeln heraus, murmelt vor sich hin und antwortet nach einiger Zeit: 3,999857. Jeder Pentium-Prozessor würde sich dieser Antwort sofort anschließen. So richtig dumm wird es, wenn diese Zahl anschließend falsch auf 3 statt auf 4 gerundet wird. Gibt’s nicht? Doch, gibt’s. dotnetpro warnt vor Rundungsfehlern. 2 + 2 = 3
Autor: Claudio Ganahl (1229)

Jetzt 1 Monat kostenlos testen!

Sie wollen zukünftig auch von den Vorteilen eines plus-Abos profitieren? Werden Sie jetzt dotnetpro-plus-Kunde.
  • + Digitales Kundenkonto,
  • + Zugriff auf das digitale Heft,
  • + Zugang zum digitalen Heftarchiv,
  • + Auf Wunsch: Weekly Newsletter,
  • + Sämtliche Codebeispiele im digitalen Heftarchiv verfügbar