Startseite > Archiv > Rundungsfehler beim Umwandeln von Fließkommawerten in Ganzzahlwerte

Rundungsfehler beim Umwandeln von Fließkommawerten in Ganzzahlwerte

dotnetpro 5/2005 Von Claudio Ganahl erschienen in dotnetpro 5/2005 auf Seite 83
Code:
Keine Bewertung

Ein älterer Mathematiklehrer wird gefragt, wie viel 2 plus 2 ergibt. Er holt seine Logarithmentafeln heraus, murmelt vor sich hin und antwortet nach einiger Zeit: 3,999857. Jeder Pentium-Prozessor würde sich dieser Antwort sofort anschließen. So richtig dumm wird es, wenn diese Zahl anschließend falsch auf 3 statt auf 4 gerundet wird. Gibt’s nicht? Doch, gibt’s. dotnetpro warnt vor Rundungsfehlern. 2 + 2 = 3

Artikel Download

Als Abonnent können Sie den gesamten Artikel als PDF abrufen und die zugehörigen Quelltexte direkt downloaden.

Sie sind bereits Abonnent? Dann registrieren Sie Ihr Abonnement jetzt online und greifen Sie sofort auf das komplette Artikelarchiv zu.

Einzelheft-Bestellung

Sie interessieren sich für diesen Artikel und haben noch kein Abonnement? Dann bestellen Sie doch einfach diese Ausgabe der dotnetpro als Einzelheft.

Abo-Bestellung

Probeabo
Wenn Sie die dotnetpro kennenlernen wollen, ist das Probeabo genau richtig für Sie. Lesen Sie die aktuelle sowie die kommende Ausgabe zu einem besonders günstigen Preis.








Abo
Wenn Sie die neue Ausgabe der dotnetpro als Erster lesen wollen, dann liegen Sie mit einem Abo genau richtig – zwölf Mal pro Jahr druckfrisch in Ihrem Briefkasten und das noch bevor das Heft am Kiosk erhältlich ist.

Sie finden diesen Artikel interessant? Dann helfen Sie anderen ihn zu finden und kicken Sie ihn bei www.dotnet-kicks.de!

Tags

__ftol2   __real   00000011   00000018   0000001b   00000021   00000024   00000027   00411C0Emovdword   00411C15flddword   00411C18fmuldword   00411C1E   00411C1Ecall   00411C1Efstpdword   00411C21   00411C21flddword   00411C23   00411C23movdword   00411C24   00411C24call   00411C29   00411C29movdword   00EE0098h   083_Rundungen_mlo_ws_kf_ws04   1000   1056   1057   1375   2003   2005   200516   200583   200585   2005www   411564h   41291EB8h   4280C8h   42c80000   569999694824218   999857   9999694824218   A0505Rundung   Abbil   Abbildung   Abbildung1   Abbildung2   Abbildung3   aber   abge   abgespeichert   abhängig   abholen   Access   alle   also   Analyse   analysieren   analysiert   anderes   angezeigt   anschließend   anstel   antwortlich   Anweisun   Anweisung   Anweisungen   Arbeit   Archiv   Assembler   Assemblercode   auch   aufgrund   Aufruf   auftreten   auftritt   Ausführung   Ausgabe   ausgeben   ausgedrückt   ausprobieren   Auto   Autor   Basic   beachtet   befindet   Begrüßungsgeschenk   beiden   beider   beim   Beispielcodes   BeispielDBs   Beiträge   bemerkbar   Berater   bereits   besäße   beschriebene   besitzt   Besonders   bestimmten   Bevor   bewusst   bitte   Bleibt   Blick   breite   Breiten   breites   bringt   bugger   call   chenwerk   ClaudioGanahlist   Code   Compiler   Compilergenau   CompilerrundetbeiderUmwandlungvonFließkommazahlenin   ConsultingGmbH   dabei   dafür   dann   daraus   DasRegisterST0zeigtdenkorrektenWertderVariablenfan   dass   dasselbe   Datenbankentwickler   Datenpool   Datentyp   Datentyps   dazu   DEBUG   Debugger   demonstrieren   denen   denn   DerC   deren   derVB   derzeitigen   Detail   Developer   dies   diese   dieselbe   diesem   diesen   dieser   dieses   diglich   direkt   diskutieren   doch   Dort   dotnetpro   dotnetprowarntvorRundungsfehlern   Double   double80   drei   dung   durch   Durchlauf   ebenfalls   Effekt   eigenar   eigenen   eigentlich   eigentümlichen   EinältererMathematiklehrerwirdgefragt   eine   einem   einen   einer   einerGenauigkeit   eines   einfach   einfügt   einmal   Einsatz   empfiehlt   Emulator   entsprechend   entsprichtaberdemZahlenwert   Entwick   Entwickler   Entwicklertools   Entwicklungsrechner   EntwicklungunterC   Erarbeitetals   Ergebnis   ergibt   Erholtseine   Erklärungen   ersichtlich   erste   ersten   erwartet   erzeugt   exakt   exakten   Existiert   Fall   Fehler   Fehlers   Fenster   feststel   feststellen   Festzuhalten   flddword   Fließkom   Fließkommatypenin   Fließkommawerten   Fließkommazahl   Floa   float   Floating   fmulqword   folgen   folgende   Folgenden   folgender   Fragments   Frame   frndint   fstp   fstpdword   führen   führt   Fürdotnetpro   fürs   Galerie   ganahl   Ganzzahl   ganzzahlige   ganzzahligeWerterichtig   gearbeitet   gebnis   geboten   gelegt   genau   Genauer   genaueren   Genauigkeit   generiert   generierte   generierten   genommen   geschrieben   gespeichert   getestet   getreten   gewählten   gewohnter   gezeigt   gibt   gleich   gramm   größte   grundsätzlich   guter   Hand   heißt   heren   hier   Hochsprache   Icon   identisch   Ihnen   immer   Inhalt   inkl   inklusive   inte   Integer   Intel   interessant   Intermediate   intern   interpretiert   jeder   JederPentium   jetzt   Jornada   kann   keiner   Klasse   kleinen   Know   Kommt   können   konstruierte   konvertiert   Kosten   lang   laufen   Leserstatt299   letzt   lich   licht   liefert   liegt   Logarithmentafelnheraus   lungsumgebung   Lupe   machen   Magazin   Maschinenbefehle   Math   matischbeider   mazahlen   mehr   Meis   Microsoft   möglich   Moment   Monate   movdword   Multipliziert   murmeltvorsichhinundantwortetnacheinigerZeit   muss   müssen   mutet   MwSt   nach   nachdem   Nachkomma   Nachkommastel   Nachkommastellen   nachzuvollziehen   nämlich   natür   nehmen   NETdotnetpro   nicht   nichts   nifikanten   notwendig   nurEUR199   obigen   oder   Ohne   online   Operanden   Paket   Paradies   passiert   Pentium   Performance   Pocket   Point   praktisch   Praxis   Prinzip   Problematik   professionelle   Profis   Programm   Programme   Programmfragment   Programmfragmente   Programmierer   ProgrammierermussselbstfürdierichtigeRundungsorgen   Programmierern   Programmteilen   Prozes   Prozessor   Prozessorregister   Prozessors   ProzessorwürdesichdieserAntwortsofortanschließen   pseudo   Quellcode   Rechen   Rechengenauigkeit   Rechenoperationengelegt   Rechenwerk   rechnet   Register   rich   Round   rundet   rundum   rundung   Rundungseffekt   Rundungsfeh   Rundungsfehler   RundungsfehlerbeimUmwandelnvonFließkommawerteninGanzzahlwerte   Rundungsproblem   scheinbar   schen   schließendden   Schluss   schnitten   schon   Schritt   sehen   sein   Seiten   selbst   seltsamen   sich   sicher   Sicht   sichtbar   Sieerreichenihnunterclau   sieht   Single   sion   Sitzt   snicht   sofortineigeneDBsintegrierbar   Sofortzugriff   sondern   sorglos   Sorichtigdumm   sors   sowohl   Speicherplatz   Spra   SprachenC   spricht   Stack   steht   Stelle   stellen   Stimmen   Studio   Tail   Tatsache   tatsächlich   TechnikTypumwandlung   TeilhaberderSoftware   tens   Teslab   Test   thoden   tierterSoftware   tigen   ting   tiplikation   tiplikationebenfallsderWert   Tipps   tium   TOOLS   trat   Tricks   Tritt   Tückische   uage   Überein   Überprüfung   übersetzt   übrig   UhrSeite   umgewandelt   Umwandlung   Umwandlungen   unabhängig   undC   undTrainerimBereichobjektorien   unerklärliches   Unit   unter   Unternehmen   Unterschied   unwahrscheinlicher   Ursprung   Varia   Variable   Variablen   verarbeitet   vergleichen   Verhal   Verhalten   vermieden   Version   Version1inAssembler   Version1inC   Version1mitVB   Version2inAssembler   Version2inC   Versionen   verwenden   verwendet   verwendeten   Visual   Volume   VoraussetzungenVS   vorliegenden   vornher   Vorsicht   wahre   Während   wandelt   wandlung   wäre   weil   weise   weiß   weiteren   wenig   Wenn   wenndieseZahlanschließendfalschauf3stattauf4gerundetwird   WennSieab   werbefreies   werden   Werk   Wert   Werte   wichtig   wieder   wiederum   wieviel2plus2ergibt   wird   wirdes   wirklich   Wissen   worin   Works   Workshops   wurde   Zahl   Zahlen   Zielsystems   zugeordnet   zugewiesen   Zwar   zwei   zweiten

Login
Sie sind nicht eingeloggt.

Login & Registrierung
Abo bestellen





Anzeige





Newsletter
Tragen Sie Ihre E-Mailadresse für den kostenlosen Newsletter von dotnetpro ein.


Umfrage
Wie zufrieden sind Sie mit Ihrem Gehalt?




Ergebnis anzeigen