Gleitkomma

Die Gleitkomma-Codierung c_GK,k,n codiert eine reelle Zahl in normierter Form m · 2^e mit 1 ≤ |m| < 2. Die n Bit teilen sich auf in 1 Bit Vorzeichen, n − k Bit Charakteristik (EX-q mit q = 2^n-k-1 − 1) und k − 1 Bit Mantisse (Festkomma ohne führende 1, da diese durch die Normierung implizit ist). Codiert wird, indem man zuerst normiert, dann das Vorzeichenbit setzt, anschließend den Exponenten als c_EX-q,n-k(e) und schließlich |m| − 1 als c_FK,k-1,k-1 codiert und alles aneinanderhängt. Bei der Decodierung liest man das Vorzeichen aus Bit n − 1, den Exponenten via EX-q-Decodierung und die Mantisse als 1.<Mantissenbits> im Binärsystem. Einige Bitmuster sind reserviert: Charakteristik 0…0 mit Mantisse ≠ 0 sind subnormale Zahlen, Charakteristik 1…1 mit Mantisse = 0 steht für ±∞, Charakteristik 1…1 mit Mantisse ≠ 0 steht für NaN, das All-Null-Bitmuster codiert die Null. Der absolute Rundungsfehler wächst zwar mit dem Exponenten und ist durch 2^e / 2^k beschränkt, dafür bleibt der relative Fehler durch 1 / 2^k konstant. Eine wichtige Stolperfalle ist die nicht-assoziative Addition wegen der Rundung beim Exponentenangleich: zum Beispiel ergibt (2^-9 + 2²³) − 2²³ in float 0, weil 2^-9 bei der Addition verschluckt wird. Vergleiche sollten daher immer mit einer Toleranz statt mit == erfolgen.