Direkt zum Inhalt

Lexikon der Mathematik: Festkommaarithmetik

das Rechnen mit Zahlendarstellungen reeller Zahlen durch zwei Ziffernfolgen z1 uns z2 fester Länge, wovon z1 die Vorkomma- und z2 die Nachkommastellen der zu speichernden Zahl in einem festgelegten Zahlen-system beschreiben.

Negative Zahlen werden mittels Betrags-Vorzeichen-Code oder (häufiger) Komplementdarstellung gespeichert. Beim Addieren von Festkommazahlen treten grundsätzlich Überlaufprobleme auf, die dem Programmierer üblicherweise durch spezielle Prozessorbits oder Behandlungsroutinen signalisiert werden. Bei der Division treten Überlaufprobleme (sehr kleine Divisoren) und Unterlaufprobleme (sehr große Divisoren) auf. Rundungsprobleme bei der Multiplikation treten bei nichtleerem z2 auf. Überlaufprobleme bei der Multiplikation treten bei nichtleerem z1 auf.

Verbreitet ist die Festkommaarithmetik vor allem für ganze Zahlen (z2 leer) und Zahlen zwischen 0 und 1 (z1 leer).

Lesermeinung

Wenn Sie inhaltliche Anmerkungen zu diesem Artikel haben, können Sie die Redaktion per E-Mail informieren. Wir lesen Ihre Zuschrift, bitten jedoch um Verständnis, dass wir nicht jede beantworten können.

  • Die Autoren
- Prof. Dr. Guido Walz

Partnervideos