Computer arithmetic

Der Aiken-Code (auch bekannt als 2421-Code ) ist ein komplementärer binärkodierter Dezimalcode (BCD-Code). Gemäß der folgenden Tabelle werden den Dezimalziffern von 0 bis 9 jeweils vier Bits zugeordnet.

In der Informatik ist eine arithmetisch-logische Einheit ( ALU ) eine kombinatorische digitale Schaltung , die arithmetische und bitweise Operationen auf binären Ganzzahlen durchführt .

Das balancierte ternäre Zahlensystem (Basis 3 mit drei Ziffern ) verwendet eine symmetrische Darstellung der ganzen Zahlen mit den Werten −1 , 0 und 1.

Die Mantisse (auch Koeffizient , manchmal Argument oder, etwas ungenau , Mantisse , Bruch oder Charakteristik ) ist der erste ( linke) Teil einer Zahl in wissenschaftlicher Notation oder verwandten Konzepten in

Die biquinäre Dezimalkodierung ist ein Zahlenkodierungsverfahren, das in vielen Abakussen und einigen frühen Computern , insbesondere dem Colossus , verwendet wurde .

Eine Binärzahl ist eine Zahl , die im Binärsystem ( Basis 2) dargestellt wird . Dieses Zahlensystem verwendet nur zwei Symbole für die natürlichen Zahlen : typischerweise 0 ( Null ) und 1 ( Eins ).

Die Bitlänge oder Bitbreite ist die Anzahl der Binärziffern, genannt Bits , die notwendig sind, um eine vorzeichenlose ganze Zahl als Binärzahl darzustellen .

Ein reeller Datentyp ist ein Datentyp, der in Computerprogrammen verwendet wird, um eine Annäherung an eine reelle Zahl darzustellen .

Ein Dezimaltrennzeichen ist ein Symbol, das den ganzzahligen Teil vom Nachkommateil einer Dezimalzahl trennt . Verschiedene Länder verwenden offiziell unterschiedliche Symbole als Dezimaltrennzeichen.

In der Mathematik ist die Division durch Null , also die Division, bei der der Divisor (Nenner) null ist , ein problematischer Spezialfall.

Das Gleitkommaformat mit einfacher Genauigkeit (manchmal auch FP32 , float32 oder float genannt ) ist ein Computerzahlenformat , das üblicherweise 32 Bit im Computerspeicher belegt ; es stellt eine breite Palette

In der Informatik bezeichnet Gleitkommaarithmetik ( FP ) die Arithmetik auf Teilmengen der reellen Zahlen, die durch Multiplikation einer Mantisse (einer vorzeichenbehafteten Folge von Ziffern mit fester Anzahl in einer

Die GNU Multiple Precision Arithmetic Library ( GMP ) ist eine freie Bibliothek für Arithmetik mit beliebiger Genauigkeit , die mit vorzeichenbehafteten ganzen Zahlen , rationalen Zahlen und Gleitkommazahlen arbeitet .

In der Informatik und Telekommunikation bilden Hamming-Codes eine Familie linearer Fehlerkorrekturcodes .

In der numerischen Analysis reduziert der Kahan-Summationsalgorithmus , auch bekannt als kompensierte Summation , den numerischen Fehler der Summe einer Folge von Gleitkommazahlen endlicher Genauigkeit im Vergleich zum

In der Informatik und Mathematik liefert die Modulo-Operation den Rest oder den vorzeichenbehafteten Rest einer Division , nachdem eine Zahl durch eine andere geteilt wurde; letzterer wird als Modulus der Operation

In der Informatik , insbesondere in der digitalen Signalverarbeitung , ist die Multiplikations-Akkumulations- ( MAC ) oder Multiplikations-Addier- Operation ( MAD ) ein gängiger Schritt, der das Produkt zweier Zahlen

In der angewandten Mathematik wird eine Zahl als normalisiert bezeichnet , wenn sie in wissenschaftlicher Notation mit einer von Null verschiedenen Dezimalziffer vor dem Komma geschrieben wird.

Runden ist der Vorgang , eine Zahl auf einen näherungsweise liegenden , praktischeren Wert anzupassen , oft durch eine kürzere oder einfachere Darstellung.

Die Sättigungsarithmetik ist eine Variante der Arithmetik, bei der alle Operationen, wie Addition und Multiplikation , auf einen festen Bereich zwischen einem Minimal- und einem Maximalwert beschränkt sind.

In der Informatik sind subnormale Zahlen die Teilmenge der denormalisierten Zahlen (manchmal auch Denormalzahlen genannt ), die den Unterlauf um Null in der Gleitkommaarithmetik ausfüllen .

TensorFloat-32 ( TF32 ) ist ein numerisches Gleitkommaformat , das für Tensor Core auf bestimmten Nvidia- GPUs entwickelt wurde. Es wurde erstmals in der Ampere- Architektur implementiert .

In der Informatik bezeichnet das Vorzeichenbit ein Bit in der Darstellung von Zahlen mit Vorzeichen , das das Vorzeichen einer Zahl angibt .

Ein 2-aus-5-Code verwendet zehn mögliche Kombinationen aus zwei Einsen und drei Nullen, um die Dezimalziffern mit fünf Bits zu kodieren .