Digitale Auflösung ist die Genauigkeit von digitalen Mess- oder Rechenoperationen.
Bit-Genauigkeit ist das Maß für diese Genauigkeit.

Eine Genauigkeit von 8 Bit, also 1 Byte entspricht beispielsweise einer Genauigkeit von 1/(2^8) = 1/256 oder 0,390625%-Schritten. Das ist insbesondere beim Wandeln von Analog-Signal zum Digital-Wert wichtig, wenn ein Messwert eines Sensors (Helligkeit, Lautstärke oder ähnliches) digital weiterverarbeitet werden soll.

Grafikaufnahmen

---

Beim Schwarzweißsignal reicht eine Genauigkeit von 8 Bit aus, um mit den daraus resultierenden 256 Schattierungen ein natürlich erscheinendes Bild abzuspeichern Grauwertbild). Nur wenn der Kontrast später stark erhöht werden soll, ist eine höhere Genauigkeit nötig. Anders verhält es sich mit Farbbildern: 256 Farben führen zu mangelhaften, körnigen oder comichaften Aufnahmen, sodass heute meistens jeder der drei Farbkanäle (rot, grün, blau) mit 8 Bit gespeichert wird.

Tonaufnahmen

---

Bis ungefähr 1995 arbeiteten die meisten Soundkarten mit Acht-Bit-Genauigkeit, wo noch ein leises Hintergrundrauschen zu hören ist. Bei CDs und moderneren Soundkarten sind je 16 Bit pro Kanal üblich (rechts und links). Bei der Sprachübertragung mittels ISDN wird das analoge Eingangssignal mit einer Genauigkeit von 12 Bit pro Wert abgetastet und anschließend auf 8 Bit komprimiert, um die Besonderheiten der menschlichen Wahrnehmung zu berücksichtigen. Numerische Mathematik | Multimedia | Computergrafik