A mintavételezés kapcsán felmerül egy másik fontos kérdés: a mintavételezési tétel meghatározza ugyan, hogy milyen frekvenciával kell mintavételezni egy jelet, azt azonban nem mondja meg, hogy a mintavételezett folytonos tartományból származó értéket hogyan képezzük le digitális, diszkrét jellé. Más szavakkal kifejezve: hány biten, azaz milyen pontossággal ábrázoljuk az egyes mintavételezett értékeket. Az ábrázolási pontosságot a digitális jelfeldolgozásban bitmélységnek hívják.

Érezhető módon egy 1 bitmélységgel ábrázolt digitális jel csak 0-kat és 1-eseket tartalmaz, azaz a mintavételezett jel értékét minden mintavételezési pontban vagy 1-re vagy 0-ra képezzük le. 2 bit mélységű mintavételezésnél már pontosabb az ábrázolás: a folytonos értékeket egy négy elemű diszkrét skálához rendeljük. 8 bit mélységen, ami például a digitális képfeldolgozásban széleskörűen elfogadottnak tekinthető, a mintavételezett értékeket egy 256 elemű skálához rendelik, míg a nagypontosságú képalkotásban a beérkező jeleket 16 bitre, azaz 65536 diszkrét elemre kvantálják.

Felmerül a kérdés, hogy a kvantálást milyen módon oldhatjuk meg, illetve oldják meg valós jelfeldolgozó alkalmazásokban? N biten történő ábrázolás esetén lineáris legyen a hozzárendelés a diszkrét elemhez, vagy esetleg nemlineáris, azaz bizonyos tartományokban részletesebb, más tartományokban durvább?

A digitális jelfeldolgozás során az elsődleges kvantálást a mérőműszerben megjelenő analóg-digitális (A/D) átalakító áramkör végzi, amely jellemzően lineáris, egyenlő szélesség szerinti kvantálást valósít meg: jelölje a beérkező, értékeiket folytonos intervallumból felvevő mintákat és valósítsunk meg M bitmélységű kvantálást, azaz x értékeit különböző egész értékhez szeretnénk hozzárendelni. A jel fizikai tulajdonságai, illetve a mintavételező berendezés paraméterei alsó és felső korlátot szabnak a beérkező jel nagyságának, így feltehetjük, hogy . Ekkor az intervallumot felbonthatjuk N részintervallumra, melyek szélessége egyaránt . A beérkező x jelhez azt a számot rendeljük, melyre teljesül. Ha az értéktől kisebb vagy az értéktől nagyobb értékű x minta érkezik, akkor ahhoz rendre 0 vagy értéket rendelünk.

A gyakorlatban sokszor előfordul, hogy a minta ábrázolása nem megfelelő bitmélységen történik, például sok statisztikus tanulóalgoritmus esetén célszerű nem túl nagy bitmélységet használni, mert az exponenciálisan növeli az algoritmusok tár és műveletigényét. Ilyen esetekben az A/D átalakító által már kvantált mintákat mesterségesen újrakvantálhatjuk, s a minta sajátosságainak ismeretében akár nem-lineáris kvantálást is megvalósíthatunk, ha a minta által felvehető értékek valamely tartományában nagyobb pontosságot szeretnénk kapni. Újrakvantálásra használhatjuk például az alább bemutatásra kerülő módszereket:

Legyen adott egy számsorozat, melyet N darab egész számhoz szeretnénk, rendelni, azaz bitmélységgel kvantálni: