[정보통신] 양자화·비트수·오차 한 장 정리
페이지 정보
본문
Sampling으로 얻은 표본값은 여전히 아주 세밀한 연속 크기입니다. Quantization은 그 값을 미리 정한 유한한 진폭 단계 가운데 하나로 대응시킵니다.
핵심 구조
- 표본당 비트 수가 n bit이면 표현 가능한 단계 수는 L = 2ⁿ입니다.
- 균일 양자화에서 입력 범위를 같은 간격으로 나누면 Δ = (Vmax − Vmin) / L로 볼 수 있습니다.
- 대표적인 반올림형 균일 양자화에서는 입력이 범위 안에 있을 때 최대 오차를 대략 |eᵩ| ≤ Δ/2로 봅니다.
- 같은 입력 범위에서 비트 수가 늘면 단계 수는 늘고, 간격은 좁아지며, 일반적으로 양자화 오차는 작아집니다. 대신 저장·전송 데이터량은 증가합니다.
관계n ↑ → L = 2ⁿ ↑ → Δ ↓ → |eᵩ| ↓
한 줄 기억비트 수가 늘어난다는 것은 같은 범위를 더 촘촘한 눈금으로 기록한다는 뜻입니다.헷갈리지 않기양자화는 ‘실수로 값을 망가뜨리는 과정’이 아니라 무한히 세밀한 현실을 유한한 비트로 기록하기 위한 정밀도 약속입니다.원문 기반 · 《정보통신의 방향》 방향 01 · p.18~22관련 원문 학습 보기 →