Esercizio - progetto di un quantizzatore non uniforme

Testo (approfondimento facoltativo del corso). Un segnale aleatorio $x(t)$ ha ampiezza con densità $p_x(x)$ lineare crescente: nulla fino a $x=-V$, che sale con una retta fino al valore $\frac1V$ in $x=V$, e nulla dopo. Se ne ricavino il valor medio $m_x$ e la potenza $M_x$. Si considera una quantizzazione generica con rappresentazione dei valori a $2$ bit, cioè con tre soglie nell'intervallo $[-v_{sat},v_{sat}]$: quale intervallo conviene? In generale, se $y$ è l'uscita del quantizzatore, il valor medio dell'errore di quantizzazione è $m_{e_q}=m_y-m_x\neq0$: si ricavi $m_y$ (suggerimento: si faccia il conto sui diversi intervalli di quantizzazione) e da esso la media di $e_q$. Con procedura analoga si ricavi la potenza dell'errore di quantizzazione (conviene scriverla in modo letterale, così è più generale). Si verifichi che un quantizzatore uniforme mid-riser a $2$ bit ottiene più o meno le stesse prestazioni previste dalla formula teorica (nonostante le ipotesi sull'errore non siano verificate). Sfida: poiché $x(t)$ non ha distribuzione uniforme, il quantizzatore uniforme non è la scelta migliore possibile: si riesce a fare di meglio? Si dovrebbe migliorare di circa $1$ dB. Qualcuno sostiene di esserci riuscito addirittura con un quantizzatore mid-tread (che cosa vuol dire in questo caso?).

Teoria usata: Quantizzazione e rumore di quantizzazioneIl quantizzatore mappa ogni campione reale su uno dei $L=2^b$ livelli. Il quantizzatore uniforme mid-riser ha passo $\Delta=\frac{2v_{sat}}{L}$, soglie multiple di $\Delta$ e livelli multipli dispari di $\frac\Delta2$. L'errore $e_q=a_q-a$ è granulare (in $[-\frac\Delta2,\frac\Delta2]$, circa uniforme, potenza $\frac{\Delta^2}{12}$) o di saturazione (fuori da $[-v_{sat},v_{sat}]$, trascurabile se $P_{sat}$ è piccola). L'SNR è $\Lambda_q=\frac{M_a}{M_{e_q}}$ e, con saturazione trascurabile, $[\Lambda_q]{dB}=6{,}02,b+4{,}77-20\log{10}\frac{v_{sat}}{\sigma_a}$: $+6$ dB per ogni bit.Quantizzazione e rumore di quantizzazione →, Valore attesoIl valore atteso E[X] = Σ x p_X(x) è la media dei valori di X pesata con le loro probabilità (esiste se la serie converge assolutamente); per una funzione g vale E[g(X)] = Σ g(x) p_X(x) senza trovare la legge di g(X), ed E è lineare: E[aX + bY + c] = aE[X] + bE[Y] + c.Valore atteso →, Varianza e momentiI momenti E[X^k] e i momenti centrati E[(X − μ)^k] descrivono la forma di una legge; la varianza Var(X) = E[(X − μ)²] = E[X²] − E[X]² misura quanto X si disperde attorno alla media, vale Var(aX + b) = a² Var(X) e Var(X) = 0 solo se X è costante.Varianza e momenti →.

Densità, media e potenza

La retta passa per $(-V,0)$ e $\left(V,\frac1V\right)$, quindi $p_x(x)=\frac{x+V}{2V^2}$ per $\lvert x\rvert\le V$. Area: $\frac12\cdot2V\cdot\frac1V=1$ ✓. Media e potenza: $$m_x=\int_{-V}^Vx\,\frac{x+V}{2V^2}dx=\frac1{2V^2}\left[\frac{x^3}3+\frac{Vx^2}2\right]_{-V}^{V}=\frac1{2V^2}\cdot\frac{2V^3}3=\frac V3,$$ $$M_x=\int_{-V}^Vx^2\frac{x+V}{2V^2}dx=\frac1{2V^2}\left[\frac{x^4}4+\frac{Vx^3}3\right]_{-V}^{V}=\frac1{2V^2}\cdot\frac{2V^4}3=\frac{V^2}3.$$ (la parte dispari dell'integranda si annulla sull'intervallo simmetrico); varianza $\sigma_x^2=M_x-m_x^2=\frac{V^2}3-\frac{V^2}9=\frac{2V^2}9$. Il segnale non ha media nulla. Da qui in poi $V=1$ (i risultati si moltiplicano per $V$ o $V^2$).

Quale intervallo: $[-V,V]$

La densità è nulla fuori da $[-V,V]$: con $v_{sat}=V$ non c'è saturazione e tutti i livelli sono usati; con $v_{sat}<V$ si saturerebbe, con $v_{sat}>V$ si sprecherebbe risoluzione. Non conviene centrare il segnale sottraendo la media (come si fa a volte): $x-m_x$ occuperebbe $\left[-\frac43V,\frac23V\right]$, un intervallo più ampio.

Media e potenza dell'errore di un quantizzatore generico

Siano $\mathcal R_i$ le quattro regioni (tre soglie), $Q_i$ i livelli, e $$p_i=\int_{\mathcal R_i}p_x\,dx,\qquad\mu_i=\int_{\mathcal R_i}x\,p_x\,dx.$$ Il valor medio dell'uscita si ottiene sommando sugli intervalli di quantizzazione (ogni $x\in\mathcal R_i$ diventa $Q_i$): $$m_y=\sum_iQ_ip_i,\qquad m_{e_q}=m_y-m_x=\sum_iQ_ip_i-m_x.$$ La potenza dell'errore è la somma degli integrali sulle regioni: $$M_{e_q}=\sum_i\int_{\mathcal R_i}(x-Q_i)^2p_x\,dx=M_x-2\sum_iQ_i\mu_i+\sum_iQ_i^2p_i.$$

Quantizzatore uniforme mid-riser a $2$ bit

$\Delta=\frac{2V}4=\frac V2$; soglie $-\frac V2,0,\frac V2$; livelli $-\frac{3V}4,-\frac V4,\frac V4,\frac{3V}4$. Con $p(x)=\frac{x+1}2$ (per $V=1$) e $\int\frac{x+1}2dx=\frac{(x+1)^2}4$: $$p_1=\frac{(1/2)^2}4=\frac1{16},\quad p_2=\frac{1-1/4}4=\frac3{16},\quad p_3=\frac{9/4-1}4=\frac5{16},\quad p_4=\frac{4-9/4}4=\frac7{16}$$ (somma $1$ ✓: i livelli più alti sono più probabili). Quindi $$m_y=-\frac34\cdot\frac1{16}-\frac14\cdot\frac3{16}+\frac14\cdot\frac5{16}+\frac34\cdot\frac7{16}=\frac{-3-3+5+21}{64}=\frac5{16}V,\qquad m_{e_q}=\frac5{16}V-\frac13V=-\frac V{48}\neq0:$$ l'errore ha una media non nulla (il quantizzatore, simmetrico, "sposta" leggermente verso il basso).

Potenza dell'errore. In ogni regione la densità è lineare, $p(x)=p(Q_i)+p'\,(x-Q_i)$ con $p'=\frac1{2V^2}$ e $p(Q_i)=\frac{p_i}\Delta$ (il valore della retta nel punto medio è il valore medio sulla regione). Allora $$\int_{\mathcal R_i}(x-Q_i)^2p(x)\,dx=p(Q_i)\int_{-\Delta/2}^{\Delta/2}u^2du+p'\underbrace{\int_{-\Delta/2}^{\Delta/2}u^3du}_{=0}=p_i\frac{\Delta^2}{12}.$$ Il termine dispari si annulla: per una densità lineare in ogni regione la potenza dell'errore è esattamente $\sum_ip_i\frac{\Delta^2}{12}=\frac{\Delta^2}{12}$. Qui $\Delta=\frac V2$: $$M_{e_q}=\frac{(V/2)^2}{12}=\frac{V^2}{48}=0{,}0208\,V^2$$ (regione per regione: $\frac{p_i}{48}V^2=0{,}0013,\ 0{,}0039,\ 0{,}0065,\ 0{,}0091\,V^2$). Quindi la formula teorica $\frac{\Delta^2}{12}$, ricavata per errore uniforme e passo piccolo, qui è esatta, e conferma la robustezza dell'analisi: vale in buona approssimazione anche quando i gradini sono larghi. L'SNR è $$\Lambda_q=\frac{M_x}{M_{e_q}}=\frac{V^2/3}{V^2/48}=16\ \Rightarrow\ 12{,}04\ \text{dB}.$$ (L'errore ha media $-\frac V{48}$: se la si toglie, la varianza dell'errore è $M_{e_q}-m_{e_q}^2=0{,}0204\,V^2$, di poco inferiore.)

Il quantizzatore migliore (Lloyd-Max)

Il quantizzatore ottimo (minima $M_{e_q}$ per $L$ fissato) soddisfa due condizioni che si impongono a vicenda:

1. le soglie sono i punti medi tra livelli adiacenti: $v_j=\frac{Q_j+Q_{j+1}}2$ (ogni campione va al livello più vicino);
2. ogni livello è il baricentro della propria regione: $Q_i=\frac{\mu_i}{p_i}=E[x\mid x\in\mathcal R_i]$.

Con i livelli ai baricentri $\sum_iQ_i\mu_i=\sum_iQ_i^2p_i$ e $M_{e_q}=M_x-\sum_iQ_i^2p_i$; inoltre $m_y=\sum Q_ip_i=\sum\mu_i=m_x$, quindi $m_{e_q}=0$. Qui il baricentro di $[a,b]$ è $c=\frac{\int_a^bx(x+1)dx}{\int_a^b(x+1)dx}$ e si risolve per iterazione: si parte dal quantizzatore uniforme, si calcolano i baricentri, poi le nuove soglie come punti medi, e si ripete fino a convergenza. Si trova (con $V=1$) $$\text{soglie }-0{,}249,\ 0{,}216,\ 0{,}624;\qquad\text{livelli }-0{,}499,\ 0{,}002,\ 0{,}430,\ 0{,}819;\qquad p_i=0{,}141;\ 0{,}228;\ 0{,}290;\ 0{,}340.$$ $$M_{e_q}=M_x-\sum Q_i^2p_i=0{,}01645\,V^2,\qquad\Lambda_q=\frac{1/3}{0{,}01645}=20{,}26\ \Rightarrow\ 13{,}07\ \text{dB}.$$ Guadagno sull'uniforme: $13{,}07-12{,}04=1{,}03$ dB (il "circa $1$ dB" del testo). I livelli ottimi si addensano dove c'è più probabilità (a destra) e il secondo livello cade praticamente nello zero.

Mid-tread. Un quantizzatore mid-tread ha un livello esattamente in $0$ (la caratteristica ha un tratto piatto in zero). Il risultato precedente dice che qui è la scelta naturale: il quantizzatore ottimo ha già un livello a $0{,}002\approx0$. Imponendo il livello in zero e ottimizzando soglie e altri livelli si ottiene $$\text{soglie }-0{,}25,\ 0{,}214,\ 0{,}624;\qquad\text{livelli }-0{,}5,\ 0,\ 0{,}429,\ 0{,}818;\qquad M_{e_q}=0{,}01645\,V^2\ (13{,}07\ \text{dB}),$$ praticamente identico al Lloyd-Max: un mid-tread con $4$ livelli (asimmetrico, perché la densità lo è) raggiunge lo stesso guadagno di circa $1$ dB. Un mid-tread uniforme con passo $0{,}45V$ (livelli $-0{,}45;0;0{,}45;0{,}9$) dà già $12{,}65$ dB, meglio del mid-riser uniforme ($12{,}04$ dB).

Riepilogo