Esercizio 19differenza e somma di gaussiane standard

---

(a) Densità di $Z = X - Y$ e $V = X + Y$

Sono gaussiane

$X$ e $Y$ sono gaussiane indipendenti, quindi ogni loro combinazione lineare $aX + bY$ è gaussiana (Distribuzione gaussiana (normale)N(μ, σ²) ha densità e^(−(x−μ)²/(2σ²)) / √(2πσ²), a campana centrata in μ con larghezza σ; media μ, varianza σ²; si standardizza con Z = (X − μ)/σ ~ N(0, 1) e si calcola P(X ≤ x) = Φ((x − μ)/σ), con Φ(−z) = 1 − Φ(z); aX + b è ancora gaussiana, N(aμ + b, a²σ²).Distribuzione gaussiana (normale) →; dimostrazione rapida con la Funzione caratteristicaLa funzione caratteristica φ_X(θ) = E[e^(iθX)] = E[cos θX] + iE[sin θX] esiste per ogni v.a. e ogni θ, vale 1 in 0, ha modulo ≤ 1, determina la legge (è la trasformata di Fourier della densità), trasforma le somme di v.a. indipendenti in prodotti e dà i momenti: E[X^k] = φ^(k)(0) / i^k. Per N(μ, σ²) vale e^(iμθ − σ²θ²/2).Funzione caratteristica →). Per $Z$: $-Y$ è ancora $N(0, 1)$ (la densità standard è pari, quindi $-Y$ ha la stessa legge di $Y$), è indipendente da $X$, e la somma di gaussiane indipendentiSe X e Y sono indipendenti, la legge di Z = X + Y è la convoluzione: p_Z(n) = Σ_k p_X(k) p_Y(n − k) nel discreto, f_Z(z) = ∫ f_X(z − y) f_Y(y) dy nel continuo. Casi notevoli: Bin(n,p) + Bin(m,p) = Bin(n+m,p), Poi(λ) + Poi(μ) = Poi(λ+μ), Geo + Geo con densità (n−1)p²(1−p)^(n−2), Exp(λ) + Exp(λ) = Γ(2,λ), gaussiane indipendenti sommano medie e varianze.Somma di variabili aleatorie indipendenti → è gaussiana. Per individuare una gaussiana bastano media e varianza.

Media e varianza

Per linearità della media: $$E[Z] = E[X] - E[Y] = 0, \qquad E[V] = E[X] + E[Y] = 0.$$

Per la varianza di una combinazione lineare, $\text{Var}(aX + bY) = a^2\text{Var}(X) + b^2\text{Var}(Y) + 2ab\,\text{Cov}(X, Y)$, con $\text{Cov}(X, Y) = 0$ per l'indipendenza (Covarianza e coefficiente di correlazioneCov(X, Y) = E[(X − E X)(Y − E Y)] = E[XY] − E[X]E[Y] misura quanto X e Y variano insieme; è bilineare, Cov(X, X) = Var(X), Var(X + Y) = Var X + Var Y + 2Cov(X, Y); ρ = Cov / (σ_X σ_Y) sta in [−1, 1] e vale ±1 solo per legami lineari. Indipendenti ⇒ non correlate, ma non viceversa (tranne per i vettori gaussiani).Covarianza e coefficiente di correlazione →): $$\text{Var}(Z) = 1^2\cdot 1 + (-1)^2\cdot 1 = 2, \qquad \text{Var}(V) = 1 + 1 = 2.$$

Attenzione al segno: nella differenza le varianze si sommano ugualmente, perché il coefficiente $-1$ si eleva al quadrato. Sottrarre una quantità aleatoria aggiunge incertezza, non ne toglie.

Densità

$Z, V \sim N(0, 2)$, con densità ($\sigma^2 = 2$, quindi $2\sigma^2 = 4$ e $\sqrt{2\pi\sigma^2} = \sqrt{4\pi} = 2\sqrt\pi$):

$$\boxed{f_Z(z) = f_V(z) = \frac{1}{2\sqrt\pi}e^{-z^2/4}, \qquad z \in \mathbb R}$$

(b) Indipendenza di $Z$ e $V$

Perché basta la covarianza

$(Z, V)$ è un vettore gaussiano: è una trasformazione lineare del vettore $(X, Y)$, che è gaussiano perché ha componenti gaussiane indipendenti:

$$\begin{pmatrix} Z \\ V \end{pmatrix} = \begin{pmatrix} 1 & -1 \\ 1 & 1 \end{pmatrix}\begin{pmatrix} X \\ Y \end{pmatrix}.$$

(Prodotto riga per colonna, Operazioni tra matriciLe matrici m×n formano uno spazio vettoriale (somma e prodotto per scalare elemento per elemento); il prodotto righe per colonne corrisponde alla composizione di funzioni lineari, è associativo ma non commutativo; la trasposta scambia righe e colonne e (AB)^T = B^T A^T.Operazioni tra matrici →: la prima riga dà $1 \cdot X + (-1) \cdot Y = Z$, la seconda $X + Y = V$.)

Per un vettore gaussiano, indipendenza e non correlazione coincidono (Vettori gaussianiX = (X₁, ..., Xₙ) è un vettore gaussiano N(m, Σ) se ogni combinazione lineare a·X è gaussiana (equivalentemente X = m + AZ con Z gaussiane standard indipendenti); se Σ è invertibile ha densità exp(−½(x−m)ᵀΣ⁻¹(x−m)) / √((2π)ⁿ det Σ). Proprietà chiave: AX + b ~ N(Am + b, AΣAᵀ), le marginali sono gaussiane e componenti non correlate sono indipendenti.Vettori gaussiani →). Quindi basta verificare che $\text{Cov}(Z, V) = 0$.

Calcolo della covarianza

Con la bilinearità (si sviluppa come un prodotto, termine per termine):

$$\text{Cov}(X - Y, X + Y) = \text{Cov}(X, X) + \text{Cov}(X, Y) - \text{Cov}(Y, X) - \text{Cov}(Y, Y).$$

I due termini centrali si cancellano (la covarianza è simmetrica) e $\text{Cov}(X, X) = \text{Var}(X)$:

$$\text{Cov}(Z, V) = \text{Var}(X) - \text{Var}(Y) = 1 - 1 = 0.$$

Controllo con la formula matriciale dei Vettori gaussianiX = (X₁, ..., Xₙ) è un vettore gaussiano N(m, Σ) se ogni combinazione lineare a·X è gaussiana (equivalentemente X = m + AZ con Z gaussiane standard indipendenti); se Σ è invertibile ha densità exp(−½(x−m)ᵀΣ⁻¹(x−m)) / √((2π)ⁿ det Σ). Proprietà chiave: AX + b ~ N(Am + b, AΣAᵀ), le marginali sono gaussiane e componenti non correlate sono indipendenti.Vettori gaussiani →, $\Sigma_{(Z,V)} = B \Sigma_{(X,Y)} B^T$ con $\Sigma_{(X,Y)} = I$: $BB^T = \begin{pmatrix} 1 & -1 \\ 1 & 1 \end{pmatrix}\begin{pmatrix} 1 & 1 \\ -1 & 1 \end{pmatrix} = \begin{pmatrix} 1 + 1 & 1 - 1 \\ 1 - 1 & 1 + 1 \end{pmatrix} = \begin{pmatrix} 2 & 0 \\ 0 & 2 \end{pmatrix}$: varianze $2$ e covarianza $0$ ✓.

$$\boxed{Z \text{ e } V \text{ sono indipendenti}}$$

Perché è sorprendente. $Z$ e $V$ sono costruite con le stesse $X$ e $Y$, eppure sono indipendenti: sapere quanto vale $X + Y$ non dà alcuna informazione su $X - Y$. È una proprietà speciale della gaussiana: geometricamente, $(Z, V)$ si ottiene da $(X, Y)$ con una rotazione di $45°$ e un ingrandimento di $\sqrt2$, e la densità di $(X, Y)$ è invariante per rotazioni (dipende solo da $x^2 + y^2$). Infatti $B = \sqrt2 \begin{pmatrix} \frac{1}{\sqrt2} & -\frac{1}{\sqrt2} \\ \frac{1}{\sqrt2} & \frac{1}{\sqrt2} \end{pmatrix}$, e la matrice tra parentesi è $\begin{pmatrix} \cos\alpha & -\sin\alpha \\ \sin\alpha & \cos\alpha \end{pmatrix}$ con $\alpha = 45°$ ($\cos 45° = \sin 45° = \frac{1}{\sqrt2}$): una rotazione, che conserva le distanze dall'origine e quindi le circonferenze di livello.

Con $X, Y$ uniformi, ad esempio, $X + Y$ e $X - Y$ sarebbero non correlate ma non indipendenti (se $X + Y$ vale quasi $2$, entrambe sono quasi $1$ e $X - Y$ è costretta vicino a $0$).

Densità congiunta

Per l'indipendenza, prodotto delle marginali $N(0, 2)$:

$$\boxed{f_{Z,V}(z, v) = \frac{1}{2\sqrt\pi}e^{-z^2/4}\cdot\frac{1}{2\sqrt\pi}e^{-v^2/4} = \frac{1}{4\pi}e^{-\frac{z^2 + v^2}{4}}, \qquad (z, v) \in \mathbb R^2}$$

(c) Matrice di covarianza di $(X, Z)$

Servono le due varianze e la covarianza.

• $\text{Var}(X) = 1$ (dato).
• $\text{Var}(Z) = 2$ (punto (a)).
• $\text{Cov}(X, Z) = \text{Cov}(X, X - Y) = \text{Cov}(X, X) - \text{Cov}(X, Y) = 1 - 0 = 1$, per bilinearità e indipendenza di $X$ e $Y$.

$$\boxed{C = \begin{pmatrix} \text{Var}(X) & \text{Cov}(X, Z) \\ \text{Cov}(X, Z) & \text{Var}(Z) \end{pmatrix} = \begin{pmatrix} 1 & 1 \\ 1 & 2 \end{pmatrix}}$$

Controlli. È simmetrica e ha determinante $1 \cdot 2 - 1 \cdot 1 = 1 > 0$ con diagonale positiva (per una $2 \times 2$ simmetrica questo vuol dire definita positiva, vedi Segno di una forma bilineare simmetricaPer capire se una forma bilineare simmetrica è definita positiva, negativa, semidefinita o indefinita si usano quattro metodi: segni degli autovalori, regola di Cartesio sul polinomio caratteristico, minori principali di nord-ovest, completamento dei quadrati. Il teorema di Sylvester dice che il numero di segni + e − in una forma diagonale non dipende dalla base.Segno di una forma bilineare simmetrica →; ogni matrice di covarianza è almeno semidefinita positiva). Il coefficiente di correlazione è $\rho(X, Z) = \frac{\text{Cov}(X, Z)}{\sqrt{\text{Var}(X)\text{Var}(Z)}} = \frac{1}{\sqrt{1\cdot 2}} = \frac{1}{\sqrt2} \approx 0{,}71$: positivo, perché $Z = X - Y$ contiene $X$ con il segno $+$.

Con la formula matriciale. $(X, Z) = B(X, Y)$ con $B = \begin{pmatrix} 1 & 0 \\ 1 & -1 \end{pmatrix}$ e $\Sigma_{(X,Y)} = I$, quindi $C = BIB^T = BB^T = \begin{pmatrix} 1 & 1 \\ 1 & 2 \end{pmatrix}$ ✓. Gli elementi di $BB^T$ sono i prodotti scalari tra le righe di $B$: $(1, 0) \cdot (1, 0) = 1$, $(1, 0) \cdot (1, -1) = 1$, $(1, -1) \cdot (1, -1) = 2$.

Errori comuni

• $\text{Var}(X - Y) = 0$ sottraendo le varianze.
• Concludere l'indipendenza di $Z$ e $V$ da $\text{Cov} = 0$ senza dire che $(Z, V)$ è gaussiano.
• Dire che $(Z, V)$ è gaussiano "perché $Z$ e $V$ sono gaussiane": le marginali gaussiane non bastano; il motivo giusto è che $(Z, V)$ è trasformazione lineare di un vettore gaussiano.
• In (c) mettere $\text{Cov}(X, Z) = 0$ pensando che $X$ e $Z$ siano indipendenti: $Z$ contiene $X$.