Disuguaglianze di Markov, Chebyshev e Jensen

Punto 2 del programma ("disuguaglianze di probabilità"). Prerequisiti: Valore attesoIl valore atteso E[X] = Σ x p_X(x) è la media dei valori di X pesata con le loro probabilità (esiste se la serie converge assolutamente); per una funzione g vale E[g(X)] = Σ g(x) p_X(x) senza trovare la legge di g(X), ed E è lineare: E[aX + bY + c] = aE[X] + bE[Y] + c.Valore atteso →, Varianza e momentiI momenti E[X^k] e i momenti centrati E[(X − μ)^k] descrivono la forma di una legge; la varianza Var(X) = E[(X − μ)²] = E[X²] − E[X]² misura quanto X si disperde attorno alla media, vale Var(aX + b) = a² Var(X) e Var(X) = 0 solo se X è costante.Varianza e momenti →. Valgono identiche per le v.a. continue (Variabili aleatorie assolutamente continueX è assolutamente continua se F_X(x) = ∫ da −∞ a x di f_X(t) dt per una densità f_X ≥ 0 con integrale 1; allora P(a < X ≤ b) = ∫ da a a b di f_X, P(X = x) = 0 per ogni x, f_X = F_X' dove F_X è derivabile, E[g(X)] = ∫ g(x) f_X(x) dx, e varianza, momenti e disuguaglianze funzionano come nel caso discreto con gli integrali al posto delle somme.Variabili aleatorie assolutamente continue →) e servono a dimostrare la legge dei grandi numeriSe X₁, X₂, ... sono i.i.d. con media μ, la media campionaria X̄ₙ = (X₁ + ... + Xₙ)/n converge a μ: in probabilità (legge debole, dimostrata con Chebyshev se la varianza è finita: P(|X̄ₙ − μ| > ε) ≤ σ²/(nε²)) e quasi certamente (legge forte). Metodo Monte Carlo: ∫ g = E[g(U)] si stima con la media di g(U₁), ..., g(Uₙ) per uniformi indipendenti.Legge dei grandi numeri e metodo Monte Carlo →.

A cosa servono

Spesso di una v.a. si conoscono solo la media e la varianza, non la legge intera. Queste disuguaglianze danno comunque limitazioni garantite su probabilità come "$X$ è molto grande" o "$X$ è lontana dalla media", valide per qualunque legge. Il prezzo è che sono stime grossolane: dicono "al massimo tanto", non "circa tanto".

Disuguaglianza di Markov

Teorema (disuguaglianza di Markov). Sia $X \ge 0$ una v.a. con media finita. Per ogni $a > 0$: $$P(X \ge a) \le \frac{E[X]}{a}.$$

Dimostrazione. Si confrontano due v.a.: $X$ e $a \, \mathbb 1_{\{X \ge a\}}$ (vale $a$ se $X \ge a$, $0$ altrimenti). Per ogni esito:

• se $X(\omega) \ge a$: $a \, \mathbb 1_{\{X \ge a\}}(\omega) = a \le X(\omega)$;
• se $X(\omega) < a$: $a \, \mathbb 1_{\{X \ge a\}}(\omega) = 0 \le X(\omega)$, perché $X \ge 0$ (qui serve l'ipotesi).

Quindi $a \, \mathbb 1_{\{X \ge a\}} \le X$. Per la monotonia e linearità della mediaSe Y ≤ X allora la media di Y è al più quella di X; le costanti escono dalla media; la media di un'indicatrice è la probabilità dell'evento.Valore atteso →:

$$a \, P(X \ge a) = E[a \, \mathbb 1_{\{X \ge a\}}] \le E[X] \quad \Rightarrow \quad P(X \ge a) \le \frac{E[X]}{a}. \ \blacksquare$$

Il primo uguale usa la linearità ($a$ esce dalla media) e $E[\mathbb 1_A] = P(A)$; la disuguaglianza è la monotonia; infine si divide per $a > 0$, che non cambia il verso.

Significato. Una v.a. positiva non può essere spesso molto più grande della sua media: la probabilità di superare $k$ volte la media è al massimo $\frac1k$ (con $a = k\,E[X]$ il secondo membro è $\frac{E[X]}{k\,E[X]} = \frac1k$). Se il tempo medio di attesa a uno sportello è 10 minuti, la probabilità di aspettare almeno un'ora è $\le \frac{10}{60} = \frac16$, qualunque sia la legge del tempo d'attesa.

Esempio numerico. $X \sim \text{Geo}(\frac12)$, $E[X] = 2$. Markov: $P(X \ge 4) \le \frac24 = 0{,}5$. Valore vero: $P(X \ge 4) = P(X > 3) = \left(\frac12\right)^3 = 0{,}125$ (Distribuzione geometricaGeo(p) è il numero della prova in cui arriva il primo successo in prove indipendenti: P(X = n) = (1−p)^(n−1) p per n ≥ 1, P(X > n) = (1−p)^n (lunga attesa), media 1/p, varianza (1−p)/p², ed è senza memoria.Distribuzione geometrica →: $X$ ha valori interi, quindi $X \ge 4$ equivale a $X > 3$, e si usa la probabilità di lunga attesa $P(X > n) = (1-p)^n$). La stima è corretta ma larga. Nel grafico la curva vera è a gradini perché tra due interi consecutivi l'evento $\{X \ge a\}$ non cambia: per $3 < a \le 4$ è sempre $\{X \ge 4\}$.

Senza $X \ge 0$ è falsa. $X = -100$ con probabilità $\frac12$ e $X = 100$ con probabilità $\frac12$: $E[X] = 0$, ma $P(X \ge 1) = \frac12$, mentre Markov darebbe $P(X \ge 1) \le \frac{E[X]}{1} = 0$. Il passaggio della dimostrazione che salta è "$0 \le X(\omega)$" quando $X(\omega) < a$.

Variante con i momenti. Applicando Markov alla v.a. positiva $|X|^k$ e osservando che $\{|X| \ge a\} = \{|X|^k \ge a^k\}$ (la potenza $t \mapsto t^k$ è strettamente crescente per $t \ge 0$, quindi conserva le disuguaglianze tra numeri non negativi: vedi Funzioni monotone, pari e dispariFunzioni crescenti e decrescenti, legame tra stretta monotonia e iniettività, e simmetrie delle funzioni pari e dispari.Funzioni monotone, pari e dispari →):

$$P(|X| \ge a) \le \frac{E[|X|^k]}{a^k}.$$

Disuguaglianza di Chebyshev

Teorema (disuguaglianza di Chebyshev). Sia $X$ con $E[X^2] < \infty$, $\mu = E[X]$. Per ogni $\varepsilon > 0$: $$P(|X - \mu| \ge \varepsilon) \le \frac{\text{Var}(X)}{\varepsilon^2}.$$

Dimostrazione. $|X - \mu| \ge \varepsilon$ se e solo se $(X - \mu)^2 \ge \varepsilon^2$ (entrambi i membri sono positivi, e il quadrato è crescente sui positivi). La v.a. $(X - \mu)^2$ è $\ge 0$: si applica Markov con $a = \varepsilon^2$:

$$P(|X - \mu| \ge \varepsilon) = P\big((X - \mu)^2 \ge \varepsilon^2\big) \le \frac{E[(X - \mu)^2]}{\varepsilon^2} = \frac{\text{Var}(X)}{\varepsilon^2}. \ \blacksquare$$

Forma con le deviazioni standard. Con $\varepsilon = k\sigma$ ($\sigma = \sqrt{\text{Var}(X)}$, $k > 0$):

$$P(|X - \mu| \ge k\sigma) \le \frac{1}{k^2}, \qquad P(|X - \mu| < k\sigma) \ge 1 - \frac{1}{k^2}.$$

(Il primo: $\frac{\text{Var}(X)}{(k\sigma)^2} = \frac{\sigma^2}{k^2 \sigma^2} = \frac1{k^2}$. Il secondo è il complementare: $P(|X - \mu| < k\sigma) = 1 - P(|X - \mu| \ge k\sigma) \ge 1 - \frac1{k^2}$. Per esempio con $k = 3$: $1 - \frac19 = \frac89 \approx 88{,}9\%$.)

Per qualunque v.a. con varianza finita, almeno il 75% della probabilità sta entro 2 deviazioni standard dalla media.

Per la gaussianaN(μ, σ²) ha densità e^(−(x−μ)²/(2σ²)) / √(2πσ²), a campana centrata in μ con larghezza σ; media μ, varianza σ²; si standardizza con Z = (X − μ)/σ ~ N(0, 1) e si calcola P(X ≤ x) = Φ((x − μ)/σ), con Φ(−z) = 1 − Φ(z); aX + b è ancora gaussiana, N(aμ + b, a²σ²).Distribuzione gaussiana (normale) → la probabilità vera di stare oltre $k\sigma$ è $2(1 - \Phi(k))$, molto più piccola (nel grafico la curva tratteggiata usa un'approssimazione di $\Phi$ con errore invisibile a questa scala):

Esempio numerico. $X \sim \text{Bin}(100, \frac12)$: $\mu = np = 50$, $\text{Var}(X) = np(1 - p) = 100 \cdot \frac12 \cdot \frac12 = 25$ (Bernoulli, binomiale e uniforme discretaBernoulli Be(p): un solo tentativo, vale 1 con probabilità p; binomiale Bin(n, p): numero di successi in n prove indipendenti, P(X = k) = C(n,k) p^k (1−p)^(n−k), media np e varianza np(1−p); uniforme discreta: n valori equiprobabili.Bernoulli, binomiale e uniforme discreta →). Chebyshev con $\varepsilon = 10$, quindi $\varepsilon^2 = 100$:

$$P(|X - 50| \ge 10) \le \frac{25}{100} = 0{,}25.$$

Valore vero (calcolato in Python sommando la densità binomiale): $\approx 0{,}0569$. È la somma di $P(X = k)$ per $k \le 40$ e per $k \ge 60$ (i due casi di $|k - 50| \ge 10$), uguali per simmetria. Di nuovo corretto ma largo: Chebyshev usa solo media e varianza.

Esempio: quante prove servono. Si lancia $n$ volte una moneta equa e si guarda la frequenza di teste $\bar X_n = \frac{X}{n}$, con $X \sim \text{Bin}(n, \frac12)$. Si ha $E[\bar X_n] = \frac1n E[X] = \frac1n \cdot \frac n2 = \frac12$ e $\text{Var}(\bar X_n) = \frac{1}{n^2} \text{Var}(X) = \frac{1}{n^2} \cdot \frac n4 = \frac{1}{4n}$ (proprietà $\text{Var}(aX) = a^2 \text{Var}(X)$ con $a = \frac1n$, vedi Varianza e momentiI momenti E[X^k] e i momenti centrati E[(X − μ)^k] descrivono la forma di una legge; la varianza Var(X) = E[(X − μ)²] = E[X²] − E[X]² misura quanto X si disperde attorno alla media, vale Var(aX + b) = a² Var(X) e Var(X) = 0 solo se X è costante.Varianza e momenti →). Per avere la frequenza entro $0{,}05$ da $\frac12$ con probabilità almeno $95\%$ basta che

$$P\left(\left|\bar X_n - \tfrac12\right| \ge 0{,}05\right) \le \frac{1/(4n)}{0{,}05^2} = \frac{100}{n} \le 0{,}05 \iff n \ge 2000.$$

Passaggi: $0{,}05^2 = 0{,}0025$, e $\frac{1}{4n \cdot 0{,}0025} = \frac{1}{0{,}01\,n} = \frac{100}{n}$; poi $\frac{100}{n} \le 0{,}05 \iff n \ge \frac{100}{0{,}05} = 2000$. Se la probabilità dell'evento "frequenza lontana" è al più $0{,}05$, quella del complementare "frequenza entro $0{,}05$" è almeno $0{,}95$. Il numero $2000$ basta per qualunque legge con quella media e varianza; per la binomiale vera ne servono molti meno (circa $385$ con l'approssimazione normale del Teorema del limite centrale e approssimazione normaleSe X₁, X₂, ... sono i.i.d. con media μ e varianza σ² ∈ (0, ∞), la somma standardizzata (Sₙ − nμ)/(σ√n) converge in distribuzione a N(0, 1): per n grande P(Sₙ ≤ x) ≈ Φ((x − nμ)/(σ√n)). Caso binomiale (De Moivre-Laplace): Bin(n, p) ≈ N(np, np(1 − p)), con correzione di continuità ±0,5. Si dimostra con le funzioni caratteristiche e il teorema di Lévy.Teorema del limite centrale e approssimazione normale →).

Il bound $\frac{\text{Var}}{\varepsilon^2} = \frac{1}{4n\varepsilon^2}$ tende a $0$ per $n \to \infty$: è esattamente la dimostrazione della legge debole dei grandi numeri.

Disuguaglianza di Jensen

Teorema (disuguaglianza di Jensen). Sia $\varphi : \mathbb R \to \mathbb R$ convessa e $X$ tale che $X$ e $\varphi(X)$ abbiano media finita. Allora $$\varphi(E[X]) \le E[\varphi(X)].$$ Se $\varphi$ è concava la disuguaglianza si rovescia: $\varphi(E[X]) \ge E[\varphi(X)]$.

Convessa vuol dire che ogni corda sta sopra il grafico; per $\varphi$ derivabile due volte basta controllare $\varphi'' \ge 0$ (Funzioni convesse, concave e punti di flessof è convessa se ogni corda sta sopra il grafico (concava se sta sotto). Una funzione convessa è continua e ha derivate destra e sinistra in ogni punto interno. Per f derivabile: convessa ⇔ grafico sopra ogni tangente ⇔ f' crescente ⇔ (se esiste) f'' ≥ 0. f'' > 0 ⇒ strettamente convessa, non viceversa (x⁴). Flesso: punto in cui f passa da convessa a concava; lì, se esiste, f''(x0) = 0, ma non basta (x⁴ in 0).Funzioni convesse, concave e punti di flesso →).

Esempio. $\varphi(x) = x^2$ è convessa, quindi $E[X]^2 \le E[X^2]$, cioè $\text{Var}(X) \ge 0$.

Dimostrazione. Una funzione convessa sta sopra ogni sua retta di appoggioUna retta che tocca il grafico di una funzione convessa in un punto e resta tutta sotto il grafico; se la funzione è derivabile è la retta tangente.Funzioni convesse, concave e punti di flesso →: posto $\mu = E[X]$, esiste $m \in \mathbb R$ (se $\varphi$ è derivabile, $m = \varphi'(\mu)$) tale che

$$\varphi(x) \ge \varphi(\mu) + m(x - \mu) \qquad \text{per ogni } x.$$

Si sostituisce $x$ con $X$ e si prende la media (monotonia e linearità):

$$E[\varphi(X)] \ge \varphi(\mu) + m \, E[X - \mu] = \varphi(\mu) + m \cdot 0 = \varphi(E[X]). \ \blacksquare$$

($\varphi(X) \ge \varphi(\mu) + m(X - \mu)$ vale esito per esito, quindi per monotonia passa alle medie; a destra $\varphi(\mu)$ e $m$ sono numeri, ed $E[X - \mu] = 0$.)

Per $\varphi$ concava, $-\varphi$ è convessa e si applica il caso precedente: $-\varphi(E[X]) \le E[-\varphi(X)] = -E[\varphi(X)]$, e cambiando segno ai due membri il verso si rovescia.

Il disegno. $X$ vale $0$ o $4$ con probabilità $\frac12$ ciascuno, $\varphi(x) = x^2$. Allora $E[X] = 2$ e $\varphi(E[X]) = 4$, mentre $E[\varphi(X)] = \frac{0 + 16}{2} = 8$: il punto medio della corda tra $(0, 0)$ e $(4, 16)$ sta sopra il grafico. La tangente in $\mu = 2$ è $y = 4 + 4(x - 2) = 4x - 4$ (con $m = \varphi'(2) = 4$) e sta tutta sotto la parabola.

Esempi.

(Per $\varphi$ definita solo su un intervallo, come $\frac1x$ e $\log x$, il teorema vale purché $X$ prenda valori in quell'intervallo.)

Il tipo si controlla con la derivata seconda (Derivate successive e funzioni di classe CnLa derivata seconda è la derivata di f', la derivata n-esima è la derivata della (n−1)-esima. Se esiste f⁽ⁿ⁾(x0), allora f, f', …, f⁽ⁿ⁻¹⁾ sono continue in x0. Cⁿ(I) = funzioni derivabili n volte su I con f⁽ⁿ⁾ continua; Cⁿ ⊊ Cⁿ⁻¹ ⊊ … ⊊ C¹ ⊊ C⁰.Derivate successive e funzioni di classe Cn →): $(x^2)'' = 2 > 0$; $(e^x)'' = e^x > 0$; $\left(\frac1x\right)'' = \frac{2}{x^3} > 0$ per $x > 0$; $(\log x)'' = -\frac{1}{x^2} < 0$. Il modulo $|x|$ non è derivabile in $0$, ma è convesso perché è il massimo delle due rette $x$ e $-x$.

Controllo su un esercizio d'esame. Nel III appello 24.06.2026, $X \sim \text{Geo}(\frac12)$ e $W = \left(\frac32\right)^X$, con $E[W] = 3$. La funzione $\varphi(x) = \left(\frac32\right)^x = e^{x \ln(3/2)}$ è convessa (esponenziale: $\varphi''(x) = \ln^2\!\left(\frac32\right) \left(\frac32\right)^x > 0$), quindi deve valere $E[W] \ge \left(\frac32\right)^{E[X]} = \left(\frac32\right)^2 = 2{,}25$: infatti $3 \ge 2{,}25$ ✓. Se un calcolo desse $E[W] < 2{,}25$, ci sarebbe sicuramente un errore.

Quando vale l'uguaglianza. Se $\varphi$ è affine (allora è la linearità della media) oppure se $X$ è costante. Per $\varphi$ strettamente convessa e $X$ non costante la disuguaglianza è stretta.

Riepilogo

Errori comuni

• Usare Markov su una v.a. che può essere negativa: l'ipotesi $X \ge 0$ è essenziale.
• Scambiare le stime per approssimazioni: $0{,}25$ è un limite superiore, la probabilità vera può essere molto più piccola ($0{,}057$ nell'esempio).
• Chebyshev con $\varepsilon \le \sigma$: il secondo membro è $\ge 1$ e la disuguaglianza non dice nulla.
• Verso di Jensen: per le convesse la media "esterna" è più piccola, $\varphi(E[X]) \le E[\varphi(X)]$; un modo per ricordarlo è $\varphi(x) = x^2$, che dà $\text{Var}(X) \ge 0$.