Valore atteso
In questa pagina 7
In questa pagina 5
Punto 2 del programma ("valore medio: definizione e interpretazione; teorema fondamentale del valor medio e sue proprietà"). Prerequisiti: Variabili aleatorie discrete e densità discretaUna variabile aleatoria discreta è una funzione X da Ω in R che assume un insieme finito o numerabile di valori (l'alfabeto); la sua densità discreta p_X(x) = P(X = x) basta a calcolare la probabilità di ogni evento che riguarda X.Variabili aleatorie discrete e densità discreta →. Seguito: Varianza e momentiI momenti E[X^k] e i momenti centrati E[(X − μ)^k] descrivono la forma di una legge; la varianza Var(X) = E[(X − μ)²] = E[X²] − E[X]² misura quanto X si disperde attorno alla media, vale Var(aX + b) = a² Var(X) e Var(X) = 0 solo se X è costante.Varianza e momenti →. Per le v.a. continue la somma diventa un integrale: Variabili aleatorie assolutamente continueX è assolutamente continua se F_X(x) = ∫ da −∞ a x di f_X(t) dt per una densità f_X ≥ 0 con integrale 1; allora P(a < X ≤ b) = ∫ da a a b di f_X, P(X = x) = 0 per ogni x, f_X = F_X' dove F_X è derivabile, E[g(X)] = ∫ g(x) f_X(x) dx, e varianza, momenti e disuguaglianze funzionano come nel caso discreto con gli integrali al posto delle somme.Variabili aleatorie assolutamente continue →.
L'idea: la media su tante ripetizioni
Si gioca molte volte al gioco dell'urna (2 estrazioni con reinserimento da 8 nere e 6 bianche, +2 euro per nera, −1 per bianca). Dopo partite si calcola la vincita media:
La frazione è la frequenza relativa del valore , e per grande si avvicina a (lo dimostra la legge dei grandi numeriSe X₁, X₂, ... sono i.i.d. con media μ, la media campionaria X̄ₙ = (X₁ + ... + Xₙ)/n converge a μ: in probabilità (legge debole, dimostrata con Chebyshev se la varianza è finita: P(|X̄ₙ − μ| > ε) ≤ σ²/(nε²)) e quasi certamente (legge forte). Metodo Monte Carlo: ∫ g = E[g(U)] si stima con la media di g(U₁), ..., g(Uₙ) per uniformi indipendenti.Legge dei grandi numeri e metodo Monte Carlo →). La vincita media si avvicina quindi a : è questo numero che si chiama valore atteso. Risponde alla domanda "quanto vinco in media a partita, nel lungo periodo?".
Un'immagine fisica: si mettono masse nei punti della retta; è il baricentro, il punto in cui la retta resta in equilibrio. È proprio la formula del Centro di massaIl centro di massa è la media delle posizioni pesata con le masse. La quantità di moto totale è M v_CM e il CM si muove come un punto di massa M soggetto alla sola risultante delle forze esterne. Nel riferimento del CM la quantità di moto totale è zero.Centro di massa → con masse , la cui somma è e quindi sparisce dal denominatore.
Grafico interattivo: Vincita all'urna: masse 9/49 in −2, 24/49 in 1, 16/49 in 4; la retta sta in equilibrio nel baricentro E[X] = 10/7 ≈ 1,43
Definizione
Definizione (valore atteso). Sia una v.a. discreta con densità . Se si dice che ha valore atteso (o media, o speranza matematica) finito, e si pone
Esempio. Dado equo: .
Perché la convergenza assoluta. Se l'alfabeto è infinito, la somma è una serie e i suoi termini non hanno un ordine naturale (l'alfabeto è un insieme, non una lista). Una serie assolutamente convergenteUna serie la cui serie dei moduli converge: la sua somma non dipende dall'ordine in cui si sommano i termini.Serie a termini di segno variabile → dà lo stesso risultato in qualunque ordine si sommino i termini; senza convergenza assoluta riordinando si potrebbero ottenere risultati diversi, e "la media" non sarebbe ben definita.
- Se l'alfabeto è finito la condizione è sempre vera: ogni v.a. discreta finita ha media.
- Se la somma ha senso sempre, eventualmente : si scrive . Il motivo è che una serie a termini non negativiUna serie a termini >= 0 converge o diverge a +infinito, mai irregolare. Criterio del confronto (0 <= a_k <= b_k), del confronto asintotico (a_k ~ L b_k) e suo corollario con le serie notevoli: si studia una serie paragonandola a 1/n^alpha o a q^n.Serie a termini non negativi e criteri del confronto → ha somme parziali crescenti, quindi converge oppure diverge a , e non può oscillare.
- non è necessariamente un valore di : per il dado .
Esempi
- Bernoulli : . In particolare, per un evento , : la probabilità è un caso particolare di media.
- Dado: (ogni faccia ha peso , che si raccoglie; ).
- Vincita all'urna (, , , vedi Variabili aleatorie discrete e densità discretaUna variabile aleatoria discreta è una funzione X da Ω in R che assume un insieme finito o numerabile di valori (l'alfabeto); la sua densità discreta p_X(x) = P(X = x) basta a calcolare la probabilità di ogni evento che riguarda X.Variabili aleatorie discrete e densità discreta →): Il gioco è favorevole: in media si guadagnano circa 1,43 euro a partita.
- Una media infinita. per è una densità: (si verifica facendo il denominatore comune: ) e la somma è telescopicaNella somma dei termini (1/n − 1/(n+1)) quasi tutti si cancellano a due a due e resta 1 − 1/(N+1), che tende a 1.Serie notevoli - geometrica, telescopica, armonica → e vale : la somma parziale fino a è . Ma (serie armonica: con è , cioè la serie armonica senza il primo termine, che diverge). assume valori finiti, ma la sua media è : i valori grandi sono abbastanza probabili da far divergere la media. Il confine è la velocità con cui va a zero: qui , mentre servirebbe un termine che va a zero più in fretta (per esempio come con ).
Teorema fondamentale del valor medio
Spesso serve la media di una funzione di : , , … Si potrebbe prima trovare la densità di e poi applicare la definizione, ma non serve:
Teorema (fondamentale del valore atteso). Sia discreta e . Allora ha media finita se e solo se , e in tal caso
Dimostrazione. La densità di è (densità di una funzione di v.a.Una variabile aleatoria discreta è una funzione X da Ω in R che assume un insieme finito o numerabile di valori (l'alfabeto); la sua densità discreta p_X(x) = P(X = x) basta a calcolare la probabilità di ogni evento che riguarda X.Variabili aleatorie discrete e densità discreta →). Allora
Nel terzo passaggio si è sostituito con (sono uguali in ogni termine della somma interna); nell'ultimo si è osservato che raggruppare gli secondo il valore di e poi sommare sui gruppi equivale a sommare su tutti gli (lecito grazie alla convergenza assoluta, che permette di riordinare). ∎
In parole: si pesa ogni valore con la probabilità di , senza calcolare la legge di .
Esempio (III appello 24.06.2026). , cioè per , e :
Qui ; si raccolgono le potenze con lo stesso esponente, , e si usa la serie geometricaPer abs(q) < 1 vale Σ_{n≥1} q^n = q/(1−q).Serie notevoli - geometrica, telescopica, armonica → che parte da , , con . La serie converge (ed è a termini positivi, quindi anche assolutamente) perché : la condizione del teorema è verificata.
Attenzione: in generale . Nell'esempio e . L'uguaglianza vale per affine (proprietà sotto); per convessaf è convessa se ogni corda sta sopra il grafico (concava se sta sotto). Una funzione convessa è continua e ha derivate destra e sinistra in ogni punto interno. Per f derivabile: convessa ⇔ grafico sopra ogni tangente ⇔ f' crescente ⇔ (se esiste) f'' ≥ 0. f'' > 0 ⇒ strettamente convessa, non viceversa (x⁴). Flesso: punto in cui f passa da convessa a concava; lì, se esiste, f''(x0) = 0, ma non basta (x⁴ in 0).Funzioni convesse, concave e punti di flesso → vale la disuguaglianza di JensenMarkov: per X ≥ 0, P(X ≥ a) ≤ E[X]/a; Chebyshev: P(|X − μ| ≥ ε) ≤ Var(X)/ε²; Jensen: per φ convessa, φ(E[X]) ≤ E[φ(X)]. Stimano probabilità e medie conoscendo solo media e varianza.Disuguaglianze di Markov, Chebyshev e Jensen → , ed è il caso dell'esempio: è un esponenziale, convesso, e infatti .
Versione sugli esiti. Se è discreto, lo stesso ragionamento (raggruppare gli esiti secondo il valore di ) dà utile per dimostrare le proprietà.
Proprietà
Proprietà (del valore atteso).
- Costanti: .
- Linearità: , e più in generale per v.a. con media finita (definite sullo stesso spazio), anche non indipendenti.
- Positività e monotonia: se allora ; se allora .
- Indicatrici: .
Dimostrazioni (caso discreto, con la versione sugli esiti):
- : la costante è una v.a. con un solo valore, preso con probabilità , quindi .
- : è la linearità della somma, come in SommatorieIl simbolo di sommatoria, le sue proprietà (linearità, additività, cambio di indice) e le somme notevoli di Gauss e geometrica.Sommatorie → (con infiniti termini la convergenza assoluta permette di spezzare la serie in due serie convergenti, vedi Serie numericheUna serie è la successione delle somme parziali s_n = a_0 + ... + a_n; la sua somma è il limite di s_n (converge, diverge o è irregolare). Proprietà generali e condizione necessaria: se la serie converge, gli addendi tendono a 0.Serie numeriche →). Con (costante) si ottiene .
- Indicatrici: vale con probabilità e con probabilità , quindi .
- Se , tutti i termini sono e la somma pure. Se , applicando questo a e usando la linearità: .
Esempio d'esame. (I parziale 17.11.2025.) Vincita con , . Per linearità, senza ricalcolare nulla:
La linearità rende facili medie difficili. Numero medio di 6 in 10 lanci di un dado: con "il lancio dà 6" (ogni lancio con 6 aggiunge alla somma, gli altri ), quindi . Non serve né la densità di né l'indipendenza dei lanci (è la stessa idea della media della binomialeBernoulli Be(p): un solo tentativo, vale 1 con probabilità p; binomiale Bin(n, p): numero di successi in n prove indipendenti, P(X = k) = C(n,k) p^k (1−p)^(n−k), media np e varianza np(1−p); uniforme discreta: n valori equiprobabili.Bernoulli, binomiale e uniforme discreta →).
Prodotto. In generale ; l'uguaglianza vale se e sono indipendenti (Vettori aleatori discretiUn vettore aleatorio discreto (X, Y) è descritto dalla densità congiunta p(x, y) = P(X = x, Y = y); le marginali si ottengono sommando sull'altra variabile, X e Y sono indipendenti se p(x, y) = p_X(x) p_Y(y) per ogni coppia, e E[g(X, Y)] = Σ g(x, y) p(x, y).Vettori aleatori discreti →, Covarianza e coefficiente di correlazioneCov(X, Y) = E[(X − E X)(Y − E Y)] = E[XY] − E[X]E[Y] misura quanto X e Y variano insieme; è bilineare, Cov(X, X) = Var(X), Var(X + Y) = Var X + Var Y + 2Cov(X, Y); ρ = Cov / (σ_X σ_Y) sta in [−1, 1] e vale ±1 solo per legami lineari. Indipendenti ⇒ non correlate, ma non viceversa (tranne per i vettori gaussiani).Covarianza e coefficiente di correlazione →).
Formula delle code (v.a. a valori interi non negativi)
Formula (delle code). Se assume valori in :
Perché. Si scrive (il numero è la somma di uni) e si scambiano le somme (termini positivi, lecito):
Lo scambio delle somme. La doppia somma è estesa a tutte le coppie di interi con . Si possono sommare "per righe" (fissato , va da a ) o "per colonne" (fissato , va da a ): con termini il risultato è lo stesso, anche se è . Per colonne, . Il termine della prima somma vale , per questo si parte da . Con pochi valori si vede a mano: se , .
Esempio: per , e quindi (serie geometrica di ragione ), senza derivare serie (Distribuzione geometricaGeo(p) è il numero della prova in cui arriva il primo successo in prove indipendenti: P(X = n) = (1−p)^(n−1) p per n ≥ 1, P(X > n) = (1−p)^n (lunga attesa), media 1/p, varianza (1−p)/p², ed è senza memoria.Distribuzione geometrica →).
Riepilogo
| Cosa | Formula |
|---|---|
| definizione | , se |
| funzione di | |
| linearità | |
| indicatrice | |
| code | per |
| medie notevoli | : ; : ; : ; : |
Errori comuni
- : falso in generale (, ); vale solo per affine.
- Credere che la linearità richieda l'indipendenza: vale sempre; è che la richiede.
- Calcolare la densità di quando non serve: per la media basta il teorema fondamentale.
- Dimenticare di controllare la convergenza con alfabeti infiniti: la media può essere infinita.
Versione ripasso
Definizione
Sia una v.a. discretaUna variabile aleatoria discreta è una funzione X da Ω in R che assume un insieme finito o numerabile di valori (l'alfabeto); la sua densità discreta p_X(x) = P(X = x) basta a calcolare la probabilità di ogni evento che riguarda X.Variabili aleatorie discrete e densità discreta → con densità . Se , si dice che ha valore atteso finito, e si pone:
- Convergenza assoluta: necessaria per alfabeti infiniti, perché una serie assolutamente convergenteUna serie la cui serie dei moduli converge: la sua somma non dipende dall'ordine in cui si sommano i termini. dà lo stesso risultato in qualunque ordine.
- non è necessariamente un valore di : per il dado .
- Per v.a. non negative si può avere .
Esempi notevoli
- Bernoulli : . In particolare .
- Binomiale : .
- Geometrica : .
- Poisson : .
- Vincita all'urna (, , ): . Per linearità con , : .
Teorema fondamentale del valor medio
Sia discreta e . ha media finita se e solo se , e in tal caso:
Dimostrazione in breve. Sfrutta la densità di una funzione di v.a.Una variabile aleatoria discreta è una funzione X da Ω in R che assume un insieme finito o numerabile di valori (l'alfabeto); la sua densità discreta p_X(x) = P(X = x) basta a calcolare la probabilità di ogni evento che riguarda X.Variabili aleatorie discrete e densità discreta → e riordina la somma grazie alla convergenza assoluta.
- Esempio: , : , mentre .
- Attenzione: in generale . Per convessa vale la disuguaglianza di JensenMarkov: per X ≥ 0, P(X ≥ a) ≤ E[X]/a; Chebyshev: P(|X − μ| ≥ ε) ≤ Var(X)/ε²; Jensen: per φ convessa, φ(E[X]) ≤ E[φ(X)]. Stimano probabilità e medie conoscendo solo media e varianza.Disuguaglianze di Markov, Chebyshev e Jensen → .
Proprietà
- Costanti: .
- Linearità: per v.a. con media finita, anche non indipendenti.
- Monotonia: se allora .
- Indicatrici: .
- Prodotto: vale se e sono indipendenti (Vettori aleatori discretiUn vettore aleatorio discreto (X, Y) è descritto dalla densità congiunta p(x, y) = P(X = x, Y = y); le marginali si ottengono sommando sull'altra variabile, X e Y sono indipendenti se p(x, y) = p_X(x) p_Y(y) per ogni coppia, e E[g(X, Y)] = Σ g(x, y) p(x, y).Vettori aleatori discreti →, Covarianza e coefficiente di correlazioneCov(X, Y) = E[(X − E X)(Y − E Y)] = E[XY] − E[X]E[Y] misura quanto X e Y variano insieme; è bilineare, Cov(X, X) = Var(X), Var(X + Y) = Var X + Var Y + 2Cov(X, Y); ρ = Cov / (σ_X σ_Y) sta in [−1, 1] e vale ±1 solo per legami lineari. Indipendenti ⇒ non correlate, ma non viceversa (tranne per i vettori gaussiani).Covarianza e coefficiente di correlazione →).
Formula delle code (v.a. a valori interi non negativi)
Se assume valori in :
Dimostrazione in breve. Si scrive e si scambiano le somme per termini positivi.
Errori tipici
- Usare (falso in generale, vale solo per affine).
- Pensare che la linearità richieda l'indipendenza (vale sempre per la somma, mentre serve per il prodotto ).
- Calcolare la densità di anziché usare il teorema fondamentale.
- Dimenticare di verificare la convergenza assoluta con alfabeti infiniti.
Esercizi su questo argomento
- Esercizio 10 · vincita con due estrazioni da un'urna
- Esercizio 12 · somma di due geometriche indipendenti
- Esercizio 14 · funzione a gradini di una esponenziale
- Esercizio 22 · somma di un numero geometrico di Bernoulli
- Esercizio 23 · teste di due monete e approssimazione normale
- Esercizio 24 · convergenze di Xn a valori 0 e n
- Esercizio 25 · convergenze di Xn a valori −√n, 0, √n
- Esercizio 26 · convergenze di Xn a valori 0 e √n
- Esercizio 19 · tabelle hash con separate chaining
- Esercizio - Autoencoder, anomaly detection e KL del VAE
- Esercizio - k-means a mano e gap statistic su cinque gruppi
- Esercizio - k-means online e con buffer a memoria limitata
- Esercizio - Statistica descrittiva, quartili e standardizzazione di un dataset
- Esercizio - massimo e minimo di due dadi, linearità senza indipendenza
- Esercizio - MAX-SAT con clausole miste e aspettative condizionate
- Esercizio - progetto di un quantizzatore non uniforme
- Esercizio - esponenziale di un processo a simboli binari indipendenti (prova scritta del 30 maggio 2025)
- Esercizio - processi aleatori, media d'insieme, correlazione e potenza temporale in Python (laboratorio 6)
- Esercizio - processo a campioni indipendenti attraverso una finestra (prova scritta dell'11 luglio 2025)
- Esercizio - variabili aleatorie, istogrammi e momenti in Python (laboratorio 6)
Teoria collegata
- Incertezza - probabilità, regola di Bayes e indipendenza condizionata
- Processi decisionali di Markov - utilità, equazione di Bellman, value e policy iteration
- Bernoulli, binomiale e uniforme discreta
- Distribuzione di Poisson
- Distribuzione geometrica
- Disuguaglianze di Markov, Chebyshev e Jensen
- Funzione caratteristica
- Funzione generatrice dei momenti
- Legge dei grandi numeri e metodo Monte Carlo
- Teorema del limite centrale e approssimazione normale
- Variabili aleatorie assolutamente continue
- Variabili aleatorie discrete e densità discreta
- Varianza e momenti
- Vettori aleatori discreti
- Algoritmi di ordinamento
- Complessità in tempo e caso pessimo
- Tabelle hash
- Processi aleatori stazionari e densità spettrale di potenza
- Variabili aleatorie e vettori aleatori per le comunicazioni
- Entropia - informazione di un evento, disuguaglianza di Jensen e valore massimo
- Probabilità per le telecomunicazioni - eventi e variabili aleatorie discrete
- Funzioni hash e crittografia simmetrica
- Introduzione alla teoria delle code
- Livello applicazione - DNS
- Livello applicazione - HTTP
- Modello analitico del tasso di invio di TCP
- Protocolli ARQ - Stop-and-Wait, Go-Back-N e Selective Repeat
- Stima del timeout di ritrasmissione (RTO)
- Addestramento delle reti neurali - backpropagation e ottimizzatori
- Alberi di decisione
- Autoencoder
- Cenni a reinforcement learning e reti per sequenze
- Classificazione e k-nearest neighbors
- Clustering e k-means
- Explainable AI (XAI)
- Introduzione al machine learning
- Metodi ensemble - bagging, random forest e boosting
- Overfitting, ridge regression e cross-validation
- Regolarizzazione delle reti neurali
- Regressione lineare
- Statistica per il machine learning
- Algoritmi randomizzati - Monte Carlo, Las Vegas e amplificazione
- Catene di Markov - matrice di transizione, classificazione degli stati e distribuzione stazionaria
- Linearità del valore atteso e variabili indicatrici
- Metodo probabilistico - valore atteso, alterazioni e derandomizzazione
- Momenti e deviazioni - Markov, Chebyshev e mediana randomizzata
- Passeggiate aleatorie - rovina del giocatore, 2-SAT e grafi
- Codifica di sorgente
- Processi di arrivo e processo di Poisson
- Segnali, potenza e decibel
- Processi aleatori - definizioni, media e autocorrelazione