Legge dei grandi numeri e metodo Monte Carlo

Punto 7 del programma ("legge dei grandi numeri in senso debole e forte: enunciati con dimostrazione, esempi ed applicazioni; metodo Monte Carlo per il calcolo di integrali definiti"). Prerequisiti: Convergenza di successioni di variabili aleatorieQuattro modi in cui X_n → X: quasi certa (P(X_n → X) = 1), in probabilità (P(|X_n − X| > ε) → 0 per ogni ε), in media p-esima (E|X_n − X|^p → 0), in distribuzione (F_(X_n)(x) → F_X(x) nei punti di continuità di F_X). Relazioni: q.c. ⇒ prob., L^p ⇒ prob. ⇒ distr., L² ⇒ L¹; in distribuzione verso una costante ⇔ in probabilità. Teorema di Lévy: convergenza in distribuzione ⇔ convergenza puntuale delle funzioni caratteristiche.Convergenza di successioni di variabili aleatorie →, Disuguaglianze di Markov, Chebyshev e JensenMarkov: per X ≥ 0, P(X ≥ a) ≤ E[X]/a; Chebyshev: P(|X − μ| ≥ ε) ≤ Var(X)/ε²; Jensen: per φ convessa, φ(E[X]) ≤ E[φ(X)]. Stimano probabilità e medie conoscendo solo media e varianza.Disuguaglianze di Markov, Chebyshev e Jensen →, Covarianza e coefficiente di correlazioneCov(X, Y) = E[(X − E X)(Y − E Y)] = E[XY] − E[X]E[Y] misura quanto X e Y variano insieme; è bilineare, Cov(X, X) = Var(X), Var(X + Y) = Var X + Var Y + 2Cov(X, Y); ρ = Cov / (σ_X σ_Y) sta in [−1, 1] e vale ±1 solo per legami lineari. Indipendenti ⇒ non correlate, ma non viceversa (tranne per i vettori gaussiani).Covarianza e coefficiente di correlazione →.

Il problema

All'inizio del corso la probabilità è stata introdotta in modo assiomatico, ma con l'idea intuitiva che "la probabilità di un evento è la frequenza con cui si verifica su tante ripetizioni". La legge dei grandi numeri è il teorema che giustifica questa idea dentro la teoria: la frequenza relativa, e più in generale la media dei risultati, converge alla probabilità, e più in generale al valore atteso.

Media campionaria

Sia $X_1, X_2, \dots$ una successione di v.a. i.i.d. (indipendenti e identicamente distribuiteIndipendenti tra loro e tutte con la stessa legge: le ripetizioni indipendenti dello stesso esperimento.) con media $\mu = E[X_1]$ e varianza $\sigma^2 = \text{Var}(X_1)$. La media campionaria è

$$\bar X_n := \frac{X_1 + \dots + X_n}{n}.$$

Per linearità e indipendenza:

$$E[\bar X_n] = \frac{n\mu}{n} = \mu, \qquad \text{Var}(\bar X_n) = \frac{1}{n^2}\sum_{k=1}^n \text{Var}(X_k) = \frac{n\sigma^2}{n^2} = \frac{\sigma^2}{n}.$$

Passaggi. Per la media: la linearità del valore attesoIl valore atteso E[X] = Σ x p_X(x) è la media dei valori di X pesata con le loro probabilità (esiste se la serie converge assolutamente); per una funzione g vale E[g(X)] = Σ g(x) p_X(x) senza trovare la legge di g(X), ed E è lineare: E[aX + bY + c] = aE[X] + bE[Y] + c.Valore atteso → porta fuori $\frac1n$ e spezza la somma, $E[\bar X_n] = \frac1n\big(E[X_1] + \dots + E[X_n]\big)$, e ciascun termine vale $\mu$. Per la varianza: $\text{Var}(aY) = a^2\,\text{Var}(Y)$ (Varianza e momentiI momenti E[X^k] e i momenti centrati E[(X − μ)^k] descrivono la forma di una legge; la varianza Var(X) = E[(X − μ)²] = E[X²] − E[X]² misura quanto X si disperde attorno alla media, vale Var(aX + b) = a² Var(X) e Var(X) = 0 solo se X è costante.Varianza e momenti →) con $a = \frac1n$ fa uscire $\frac{1}{n^2}$; poi la varianza di una somma è la somma delle varianze più le covarianze (Covarianza e coefficiente di correlazioneCov(X, Y) = E[(X − E X)(Y − E Y)] = E[XY] − E[X]E[Y] misura quanto X e Y variano insieme; è bilineare, Cov(X, X) = Var(X), Var(X + Y) = Var X + Var Y + 2Cov(X, Y); ρ = Cov / (σ_X σ_Y) sta in [−1, 1] e vale ±1 solo per legami lineari. Indipendenti ⇒ non correlate, ma non viceversa (tranne per i vettori gaussiani).Covarianza e coefficiente di correlazione →), e le covarianze sono nulle perché le $X_k$ sono indipendenti. Restano $n$ termini uguali a $\sigma^2$.

La media campionaria ha la stessa media delle singole osservazioni, ma varianza $n$ volte più piccola: mediando, le fluttuazioni si compensano. La deviazione standard scende come $\frac{\sigma}{\sqrt n}$.

Legge debole dei grandi numeri

Teorema (legge debole). Siano $X_1, X_2, \dots$ i.i.d. con media $\mu$ e varianza $\sigma^2$ finita. Allora per ogni $\varepsilon > 0$ $$P\big(|\bar X_n - \mu| > \varepsilon\big) \le \frac{\sigma^2}{n\varepsilon^2} \xrightarrow[n\to\infty]{} 0,$$ cioè $\bar X_n \xrightarrow{p} \mu$.

Esempio. Lanci di una moneta equa: $P\left(\left|\bar{X}_n - \frac{1}{2}\right| > 0{,}1\right) \le \frac{1/4}{n \cdot 0{,}01} = \frac{25}{n}$, che per $n = 1000$ vale $0{,}025$. Qui $X_k \sim \text{Be}(\frac12)$ (1 = testa), quindi $\mu = \frac12$, $\sigma^2 = \frac12 \cdot \frac12 = \frac14$, ed $\varepsilon^2 = 0{,}1^2 = 0{,}01$; infine $\frac{1/4}{0{,}01} = 25$.

La convergenza in probabilità vale perché, per ogni $\varepsilon$ fissato, la maggiorazione $\frac{\sigma^2}{n\varepsilon^2}$ è una costante divisa per $n$, che tende a $0$; e una probabilità compresa tra $0$ e una quantità che tende a $0$ tende a $0$ (teorema del confronto per i Limiti di successioniUna successione ha limite l se, da un certo indice in poi, i suoi termini stanno vicini a l quanto si vuole; definizioni con epsilon, limiti infiniti e unicità.Limiti di successioni →).

Dimostrazione. È la disuguaglianza di ChebyshevP(lontananza dalla media maggiore di ε) ≤ varianza / ε².Disuguaglianze di Markov, Chebyshev e Jensen → applicata a $\bar X_n$, che ha media $\mu$ e varianza $\frac{\sigma^2}{n}$: $$P(|\bar X_n - \mu| > \varepsilon) \le \frac{\text{Var}(\bar X_n)}{\varepsilon^2} = \frac{\sigma^2}{n\varepsilon^2}. \ \blacksquare$$

Due osservazioni.

• La dimostrazione usa solo che le $X_k$ sono non correlate con la stessa media e varianza: l'indipendenza serve solo per $\text{Var}(\sum X_k) = \sum \text{Var}(X_k)$.
• Si dimostra anche la convergenza in $L^2$: $E[(\bar X_n - \mu)^2] = \text{Var}(\bar X_n) = \frac{\sigma^2}{n} \to 0$.

Il caso delle frequenze. Se $X_k = \mathbb 1_A$ (vale $1$ se alla prova $k$ si verifica $A$), allora $X_k \sim \text{Be}(p)$ con $p = P(A)$, e $\bar X_n$ è la frequenza relativa di $A$ nelle prime $n$ prove ($X_1 + \dots + X_n \sim \text{Bin}(n, p)$ conta i successi, vedi Prove ripetute e modello binomialen prove indipendenti, ciascuna con probabilità di successo p: una sequenza con k successi ha probabilità p^k (1−p)^(n−k), e la probabilità di esattamente k successi è (n su k) p^k (1−p)^(n−k) (modello binomiale); il primo successo alla prova k ha probabilità (1−p)^(k−1) p.Prove ripetute e modello binomiale →). La legge debole dice che la frequenza relativa converge in probabilità a $P(A)$. Con $\sigma^2 = p(1 - p) \le \frac14$ (la parabola $p - p^2$ ha il massimo nel vertice $p = \frac12$, dove vale $\frac14$; serve perché $p$ non è noto, e si usa la maggiorazione che vale per ogni $p$): $$P(|\bar X_n - p| > \varepsilon) \le \frac{1}{4n\varepsilon^2}.$$

Esempio: quante prove servono? Si vuole stimare la probabilità $p$ che un pacchetto vada perso, con errore al più $0{,}01$ e probabilità di sbagliare al più $5\%$. Basta $\frac{1}{4n(0{,}01)^2} \le 0{,}05$, cioè $n \ge \frac{1}{4 \cdot 0{,}0001 \cdot 0{,}05} = 50\,000$ pacchetti. (Chebyshev è prudente: col teorema del limite centraleSe X₁, X₂, ... sono i.i.d. con media μ e varianza σ² ∈ (0, ∞), la somma standardizzata (Sₙ − nμ)/(σ√n) converge in distribuzione a N(0, 1): per n grande P(Sₙ ≤ x) ≈ Φ((x − nμ)/(σ√n)). Caso binomiale (De Moivre-Laplace): Bin(n, p) ≈ N(np, np(1 − p)), con correzione di continuità ±0,5. Si dimostra con le funzioni caratteristiche e il teorema di Lévy.Teorema del limite centrale e approssimazione normale → ne bastano circa $9\,600$.)

Passaggi. $(0{,}01)^2 = 0{,}0001$; moltiplicando entrambi i membri per il numero positivo $\frac{n}{0{,}05}$ la disuguaglianza diventa $\frac{1}{4 \cdot 0{,}0001 \cdot 0{,}05} \le n$, e il denominatore vale $0{,}00002 = 2 \cdot 10^{-5}$, quindi $n \ge 50\,000$. Con il TLC invece si impone $P(|\bar X_n - p| > 0{,}01) \approx 2\big(1 - \Phi(0{,}01\sqrt n / \sigma)\big) \le 0{,}05$, cioè $\frac{0{,}01\sqrt n}{1/2} \ge 1{,}96$, da cui $\sqrt n \ge 98$ e $n \ge 9\,604$.

Legge forte dei grandi numeri

Teorema (legge forte, Kolmogorov). Siano $X_1, X_2, \dots$ i.i.d. con $E[|X_1|] < \infty$ e media $\mu$. Allora $$\bar X_n \xrightarrow{q.c.} \mu, \qquad \text{cioè} \quad P\left(\lim_{n\to\infty}\bar X_n = \mu\right) = 1.$$

Esempio. Lanci di una moneta equa: la frequenza di teste $\bar{X}_n$ tende a $\frac{1}{2}$ quasi certamente.

Differenza con la legge debole. La legge debole dice che, per ogni $n$ grande fissato, è improbabile essere lontani da $\mu$. La legge forte dice di più: per quasi ogni sequenza di risultati, la successione numerica $\bar X_n(\omega)$ converge a $\mu$. Lanciando una moneta all'infinito, l'insieme delle sequenze in cui la frazione di teste non tende a $\frac12$ ha probabilità zero.

Idea della dimostrazione (caso con momento quarto finito, $E[X_1^4] < \infty$, e $\mu = 0$). Sviluppando $(X_1 + \dots + X_n)^4$ e usando l'indipendenza, sopravvivono in media solo i termini $X_k^4$ ($n$ termini) e $X_j^2X_k^2$ (circa $3n^2$ termini), quindi $E[(X_1 + \dots + X_n)^4] \le Cn^2$ e $E[\bar X_n^4] \le \frac{C}{n^2}$. Per Markov: $$\sum_n P(|\bar X_n| > \varepsilon) \le \sum_n \frac{E[\bar X_n^4]}{\varepsilon^4} \le \sum_n \frac{C}{\varepsilon^4 n^2} < \infty.$$

Passaggi. Lo sviluppo di $(X_1 + \dots + X_n)^4$ è la somma di tutti i prodotti $X_aX_bX_cX_d$ con $a, b, c, d \in \{1, \dots, n\}$. Se in un prodotto un indice compare una volta sola, ad esempio $X_1X_2^3$ o $X_1X_2X_3^2$, la media si fattorizza per l'indipendenza e contiene il fattore $E[X_1] = 0$: il termine sparisce. Restano solo i prodotti in cui ogni indice compare almeno due volte: $X_k^4$ (con $a = b = c = d$, $n$ termini, ciascuno di media $E[X_1^4]$) e $X_j^2X_k^2$ con $j \ne k$ (per ogni coppia $\{j, k\}$ ci sono $\binom42 = 6$ modi di scegliere quali due delle quattro posizioni portano $j$, e le coppie sono $\binom n2$: in tutto $6\binom n2 = 3n(n - 1)$ termini, ciascuno di media $\sigma^4$). Quindi $$E\big[(X_1 + \dots + X_n)^4\big] = nE[X_1^4] + 3n(n - 1)\sigma^4 \le Cn^2,$$ con ad esempio $C = E[X_1^4] + 3\sigma^4$. Dividendo per $n^4$ si ha $E[\bar X_n^4] \le \frac{C}{n^2}$. La disuguaglianza di Markov si applica a $\bar X_n^4 \ge 0$, perché $\{|\bar X_n| > \varepsilon\} = \{\bar X_n^4 > \varepsilon^4\}$. La serie finale converge perché è un multiplo della serie armonica generalizzataLe serie di cui si conosce il carattere e da usare come termine di paragone: geometrica (converge a 1/(1-q) se |q|<1), telescopiche (somma b_1 - lim b_n, come Mengoli), armonica generalizzata (1/n^alpha converge se e solo se alpha>1).Serie notevoli - geometrica, telescopica, armonica → $\sum \frac{1}{n^2}$, che converge (esponente $2 > 1$); si conclude con il criterio del confrontoUna serie a termini >= 0 converge o diverge a +infinito, mai irregolare. Criterio del confronto (0 <= a_k <= b_k), del confronto asintotico (a_k ~ L b_k) e suo corollario con le serie notevoli: si studia una serie paragonandola a 1/n^alpha o a q^n.Serie a termini non negativi e criteri del confronto →. Per il lemma di Borel-CantelliSe la somma delle probabilità degli eventi A_n è finita, con probabilità 1 se ne verificano solo un numero finito., quasi certamente $|\bar X_n| > \varepsilon$ solo per un numero finito di $n$; essendo $\varepsilon$ arbitrario, $\bar X_n \to 0$ quasi certamente.

Esempio d'esame

(II parziale 15.01.2026, Esercizio 27 · media campionaria e massimo di uniformi.) $X_k \sim U(0, 1)$ i.i.d.: $\mu = \frac12$, $\sigma^2 = \frac1{12}$ finita ($E[X^2] = \int_0^1 x^2dx = \frac13$ e $\frac13 - \frac14 = \frac1{12}$, vedi Distribuzioni uniforme continua ed esponenzialeU(a, b) ha densità costante 1/(b − a) su [a, b], media (a + b)/2 e varianza (b − a)²/12; Exp(λ) ha densità λe^(−λx) per x ≥ 0, FdD 1 − e^(−λx), P(X > t) = e^(−λt), media 1/λ, varianza 1/λ², ed è l'unica legge continua senza memoria (versione continua della geometrica).Distribuzioni uniforme continua ed esponenziale →). Per la legge dei grandi numeri $\bar X_n \xrightarrow{p} \frac12$, e quindi anche in distribuzione (alla costante $\frac12$), per la proprietà "in probabilità ⇒ in distribuzione" di Convergenza di successioni di variabili aleatorieQuattro modi in cui X_n → X: quasi certa (P(X_n → X) = 1), in probabilità (P(|X_n − X| > ε) → 0 per ogni ε), in media p-esima (E|X_n − X|^p → 0), in distribuzione (F_(X_n)(x) → F_X(x) nei punti di continuità di F_X). Relazioni: q.c. ⇒ prob., L^p ⇒ prob. ⇒ distr., L² ⇒ L¹; in distribuzione verso una costante ⇔ in probabilità. Teorema di Lévy: convergenza in distribuzione ⇔ convergenza puntuale delle funzioni caratteristiche.Convergenza di successioni di variabili aleatorie →. Per la legge forte, anche quasi certamente. Con Chebyshev si ha anche una stima esplicita: $P(|\bar X_n - \frac12| > 0{,}05) \le \frac{1/12}{n \cdot 0{,}0025} = \frac{100}{3n}$, che per $n = 1000$ vale circa $0{,}033$.

Metodo Monte Carlo

L'idea

Un integrale si può scrivere come un valore atteso; un valore atteso si stima con una media campionaria; una media campionaria si calcola simulando v.a. al computer. È il metodo Monte Carlo.

Sia $g : [0, 1] \to \mathbb R$ integrabile e $U \sim U(0, 1)$. Per il teorema fondamentale del valor medioLa media di g(X) si calcola integrando g(x) per la densità di X, senza trovare la legge di g(X).Valore atteso → (versione per v.a. a.c., Variabili aleatorie assolutamente continueX è assolutamente continua se F_X(x) = ∫ da −∞ a x di f_X(t) dt per una densità f_X ≥ 0 con integrale 1; allora P(a < X ≤ b) = ∫ da a a b di f_X, P(X = x) = 0 per ogni x, f_X = F_X' dove F_X è derivabile, E[g(X)] = ∫ g(x) f_X(x) dx, e varianza, momenti e disuguaglianze funzionano come nel caso discreto con gli integrali al posto delle somme.Variabili aleatorie assolutamente continue →), con la densità di $U$ che vale $1$ su $[0, 1]$ e $0$ fuori:

$$E[g(U)] = \int_0^1 g(u) \cdot 1 \, du = \int_0^1 g(u) \, du =: I.$$

$I$ è l'Integrale definito di RiemannL'integrale definito di f limitata su [a,b] è il limite delle somme di Cauchy-Riemann (somme di aree di rettangoli), se esiste finito e uguale per ogni scelta dei punti; equivale a sup delle somme inferiori = inf delle somme superiori. Se f ≥ 0 è l'area del trapezoide, in generale area sopra l'asse meno area sotto. Sono integrabili le funzioni continue, monotone, continue a tratti; la funzione di Dirichlet no.Integrale definito di Riemann → di $g$: Monte Carlo lo approssima con valori di $g$ in punti scelti a caso, invece che in punti equispaziati come nelle somme di Riemann.

Se $U_1, U_2, \dots$ sono uniformi indipendenti, le $g(U_k)$ sono i.i.d. (funzioni di v.a. indipendenti sono indipendenti, e hanno tutte la stessa legge perché le $U_k$ ce l'hanno) con media $I$, quindi per la legge dei grandi numeri

Formula (stima Monte Carlo di un integrale). $$\hat I_n := \frac{1}{n}\sum_{k=1}^n g(U_k) \xrightarrow[n\to\infty]{} \int_0^1 g(u) \, du \quad \text{(q.c. e in probabilità)}.$$

Esempio. Con $g(u) = u^2$ e $U_k \sim U(0,1)$ indipendenti, $\frac{1}{n}\sum_{k=1}^n U_k^2 \to \int_0^1 u^2\,du = \frac{1}{3}$.

Su un intervallo qualsiasi $[a, b]$: con $U_k \sim U(a, b)$, $E[g(U)] = \frac{1}{b - a}\int_a^b g$, quindi $\int_a^b g \approx (b - a)\hat I_n$. Il fattore $\frac{1}{b - a}$ è la densità di $U(a, b)$ (costante, perché l'area sotto di essa sia $1$), e va compensato moltiplicando per $b - a$. Esempio: $\int_0^2 u^2du = \frac83$; con $U_k \sim U(0, 2)$, $\frac1n\sum U_k^2 \to E[U^2] = \frac12\int_0^2u^2du = \frac43$, e $2 \cdot \frac43 = \frac83$ ✓.

Errore

$\text{Var}(\hat I_n) = \frac{\sigma_g^2}{n}$, con $\sigma_g^2 = \text{Var}(g(U)) = \int_0^1 g^2 - I^2$. L'errore tipico è dell'ordine di $\frac{\sigma_g}{\sqrt n}$: per guadagnare una cifra decimale servono 100 volte più simulazioni.

Da dove viene. $\hat I_n$ è la media campionaria delle $g(U_k)$, quindi ha varianza $\frac{\sigma_g^2}{n}$ come sopra. Poi $\sigma_g^2 = E[g(U)^2] - E[g(U)]^2$ (formula di calcolo della varianza), e $E[g(U)^2] = \int_0^1 g(u)^2du$ per il teorema fondamentale. La deviazione standard è $\frac{\sigma_g}{\sqrt n}$: per dividerla per $10$ bisogna moltiplicare $\sqrt n$ per $10$, cioè $n$ per $100$. Esempio: per $g(u) = u^2$, $\sigma_g^2 = \int_0^1u^4du - \left(\frac13\right)^2 = \frac15 - \frac19 = \frac{4}{45} \approx 0{,}089$, $\sigma_g \approx 0{,}298$: con $n = 10\,000$ l'errore tipico è circa $0{,}003$. È lento in una dimensione, dove i metodi numerici classici (trapezi, Simpson) sono migliori; ma la velocità $\frac{1}{\sqrt n}$ non dipende dalla dimensione, ed è per questo che Monte Carlo è il metodo standard per integrali in molte dimensioni (finanza, fisica, simulazione di reti).

Esempio: stimare $\pi$

Si scelgono punti $(U, V)$ uniformi nel quadrato $[0, 1]^2$. La probabilità di cadere nel quarto di cerchio $\{u^2 + v^2 \le 1\}$ è la sua area, $\frac\pi4$. Con $X_k = \mathbb 1\{U_k^2 + V_k^2 \le 1\}$ (Bernoulli di parametro $\frac\pi4$):

$$4\bar X_n \xrightarrow{q.c.} \pi.$$

Perché la probabilità è l'area. $U$ e $V$ indipendenti uniformi su $[0, 1]$ hanno densità congiunta $f(u, v) = 1 \cdot 1 = 1$ sul quadrato (Vettori aleatori assolutamente continuiUn vettore (X, Y) è assolutamente continuo se P((X, Y) ∈ A) = ∬_A f(x, y) dx dy per una densità congiunta f ≥ 0 con integrale 1; le marginali si ottengono integrando sull'altra variabile (f_X(x) = ∫ f(x, y) dy), X e Y sono indipendenti se f(x, y) = f_X(x) f_Y(y), e E[g(X, Y)] = ∬ g f. Il punto delicato degli esercizi è descrivere bene la regione dove f > 0.Vettori aleatori assolutamente continui →), quindi $P\big((U, V) \in A\big) = \iint_A 1\,du\,dv$ è l'area di $A$ (Integrali doppi e teorema di FubiniL'integrale doppio di f su un rettangolo si definisce con somme inferiori e superiori su partizioni in rettangolini (per f ≥ 0 è il volume sotto il grafico); su un dominio limitato D si estende f con 0 fuori da D. Area(D) = ∬D 1. Per f continua su un dominio y-semplice {a ≤ x ≤ b, g1(x) ≤ y ≤ g2(x)} vale Fubini: ∬D f = ∫ab (∫g1(x)g2(x) f dy) dx, e simmetricamente per i domini x-semplici; scambiare l'ordine può rendere calcolabile l'integrale.Integrali doppi e teorema di Fubini →). Il quarto di cerchio di raggio $1$ ha area $\frac{\pi \cdot 1^2}{4}$. Per la legge forte $\bar X_n \to \frac\pi4$ quasi certamente, e moltiplicando per $4$ (una funzione continua) il limite si moltiplica per $4$.

Equivalentemente è il Monte Carlo per $\int_0^1 \sqrt{1 - u^2}\,du = \frac\pi4$: per ogni $u$ fissato, i punti del quarto di cerchio hanno $0 \le v \le \sqrt{1 - u^2}$, e integrando questa altezza in $u$ (Fubini) si ritrova l'area.

import random, math

def stima_pi(n):
    dentro = 0
    for _ in range(n):
        u, v = random.random(), random.random()   # punto uniforme nel quadrato
        if u*u + v*v <= 1:                         # cade nel quarto di cerchio?
            dentro += 1
    return 4 * dentro / n                          # 4 × frequenza relativa

for n in (100, 10_000, 1_000_000):
    print(n, stima_pi(n), "errore tipico ≈", 4 * math.sqrt((math.pi/4) * (1 - math.pi/4) / n))

Con $n = 10^6$ l'errore tipico è circa $4\sqrt{0{,}785 \cdot 0{,}215 / 10^6} \approx 0{,}0016$: si ottengono 2-3 cifre corrette. (La deviazione standard di $\bar X_n$ è $\sqrt{p(1 - p)/n}$ con $p = \frac\pi4 \approx 0{,}785$, e quella di $4\bar X_n$ è $4$ volte tanto.)

Esempio: un integrale senza primitiva elementare

$I = \int_0^1 e^{-x^2} dx$ non ha primitiva elementare. Monte Carlo: si generano $U_1, \dots, U_n$ uniformi e si fa la media di $e^{-U_k^2}$. Il valore vero è $I \approx 0{,}7468$ (legato a $\Phi$: $I = \sqrt{\pi}\,(\Phi(\sqrt2) - \frac12)$).

Da dove viene il legame con $\Phi$. Con la sostituzioneSe nell'integranda c'è g(f(x))·f'(x), la sostituzione y = f(x), dy = f'(x)dx trasforma l'integrale in ∫g(y)dy = G(y) + k, poi si torna a x: G(f(x)) + k. Negli integrali definiti cambiano anche gli estremi (da c, d a f(c), f(d)). Si può usare anche al contrario, con x = f⁻¹(y). È il primo metodo a cui pensare; dà la tabella degli integrali "immediati per sostituzione".Integrazione per sostituzione → $x = \frac{t}{\sqrt2}$ ($dx = \frac{dt}{\sqrt2}$, $x^2 = \frac{t^2}{2}$, estremi $x = 0 \to t = 0$ e $x = 1 \to t = \sqrt2$): $$I = \frac{1}{\sqrt2}\int_0^{\sqrt2}e^{-t^2/2}dt = \frac{\sqrt{2\pi}}{\sqrt2}\int_0^{\sqrt2}\frac{e^{-t^2/2}}{\sqrt{2\pi}}dt = \sqrt\pi\,\big(\Phi(\sqrt2) - \Phi(0)\big),$$ e $\Phi(0) = \frac12$ (Distribuzione gaussiana (normale)N(μ, σ²) ha densità e^(−(x−μ)²/(2σ²)) / √(2πσ²), a campana centrata in μ con larghezza σ; media μ, varianza σ²; si standardizza con Z = (X − μ)/σ ~ N(0, 1) e si calcola P(X ≤ x) = Φ((x − μ)/σ), con Φ(−z) = 1 − Φ(z); aX + b è ancora gaussiana, N(aμ + b, a²σ²).Distribuzione gaussiana (normale) →). Numericamente $\Phi(\sqrt2) \approx 0{,}9214$ e $\sqrt\pi \cdot 0{,}4214 \approx 0{,}7468$. L'errore tipico del Monte Carlo qui è $\frac{\sigma_g}{\sqrt n}$ con $\sigma_g^2 = \int_0^1e^{-2u^2}du - I^2 \approx 0{,}5981 - 0{,}5577 \approx 0{,}040$, cioè $\sigma_g \approx 0{,}20$: con $n = 10\,000$ circa $0{,}002$.

Riepilogo

Errori comuni

• Credere che dopo tante croci "debba" uscire testa per riequilibrare: la legge dei grandi numeri non dice che gli scarti si compensano, ma che vengono diluiti dividendo per $n$ (il numero assoluto di teste meno $n/2$ tipicamente cresce, come $\sqrt n$).
• Applicare la legge a v.a. senza media finita (es. Cauchy): la media campionaria di v.a. di Cauchy è ancora Cauchy e non converge. Con la Funzione caratteristicaLa funzione caratteristica φ_X(θ) = E[e^(iθX)] = E[cos θX] + iE[sin θX] esiste per ogni v.a. e ogni θ, vale 1 in 0, ha modulo ≤ 1, determina la legge (è la trasformata di Fourier della densità), trasforma le somme di v.a. indipendenti in prodotti e dà i momenti: E[X^k] = φ^(k)(0) / i^k. Per N(μ, σ²) vale e^(iμθ − σ²θ²/2).Funzione caratteristica → della Cauchy standard, $e^{-|\theta|}$: $\varphi_{\bar X_n}(\theta) = \left(e^{-|\theta|/n}\right)^n = e^{-|\theta|}$, la stessa legge per ogni $n$.
• Dimenticare il fattore $(b - a)$ nel Monte Carlo su $[a, b]$.