Funzione generatrice dei momenti

Punto 6 del programma ("funzione generatrice dei momenti: definizione, proprietà e relazione con i momenti"). Prerequisiti: Valore attesoIl valore atteso E[X] = Σ x p_X(x) è la media dei valori di X pesata con le loro probabilità (esiste se la serie converge assolutamente); per una funzione g vale E[g(X)] = Σ g(x) p_X(x) senza trovare la legge di g(X), ed E è lineare: E[aX + bY + c] = aE[X] + bE[Y] + c.Valore atteso →, Variabili aleatorie assolutamente continueX è assolutamente continua se F_X(x) = ∫ da −∞ a x di f_X(t) dt per una densità f_X ≥ 0 con integrale 1; allora P(a < X ≤ b) = ∫ da a a b di f_X, P(X = x) = 0 per ogni x, f_X = F_X' dove F_X è derivabile, E[g(X)] = ∫ g(x) f_X(x) dx, e varianza, momenti e disuguaglianze funzionano come nel caso discreto con gli integrali al posto delle somme.Variabili aleatorie assolutamente continue →, Somma di variabili aleatorie indipendentiSe X e Y sono indipendenti, la legge di Z = X + Y è la convoluzione: p_Z(n) = Σ_k p_X(k) p_Y(n − k) nel discreto, f_Z(z) = ∫ f_X(z − y) f_Y(y) dy nel continuo. Casi notevoli: Bin(n,p) + Bin(m,p) = Bin(n+m,p), Poi(λ) + Poi(μ) = Poi(λ+μ), Geo + Geo con densità (n−1)p²(1−p)^(n−2), Exp(λ) + Exp(λ) = Γ(2,λ), gaussiane indipendenti sommano medie e varianze.Somma di variabili aleatorie indipendenti →. Seguito: Funzione caratteristicaLa funzione caratteristica φ_X(θ) = E[e^(iθX)] = E[cos θX] + iE[sin θX] esiste per ogni v.a. e ogni θ, vale 1 in 0, ha modulo ≤ 1, determina la legge (è la trasformata di Fourier della densità), trasforma le somme di v.a. indipendenti in prodotti e dà i momenti: E[X^k] = φ^(k)(0) / i^k. Per N(μ, σ²) vale e^(iμθ − σ²θ²/2).Funzione caratteristica →.

L'idea

Calcolare $E[X]$, $E[X^2]$, $E[X^3]$ uno per uno richiede ogni volta una serie o un integrale. E la legge di una somma di v.a. indipendenti richiede una convoluzione. La funzione generatrice raccoglie tutti i momenti in una sola funzione e trasforma la convoluzione in un prodotto. È lo stesso trucco della trasformata di LaplaceX(s) = integrale di x(t) e^(-st) dt: trasforma la convoluzione nel tempo in un prodotto.Trasformata di Laplace - definizione e regione di convergenza → nei circuiti: per una v.a. a.c. $M_X(t) = \int e^{tx} f_X(x)\,dx$ è la trasformata di Laplace bilatera della densità calcolata in $s = -t$.

Definizione

Definizione (funzione generatrice dei momenti). La funzione generatrice dei momenti (f.g.m.) di una v.a. $X$ è $$M_X(t) := E\big[e^{tX}\big], \qquad t \in \mathbb R,$$ definita per i $t$ per cui il valore atteso è finito.

Esempio. $X \sim \text{Be}(p)$: $M_X(t) = E[e^{tX}] = 1 - p + p\,e^t$.

$e^{tX}$ è una funzione $g(X)$ di $X$ con $g(x) = e^{tx}$ ($t$ è un numero fissato). Per il teorema fondamentale del valor medioLa media di g(X) si calcola sommando (o integrando) g(x) per la densità di X, senza trovare la legge di g(X).Valore atteso → la sua media si calcola con la densità di $X$:

$$M_X(t) = \sum_x e^{tx} p_X(x) \ \text{(discreta)}, \qquad M_X(t) = \int e^{tx} f_X(x) \, dx \ \text{(a.c.)}.$$

Se $X$ assume infiniti valori la somma è una serieUna serie è la successione delle somme parziali s_n = a_0 + ... + a_n; la sua somma è il limite di s_n (converge, diverge o è irregolare). Proprietà generali e condizione necessaria: se la serie converge, gli addendi tendono a 0.Serie numeriche →, e nel caso a.c. l'integrale è in generale un integrale improprioL'integrale improprio (o in senso generalizzato) estende l'integrale definito a intervalli illimitati, ∫ da a a +∞ = lim per x→+∞ di ∫ da a a x, e a funzioni illimitate vicino a un estremo, ∫ da a a b = lim per x→a⁺ di ∫ da x a b. Se il limite è finito l'integrale converge, se è ±∞ diverge, se non esiste f non è integrabile in senso generalizzato. Si calcola con primitiva, integrale definito e poi limite. Per f ≥ 0 valgono il confronto e il confronto asintotico con le funzioni test 1/x^α: a +∞ convergono per α > 1, vicino a 0 per α < 1.Integrali impropri →: la f.g.m. esiste in $t$ quando questa serie o questo integrale converge.

Osservazioni.

• $M_X(0) = E[1] = 1$ sempre.
• $e^{tX} > 0$, quindi $M_X(t) \in (0, +\infty]$: il valore $+\infty$ è possibile, e allora $M_X(t)$ "non esiste" in quel $t$.
• L'insieme dei $t$ con $M_X(t) < \infty$ è un intervallo che contiene $0$. Perché intervallo: se $M_X$ è finita in $t_1 < t_2$, per ogni $t$ in mezzo $e^{tx} \le e^{t_1 x} + e^{t_2 x}$ (per $x \ge 0$ è più piccolo di $e^{t_2 x}$, per $x < 0$ di $e^{t_1 x}$, perché $t \mapsto e^{tx}$ è monotonaFunzioni crescenti e decrescenti, legame tra stretta monotonia e iniettività, e simmetrie delle funzioni pari e dispari.Funzioni monotone, pari e dispari →), quindi $M_X(t) \le M_X(t_1) + M_X(t_2) < \infty$. La f.g.m. è utile quando questo intervallo contiene un intorno di $0$, cioè $(-\delta, \delta)$ per qualche $\delta > 0$.

Esempi

Bernoulli $\text{Be}(p)$: $X$ vale $0$ con probabilità $1 - p$ e $1$ con probabilità $p$, quindi la somma ha due termini, $M(t) = e^{t \cdot 0}(1 - p) + e^{t \cdot 1} p = 1 - p + pe^t$.

Binomiale $\text{Bin}(n, p)$: con il binomio di Newton(a + b)^n = Σ_{k=0}^n C(n,k) a^k b^(n−k).Binomio di Newton →, $$M(t) = \sum_{k=0}^n e^{tk} \binom nk p^k (1 - p)^{n-k} = \sum_k \binom nk (pe^t)^k (1 - p)^{n-k} = (1 - p + pe^t)^n.$$ Nel secondo passaggio si è usato $e^{tk} p^k = (e^t)^k p^k = (pe^t)^k$; la somma che resta è proprio lo sviluppo di $(a + b)^n$ con $a = pe^t$ e $b = 1 - p$. È la potenza $n$-esima della f.g.m. della Bernoulli: non a caso, perché la binomiale è somma di $n$ Bernoulli indipendenti (vedi la proprietà delle somme sotto).

Poisson $\text{Poi}(\lambda)$: con la serie dell'esponenziale, $$M(t) = \sum_{k \ge 0} e^{tk} e^{-\lambda}\frac{\lambda^k}{k!} = e^{-\lambda}\sum_k \frac{(\lambda e^t)^k}{k!} = e^{-\lambda} e^{\lambda e^t} = e^{\lambda(e^t - 1)}.$$ Il fattore $e^{-\lambda}$ non dipende da $k$ e esce dalla somma; poi $e^{tk}\lambda^k = (\lambda e^t)^k$. La somma rimasta è la serie esponenzialee^y = Σ_{k≥0} y^k / k!, convergente per ogni y reale.Serie di potenze e serie di Taylor → $\sum_{k \ge 0} \frac{y^k}{k!} = e^y$ con $y = \lambda e^t$, che converge per ogni $y$: per questo $M$ è finita su tutto $\mathbb R$. Infine $e^{-\lambda}e^{\lambda e^t} = e^{\lambda e^t - \lambda} = e^{\lambda(e^t - 1)}$.

Geometrica $\text{Geo}(p)$: serie geometrica di ragione $(1 - p)e^t$, $$M(t) = \sum_{n \ge 1} e^{tn} (1 - p)^{n-1} p = \frac{pe^t}{1 - (1 - p)e^t}, \qquad \text{per } (1 - p)e^t < 1, \text{ cioè } t < -\ln(1 - p).$$ Passaggi. Si porta fuori $pe^t$ scrivendo $e^{tn} = e^t \cdot e^{t(n-1)}$, e si pone $m = n - 1$: $$\sum_{n \ge 1} e^{tn}(1 - p)^{n-1}p = pe^t \sum_{n \ge 1} \big((1 - p)e^t\big)^{n-1} = pe^t \sum_{m \ge 0} q^m, \qquad q = (1 - p)e^t.$$ La serie geometricaΣ_{m≥0} q^m = 1/(1 − q) se abs(q) < 1, diverge a +∞ se q ≥ 1.Serie notevoli - geometrica, telescopica, armonica → $\sum_{m \ge 0} q^m$ vale $\frac{1}{1 - q}$ se $0 < q < 1$ e $+\infty$ se $q \ge 1$. La condizione $(1 - p)e^t < 1$ equivale (passando al logaritmoLa funzione esponenziale a^x (base positiva diversa da 1) e la sua inversa, il logaritmo in base a, con grafici e proprietà.Esponenziale e logaritmo →, che è crescente) a $\ln(1 - p) + t < 0$, cioè $t < -\ln(1 - p)$, un numero positivo perché $1 - p < 1$. Ad esempio con $p = \frac12$ la f.g.m. è finita per $t < \ln 2 \approx 0{,}693$.

Esponenziale $\text{Exp}(\lambda)$: $$M(t) = \int_0^\infty e^{tx}\lambda e^{-\lambda x} dx = \lambda\int_0^\infty e^{-(\lambda - t)x} dx = \frac{\lambda}{\lambda - t}, \qquad t < \lambda.$$ Passaggi. Si raccolgono gli esponenti, $tx - \lambda x = -(\lambda - t)x$. Per $t < \lambda$ la costante $c = \lambda - t$ è positiva e l'integrale improprioL'integrale improprio (o in senso generalizzato) estende l'integrale definito a intervalli illimitati, ∫ da a a +∞ = lim per x→+∞ di ∫ da a a x, e a funzioni illimitate vicino a un estremo, ∫ da a a b = lim per x→a⁺ di ∫ da x a b. Se il limite è finito l'integrale converge, se è ±∞ diverge, se non esiste f non è integrabile in senso generalizzato. Si calcola con primitiva, integrale definito e poi limite. Per f ≥ 0 valgono il confronto e il confronto asintotico con le funzioni test 1/x^α: a +∞ convergono per α > 1, vicino a 0 per α < 1.Integrali impropri → si calcola come limite: $$\int_0^\infty e^{-cx} dx = \lim_{R \to +\infty}\left[-\frac{e^{-cx}}{c}\right]_0^R = \lim_{R \to +\infty} \frac{1 - e^{-cR}}{c} = \frac1c,$$ perché $e^{-cR} \to 0$. Moltiplicando per $\lambda$ si ottiene $\frac{\lambda}{\lambda - t}$. Per $t \ge \lambda$ l'integrando $e^{(t - \lambda)x}$ vale $1$ (se $t = \lambda$) o cresce (se $t > \lambda$): non tende a zero e l'integrale vale $+\infty$.

Gamma $\Gamma(\alpha, \lambda)$: la densità è $\frac{\lambda^\alpha}{\Gamma(\alpha)}x^{\alpha - 1}e^{-\lambda x}$ per $x > 0$, quindi $$M(t) = \frac{\lambda^\alpha}{\Gamma(\alpha)}\int_0^\infty x^{\alpha-1}e^{-(\lambda - t)x}dx = \frac{\lambda^\alpha}{\Gamma(\alpha)} \cdot \frac{\Gamma(\alpha)}{(\lambda - t)^\alpha} = \left(\frac{\lambda}{\lambda - t}\right)^\alpha, \qquad t < \lambda.$$ L'integrale è quello "che torna sempre" di Distribuzione gammaΓ(α, λ) ha densità λ^α x^(α−1) e^(−λx) / Γ(α) per x > 0, dove Γ(α) = ∫ x^(α−1) e^(−x) dx è la funzione Gamma (Γ(n) = (n − 1)!, Γ(1/2) = √π); media α/λ, varianza α/λ²; Γ(1, λ) = Exp(λ), e la somma di n esponenziali Exp(λ) indipendenti è Γ(n, λ), il tempo d'attesa dell'n-esimo evento.Distribuzione gamma →, $\int_0^\infty x^{\alpha - 1}e^{-cx}dx = \frac{\Gamma(\alpha)}{c^\alpha}$, con $c = \lambda - t > 0$ (si ottiene con la sostituzioneSe nell'integranda c'è g(f(x))·f'(x), la sostituzione y = f(x), dy = f'(x)dx trasforma l'integrale in ∫g(y)dy = G(y) + k, poi si torna a x: G(f(x)) + k. Negli integrali definiti cambiano anche gli estremi (da c, d a f(c), f(d)). Si può usare anche al contrario, con x = f⁻¹(y). È il primo metodo a cui pensare; dà la tabella degli integrali "immediati per sostituzione".Integrazione per sostituzione → $y = cx$). Con $\alpha = 1$ si ritrova l'esponenziale.

Gaussiana $N(\mu, \sigma^2)$: $$M(t) = e^{\mu t + \frac12\sigma^2 t^2}, \qquad t \in \mathbb R.$$ Calcolo per $N(0, 1)$, completando il quadrato $tz - \frac{z^2}{2} = -\frac{(z - t)^2}{2} + \frac{t^2}{2}$: $$M_Z(t) = \int \frac{1}{\sqrt{2\pi}} e^{tz - z^2/2} dz = e^{t^2/2}\int \frac{1}{\sqrt{2\pi}}e^{-(z - t)^2/2} dz = e^{t^2/2},$$ perché l'ultimo integrale è quello di una densità $N(t, 1)$, cioè $1$. Per $X = \mu + \sigma Z$ si usa la proprietà affine qui sotto.

Verifica del completamento del quadrato: $-\frac{(z - t)^2}{2} + \frac{t^2}{2} = -\frac{z^2 - 2tz + t^2}{2} + \frac{t^2}{2} = -\frac{z^2}{2} + tz$ ✓. Il fattore $e^{t^2/2}$ non dipende da $z$ ed esce dall'integrale. Che l'integrale rimasto valga $1$ si vede anche con la sostituzioneSe nell'integranda c'è g(f(x))·f'(x), la sostituzione y = f(x), dy = f'(x)dx trasforma l'integrale in ∫g(y)dy = G(y) + k, poi si torna a x: G(f(x)) + k. Negli integrali definiti cambiano anche gli estremi (da c, d a f(c), f(d)). Si può usare anche al contrario, con x = f⁻¹(y). È il primo metodo a cui pensare; dà la tabella degli integrali "immediati per sostituzione".Integrazione per sostituzione → $w = z - t$ ($dw = dz$, gli estremi $\pm\infty$ restano $\pm\infty$): diventa $\int \frac{1}{\sqrt{2\pi}}e^{-w^2/2}dw = 1$, l'integrale della densità $N(0,1)$ (Distribuzione gaussiana (normale)N(μ, σ²) ha densità e^(−(x−μ)²/(2σ²)) / √(2πσ²), a campana centrata in μ con larghezza σ; media μ, varianza σ²; si standardizza con Z = (X − μ)/σ ~ N(0, 1) e si calcola P(X ≤ x) = Φ((x − μ)/σ), con Φ(−z) = 1 − Φ(z); aX + b è ancora gaussiana, N(aμ + b, a²σ²).Distribuzione gaussiana (normale) →).

Uniforme $U(a, b)$: $M(t) = \frac{e^{tb} - e^{ta}}{t(b - a)}$ per $t \ne 0$, $M(0) = 1$.

Passaggi. La densità vale $\frac{1}{b - a}$ su $[a, b]$, quindi per $t \ne 0$, con la primitiva $\frac{e^{tx}}{t}$ di $e^{tx}$ (Primitive e teoremi fondamentali del calcolo integraleUna primitiva di f è una G con G' = f; due primitive differiscono per una costante, e l'integrale indefinito ∫f(x)dx = F(x) + k è l'insieme di tutte le primitive. La funzione integrale F_a(x) = ∫ da a a x di f è una primitiva di f continua (TFCI 2), e quindi ∫ da a a b di f = G(b) − G(a) per qualunque primitiva G (TFCI 1): gli integrali definiti si calcolano con le primitive.Primitive e teoremi fondamentali del calcolo integrale →): $$M(t) = \frac{1}{b - a}\int_a^b e^{tx}dx = \frac{1}{b - a}\left[\frac{e^{tx}}{t}\right]_a^b = \frac{e^{tb} - e^{ta}}{t(b - a)}.$$ In $t = 0$ la formula dà $\frac00$, e il valore giusto è $M(0) = E[e^0] = 1$. È coerente: per il limite notevoleI limiti notevoli per le forme 0/0 (log(1+x)/x, (e^x − 1)/x, ((1+x)^α − 1)/x, sin x/x, (1 − cos x)/x², arctan x/x...) con le dimostrazioni, e la loro forma come asintoticità: log(1+f) ~ f, e^f − 1 ~ f, sin f ~ f, 1 − cos f ~ f²/2 quando f → 0.Limiti notevoli di funzioni → $\frac{e^y - 1}{y} \to 1$, $$\frac{e^{tb} - e^{ta}}{t(b - a)} = \frac{b\,\frac{e^{tb} - 1}{tb} - a\,\frac{e^{ta} - 1}{ta}}{b - a} \to \frac{b - a}{b - a} = 1 \quad (t \to 0),$$ quindi $M$ è continua anche in $0$ (è il prolungamento per continuitàIn un punto interno del dominio f può avere discontinuità di prima specie (salto), di seconda specie (limite infinito o inesistente) o eliminabile; in un punto fuori dal dominio, se i limiti destro e sinistro coincidono e sono finiti, f si prolunga per continuità. Limiti alla frontiera nello studio di funzione.Discontinuità e prolungamento per continuità → della formula). Se $a$ o $b$ è zero il termine corrispondente vale direttamente $0$.

Proprietà

1. I momenti si ottengono derivando

Proprietà (momenti dalla f.g.m.). Se $M_X$ è finita in un intorno di $0$, allora $X$ ha tutti i momenti finiti e $$E[X^k] = M_X^{(k)}(0), \qquad k = 1, 2, \dots$$

Esempio. $M_X(t) = 1 - p + p\,e^t$ ha $M_X'(t) = p\,e^t$ e $M_X''(t) = p\,e^t$ (la derivata di $e^t$ è $e^t$, le costanti hanno derivata $0$), quindi $M_X'(0) = p = E[X]$ e $M_X''(0) = p = E[X^2]$. Torna: $X^2 = X$ perché $X$ vale solo $0$ o $1$, e $\text{Var}(X) = p - p^2 = p(1 - p)$.

Perché. Sviluppando l'esponenziale in serie e scambiando (lecito sotto questa ipotesi) serie e valore atteso: $$M_X(t) = E\left[\sum_{k \ge 0} \frac{t^k X^k}{k!}\right] = \sum_{k \ge 0} \frac{E[X^k]}{k!} t^k.$$ Il primo passaggio è lo sviluppo $e^y = \sum_{k \ge 0} \frac{y^k}{k!}$ (Sviluppi di Mac-Laurin notevoliTabella degli sviluppi di Mac-Laurin da sapere a memoria (e^x, sin, cos, log(1+x), (1+x)^alpha, arctan, sinh, cosh, tan) e regole per combinarli: algebra degli o piccoli, prodotti, funzioni composte, quanti termini tenere.Sviluppi di Mac-Laurin notevoli →) con $y = tX$; il secondo porta il valore atteso dentro la somma (linearità, estesa alla serie) e fuori i numeri $\frac{t^k}{k!}$. Il risultato è una serie di potenzeLe serie di potenze sono serie di funzioni della forma $\sum a_n(x-x_0)^n$. Esse convergono assolutamente all'interno del raggio di convergenza $\rho$ e uniformemente nei compatti interni, permettendo l'integrazione e la derivazione termine a termine.Serie di potenze e serie di Taylor → in $t$, e una serie di potenze convergente vicino a $0$ è la serie di Taylor della sua somma: il coefficiente di $t^k$ è $\frac{M_X^{(k)}(0)}{k!}$. Confrontando i due coefficienti di $t^k$, $\frac{E[X^k]}{k!} = \frac{M_X^{(k)}(0)}{k!}$, si ottiene la formula. Da qui il nome "generatrice dei momenti". In alternativa: derivare sotto il segno di integraleUn integrale dipendente da un parametro è F(y) = ∫ab f(x,y) dx. Se f è continua sul rettangolo [a,b]×[c,d], F è continua su [c,d] (quindi si può portare il limite sotto il segno di integrale: lim F(y) = ∫ lim f). Se anche ∂f/∂y è continua, F è derivabile e F'(y) = ∫ab ∂f/∂y (x,y) dx (derivazione sotto il segno di integrale, regola di Leibniz). Con estremi variabili, G(y) = ∫α(y)β(y) f(x,y) dx, vale G' = f(β,y)β' − f(α,y)α' + ∫ ∂f/∂y dx. Serve per calcolare integrali che non hanno primitiva elementare.Integrali dipendenti da parametri → (o di media), $\frac{d^k}{dt^k} e^{tX} = X^k e^{tX}$ (ogni derivata rispetto a $t$ fa scendere un fattore $X$), e porre $t = 0$, dove $e^{0} = 1$.

Esempio (esponenziale): $M(t) = \lambda(\lambda - t)^{-1}$, $M'(t) = \lambda(\lambda - t)^{-2}$, $M''(t) = 2\lambda(\lambda - t)^{-3}$. Ogni derivata usa la regola della catenaDerivate delle funzioni elementari e delle loro inverse (arcsin, arctan, settcosh...) e regole di calcolo: linearità, prodotto (Leibniz), quoziente, funzione composta (regola della catena), funzione inversa, f(x)^g(x).Regole di derivazione → su $(\lambda - t)^{-n}$: la derivata è $-n(\lambda - t)^{-n-1} \cdot (-1) = n(\lambda - t)^{-n-1}$, perché la derivata interna di $\lambda - t$ è $-1$. In $0$: $E[X] = \lambda \cdot \lambda^{-2} = \frac1\lambda$, $E[X^2] = 2\lambda \cdot \lambda^{-3} = \frac{2}{\lambda^2}$, $\text{Var}(X) = E[X^2] - E[X]^2 = \frac2{\lambda^2} - \frac1{\lambda^2} = \frac{1}{\lambda^2}$ ✓. In generale $M^{(k)}(t) = k!\,\lambda(\lambda - t)^{-k-1}$ e $M^{(k)}(0) = \frac{k!}{\lambda^k}$.

Esempio (Poisson): $M(t) = e^{\lambda(e^t - 1)}$. Per la regola della catena la derivata è $M(t)$ per la derivata dell'esponente, $\lambda e^t$: $M'(t) = \lambda e^t M(t)$. Derivando questo prodotto con la regola del prodotto, $M''(t) = \lambda e^t M(t) + \lambda e^t M'(t) = \lambda e^t M(t) + (\lambda e^t)^2 M(t)$. In $0$, con $M(0) = 1$ ed $e^0 = 1$: $E[X] = \lambda$, $E[X^2] = \lambda + \lambda^2$, $\text{Var}(X) = \lambda + \lambda^2 - \lambda^2 = \lambda$ ✓.

Esempio (gaussiana standard): con $y = \frac{t^2}{2}$ nella serie esponenziale, $$e^{t^2/2} = \sum_{m \ge 0} \frac{1}{m!}\left(\frac{t^2}{2}\right)^m = \sum_{m \ge 0} \frac{t^{2m}}{2^m m!}.$$ Compaiono solo potenze pari di $t$, quindi il coefficiente di $t^k$ con $k$ dispari è $0$: i momenti dispari sono nulli (come ci si aspetta da una densità simmetrica rispetto a $0$). Per $k = 2m$ si confronta con $\frac{E[Z^{2m}]}{(2m)!}$: $$\frac{E[Z^{2m}]}{(2m)!} = \frac{1}{2^m m!} \implies E[Z^{2m}] = \frac{(2m)!}{2^m m!},$$ cioè $E[Z^2] = \frac{2}{2} = 1$, $E[Z^4] = \frac{24}{4 \cdot 2} = 3$, $E[Z^6] = \frac{720}{8 \cdot 6} = 15$.

2. Trasformazioni affini

Proprietà (trasformazioni affini della f.g.m.). $$M_{aX + b}(t) = e^{bt} M_X(at).$$

Esempio. $M_{2X + 1}(t) = e^{t} M_X(2t)$.

Perché: $e^{t(aX + b)} = e^{bt} \cdot e^{(at)X}$ (proprietà delle potenze, $e^{u + v} = e^u e^v$), e $e^{bt}$ è un numero che esce dal valore atteso per linearità: $E[e^{t(aX + b)}] = e^{bt}E[e^{(at)X}] = e^{bt}M_X(at)$. Esempio: $X = \mu + \sigma Z$ ($a = \sigma$, $b = \mu$) ha $M_X(t) = e^{\mu t}M_Z(\sigma t) = e^{\mu t}e^{(\sigma t)^2/2} = e^{\mu t + \sigma^2 t^2/2}$.

3. Somme di v.a. indipendenti

Proprietà (f.g.m. di una somma di indipendenti). Se $X$ e $Y$ sono indipendenti, $$M_{X + Y}(t) = M_X(t) \, M_Y(t).$$

Esempio. Due $\text{Be}(p)$ indipendenti: $M_{X+Y}(t) = (1 - p + p\,e^t)^2$, la f.g.m. di $\text{Bin}(2, p)$.

Perché: $e^{t(X + Y)} = e^{tX} e^{tY}$, e per v.a. indipendenti la media del prodotto di funzioni di ciascuna è il prodotto delle medie: $e^{tX}$ e $e^{tY}$ sono funzioni di $X$ e di $Y$ separatamente, quindi sono ancora indipendenti e $E[e^{tX}e^{tY}] = E[e^{tX}]\,E[e^{tY}]$ (Vettori aleatori discretiUn vettore aleatorio discreto (X, Y) è descritto dalla densità congiunta p(x, y) = P(X = x, Y = y); le marginali si ottengono sommando sull'altra variabile, X e Y sono indipendenti se p(x, y) = p_X(x) p_Y(y) per ogni coppia, e E[g(X, Y)] = Σ g(x, y) p(x, y).Vettori aleatori discreti →, Vettori aleatori assolutamente continuiUn vettore (X, Y) è assolutamente continuo se P((X, Y) ∈ A) = ∬_A f(x, y) dx dy per una densità congiunta f ≥ 0 con integrale 1; le marginali si ottengono integrando sull'altra variabile (f_X(x) = ∫ f(x, y) dy), X e Y sono indipendenti se f(x, y) = f_X(x) f_Y(y), e E[g(X, Y)] = ∬ g f. Il punto delicato degli esercizi è descrivere bene la regione dove f > 0.Vettori aleatori assolutamente continui →). Più in generale, $M_{X_1 + \dots + X_n} = \prod_i M_{X_i}$ (si aggiunge un addendo alla volta, per induzionePer dimostrare una proprietà per ogni n basta il passo base e il passo induttivo da n a n+1.Principio di induzione →). La convoluzione (un integrale) diventa un prodotto (un'operazione elementare): è la stessa proprietà della trasformata di Laplace e di quella di Fourier, per cui la trasformata di una convoluzioneIl supporto della convoluzione è la somma dei supporti, $\operatorname{rect}*\operatorname{rect}=\Lambda$, e due esponenziali causali danno $(e^{-bt}-e^{-at})/(a-b)$. Si calcola con il metodo grafico a casi (ribaltare, traslare, individuare gli intervalli di sovrapposizione). Proprietà: lineare, commutativa, associativa, $\delta$ è l'elemento neutro, la traslazione si somma, l'area è il prodotto delle aree.Calcolo della convoluzione e sue proprietà → è il prodotto delle trasformate.

4. La f.g.m. determina la legge

Teorema di unicità. Se $M_X(t) = M_Y(t) < \infty$ per ogni $t$ in un intorno di $0$, allora $X$ e $Y$ hanno la stessa legge.

Esempio. Se $M_X(t) = e^{t^2/2}$ in un intorno di $0$, allora $X \sim N(0,1)$, perché è la f.g.m. di quella legge.

Dimostrazione non in programma. Combinato con la proprietà 3, dà un metodo rapido per trovare leggi di somme: si moltiplicano le f.g.m. e si riconosce il risultato nella tabella.

Applicazioni: somme notevoli in una riga

• $\text{Poi}(\lambda) + \text{Poi}(\mu)$ indipendenti: $e^{\lambda(e^t - 1)}e^{\mu(e^t - 1)} = e^{(\lambda + \mu)(e^t - 1)}$, quindi $\text{Poi}(\lambda + \mu)$.
• $\text{Bin}(n, p) + \text{Bin}(m, p)$: $(1 - p + pe^t)^{n + m}$, quindi $\text{Bin}(n + m, p)$.
• $\text{Bin}(n, p) + \text{Bin}(m, p)$ funziona solo con la stessa $p$: con $p \ne q$ il prodotto $(1 - p + pe^t)^n(1 - q + qe^t)^m$ non è della forma $(1 - r + re^t)^{n+m}$ e la somma non è binomiale.
• $n$ esponenziali $\text{Exp}(\lambda)$ indipendenti: $\left(\frac{\lambda}{\lambda - t}\right)^n$, quindi $\Gamma(n, \lambda)$ (è la f.g.m. della gamma con $\alpha = n$).
• $N(\mu_1, \sigma_1^2) + N(\mu_2, \sigma_2^2)$ indipendenti: $e^{\mu_1 t + \sigma_1^2 t^2/2}e^{\mu_2 t + \sigma_2^2 t^2/2} = e^{(\mu_1 + \mu_2)t + (\sigma_1^2 + \sigma_2^2)t^2/2}$, quindi $N(\mu_1 + \mu_2, \sigma_1^2 + \sigma_2^2)$.

Confronta con i calcoli di convoluzione in Somma di variabili aleatorie indipendentiSe X e Y sono indipendenti, la legge di Z = X + Y è la convoluzione: p_Z(n) = Σ_k p_X(k) p_Y(n − k) nel discreto, f_Z(z) = ∫ f_X(z − y) f_Y(y) dy nel continuo. Casi notevoli: Bin(n,p) + Bin(m,p) = Bin(n+m,p), Poi(λ) + Poi(μ) = Poi(λ+μ), Geo + Geo con densità (n−1)p²(1−p)^(n−2), Exp(λ) + Exp(λ) = Γ(2,λ), gaussiane indipendenti sommano medie e varianze.Somma di variabili aleatorie indipendenti →: qui non c'è nessun integrale.

Limiti: quando la f.g.m. non esiste

Se $X$ ha code "pesanti", $M_X(t) = +\infty$ per ogni $t \ne 0$. Esempio: la densità di Cauchy $\frac{1}{\pi(1 + x^2)}$, per cui $e^{tx}$ cresce esponenzialmente mentre la densità decresce solo come $\frac{1}{x^2}$. In dettaglio, per $t > 0$: $\frac{e^{tx}}{\pi(1 + x^2)} \to +\infty$ per $x \to +\infty$ (l'esponenziale batte ogni potenzaI limiti di base per sciogliere le forme indeterminate delle successioni: potenze, polinomi, il numero e, esponenziali, la gerarchia logaritmi < potenze < esponenziali < fattoriale < n^n e la razionalizzazione.Limiti notevoli e gerarchia degli infiniti →), quindi l'integranda è $\ge 1$ da un certo $x_0$ in poi e $\int_{x_0}^{\infty} \ge \int_{x_0}^\infty 1\,dx = +\infty$ (criterio del confrontoPer f ≥ 0 l'integrale improprio esiste sempre (finito o +∞); valgono il confronto e il confronto asintotico, basta che le ipotesi valgano vicino all'estremo problematico. Funzioni test: 1/x^α converge a +∞ per α > 1 e vicino a 0 per α < 1; 1/(x^α log^β x) aggiunge il caso α = 1, β > 1. Se f → L ≠ 0 a +∞ l'integrale diverge. Criterio dell'integrale: per f decrescente, la serie di f(n) e l'integrale da 1 a +∞ hanno lo stesso carattere.Criteri di convergenza per gli integrali impropri →); per $t < 0$ si ragiona allo stesso modo su $x \to -\infty$. Per v.a. di questo tipo la f.g.m. è inutile; la Funzione caratteristicaLa funzione caratteristica φ_X(θ) = E[e^(iθX)] = E[cos θX] + iE[sin θX] esiste per ogni v.a. e ogni θ, vale 1 in 0, ha modulo ≤ 1, determina la legge (è la trasformata di Fourier della densità), trasforma le somme di v.a. indipendenti in prodotti e dà i momenti: E[X^k] = φ^(k)(0) / i^k. Per N(μ, σ²) vale e^(iμθ − σ²θ²/2).Funzione caratteristica → invece esiste sempre, perché $|e^{i\theta X}| = 1$. È il motivo per cui nella teoria si preferisce la funzione caratteristica.

Tabella

Errori comuni

• Dimenticare il dominio: $\frac{\lambda}{\lambda - t}$ vale solo per $t < \lambda$; per $t \ge \lambda$ la f.g.m. è $+\infty$, non un numero negativo.
• Moltiplicare le f.g.m. senza indipendenza.
• Derivare e non valutare in $0$: $E[X^k]$ è la derivata calcolata in $t = 0$.
• Confondere $M_{aX}(t) = M_X(at)$ con $aM_X(t)$.