Spazi di probabilità discreti e uniformi

Lezione 3. Prima: Misura di probabilità e sue proprietàUna misura di probabilità è una funzione P: F → [0,1] con P(Ω) = 1 e σ-additiva; ne seguono P(Aᶜ) = 1 − P(A), P(∅) = 0, monotonia, P(A ∪ B) = P(A) + P(B) − P(A ∩ B) e la formula di inclusione-esclusione.Misura di probabilità e sue proprietà →. Dopo: Calcolo combinatorio per la probabilitàNegli spazi uniformi bisogna contare: principio di moltiplicazione, disposizioni con ripetizione n^k, disposizioni semplici n!/(n−k)!, permutazioni n!, combinazioni (n su k); estrazioni con e senza reinserimento e distribuzione ipergeometrica.Calcolo combinatorio per la probabilità →. Esercizi svolti: Esercizio 3 · somma 7 con due dadi, Esercizio 4 · 42 teste in 100 lanci di una moneta.

Spazi di probabilità discreti

Uno spazio di probabilità $(\Omega, \mathcal{F}, \mathbb{P})$ è discreto se

• $\Omega$ è finito o numerabile: $\Omega = \{\omega_1, \omega_2, \dots\}$;
• $\mathcal{F} = \mathcal{P}(\Omega)$ (tutti i sottoinsiemi sono eventi, come convenutoNel caso discreto non ci sono sottoinsiemi problematici, quindi si prende la σ-algebra massimale.Sigma-algebre di eventi →).

Basta conoscere la probabilità dei singoli esiti

Proprietà (la probabilità discreta è determinata dai singoletti). Nel caso discreto una misura $\mathbb{P}$ è determinata unicamente dai suoi valori sui singoletti $\{\omega\}$, $\omega \in \Omega$.

Esempio. Dado equo: $\mathbb{P}(\{k\}) = \frac{1}{6}$ per ogni $k$, quindi $\mathbb{P}(\{1,2\}) = \frac{1}{6} + \frac{1}{6} = \frac{1}{3}$.

Perché: ogni evento $A$ è l'unione dei singoletti dei suoi esiti, $A = \bigcup_{\omega \in A} \{\omega\}$. Questi singoletti sono a due a due disgiunti e sono al più numerabili (perché $\Omega$ lo è), quindi per σ-additivitàPer eventi a due a due disgiunti la probabilità dell'unione è la somma (anche infinita) delle probabilità.Misura di probabilità e sue proprietà → (se $A$ è infinito la somma è una serieUna serie è la successione delle somme parziali s_n = a_0 + ... + a_n; la sua somma è il limite di s_n (converge, diverge o è irregolare). Proprietà generali e condizione necessaria: se la serie converge, gli addendi tendono a 0.Serie numeriche →, che converge perché ha termini $\ge 0$ e somme parziali $\le 1$)

$$\mathbb{P}(A) = \mathbb{P}\Big(\bigcup_{\omega \in A} \{\omega\}\Big) = \sum_{\omega \in A} \mathbb{P}(\{\omega\})$$

Conoscendo i numeri $\mathbb{P}(\{\omega\})$ si conosce quindi la probabilità di qualunque evento.

Attenzione: questo ragionamento non funziona negli spazi continui, dove gli esiti sono una quantità non numerabile e la σ-additività non si può applicare a "tutti i singoletti" (anzi, lì ogni singoletto ha di solito probabilità $0$).

Densità di probabilità discreta

Si pone

$$p(\omega) := \mathbb{P}(\{\omega\}), \qquad p : \Omega \to [0, 1]$$

La funzione $p$ si chiama densità di probabilità discreta e soddisfa

Definizione (densità di probabilità discreta). $$\boxed{p(\omega) \ge 0 \quad \forall \omega \in \Omega, \qquad \sum_{\omega \in \Omega} p(\omega) = 1}$$

La somma vale $1$ perché $\sum_{\omega \in \Omega} p(\omega) = \sum_{\omega \in \Omega} \mathbb{P}(\{\omega\}) = \mathbb{P}\big(\bigcup_{\omega \in \Omega} \{\omega\}\big) = \mathbb{P}(\Omega) = 1$.

Vale anche il viceversa: data una qualunque funzione $p : \Omega \to [0, 1]$ con somma $1$, la formula $\mathbb{P}(A) := \sum_{\omega \in A} p(\omega)$ definisce una misura di probabilità su $\Omega$. Quindi costruire un modello discreto = scegliere una densità discreta.

Esempio (dado truccato). $\Omega = \{1, \dots, 6\}$ con $p(6) = \frac12$ e $p(1) = \dots = p(5) = \frac1{10}$. È una densità: valori $\ge 0$ e $5 \cdot \frac1{10} + \frac12 = 1$ ✓. Allora $\mathbb{P}(\text{pari}) = p(2) + p(4) + p(6) = \frac1{10} + \frac1{10} + \frac12 = \frac7{10}$.

Esempio (Ω numerabile). Si lancia una moneta equa finché esce testa; $\omega = n$ è il numero di lanci necessari. Una scelta naturale (giustificata in Prove ripetute e modello binomialen prove indipendenti, ciascuna con probabilità di successo p: una sequenza con k successi ha probabilità p^k (1−p)^(n−k), e la probabilità di esattamente k successi è (n su k) p^k (1−p)^(n−k) (modello binomiale); il primo successo alla prova k ha probabilità (1−p)^(k−1) p.Prove ripetute e modello binomiale →) è $p(n) = \left(\frac12\right)^n$ per $n = 1, 2, \dots$ È una densità perché

$$\sum_{n \ge 1} \left(\tfrac12\right)^n = \frac{1/2}{1 - 1/2} = 1.$$

Qui si usa la serie geometricaPer abs(q) < 1 vale Σ_{n≥0} q^n = 1/(1−q); partendo da n = 1 si toglie il termine q^0 = 1 e resta q/(1−q).Serie notevoli - geometrica, telescopica, armonica →: $\sum_{n \ge 0} q^n = \frac{1}{1-q}$ per $|q| < 1$, e partendo da $n = 1$ manca il termine $q^0 = 1$, quindi $\sum_{n \ge 1} q^n = \frac{1}{1-q} - 1 = \frac{q}{1-q}$; con $q = \frac12$ viene $\frac{1/2}{1/2} = 1$. Ad esempio $\mathbb{P}(\text{servono al più 3 lanci}) = p(1) + p(2) + p(3) = \frac12 + \frac14 + \frac18 = \frac{4 + 2 + 1}{8} = \frac78$, e con il complementare $\mathbb{P}(\text{servono più di 3 lanci}) = 1 - \frac78 = \frac18$: sono proprio le sequenze che iniziano con tre croci, che hanno probabilità $\left(\frac12\right)^3$.

Spazi uniformi (discreti)

Sia $\Omega = \{\omega_1, \dots, \omega_N\}$ finito, e supponiamo che tutti gli esiti abbiano la stessa "possibilità di verificarsi", cioè siano equiprobabili, per ragioni di simmetria. Esempi:

• scelta di una carta da un mazzo ben mescolato;
• lancio di un dado equo;
• estrazione di una pallina da un'urna (palline uguali al tatto).

Se $p(\omega) = c$ per ogni $\omega$ (stessa costante), la normalizzazione impone

$$1 = \sum_{\omega \in \Omega} p(\omega) = c \sum_{\omega \in \Omega} 1 = c \cdot |\Omega| \implies \boxed{p(\omega) = \frac{1}{|\Omega|}}$$

dove $|\Omega|$ è il numero di elementi di $\Omega$ (la sua cardinalità, vedi Insiemi e insieme delle partiCome si descrive un insieme, sottoinsiemi, uguaglianza, insieme delle parti e insiemi finiti e infiniti.Insiemi e insieme delle parti →); il passaggio $\sum_{\omega \in \Omega} c = c \sum_{\omega \in \Omega} 1$ porta fuori dalla somma la costante, come in SommatorieIl simbolo di sommatoria, le sue proprietà (linearità, additività, cambio di indice) e le somme notevoli di Gauss e geometrica.Sommatorie →, e $\sum_{\omega \in \Omega} 1$ conta gli elementi di $\Omega$. Di conseguenza, per ogni evento $A$ (stesso conto con $A$ al posto di $\Omega$: si somma $|A|$ volte $\frac{1}{|\Omega|}$):

Formula (probabilità uniforme: casi favorevoli su casi possibili). $$\boxed{\mathbb{P}(A) = \sum_{\omega \in A} \frac1{|\Omega|} = \frac{|A|}{|\Omega|} = \frac{\#\,\text{casi favorevoli}}{\#\,\text{casi possibili}}}$$

Esempio. Dado equo: $\mathbb{P}(\text{pari}) = \frac{|\{2,4,6\}|}{6} = \frac{1}{2}$.

È la definizione "classica" di probabilità, che però vale solo se gli esiti sono equiprobabili. Calcolare una probabilità in uno spazio uniforme si riduce a contare due insiemi.

Perché serve Ω finito. Su un $\Omega$ infinito numerabile non esiste una probabilità uniforme: se $p(\omega) = c$ per tutti gli infiniti esiti, le somme parziali sono $N c$ e la serie $\sum c$ vale $0$ (se $c = 0$) o $+\infty$ (se $c > 0$), mai $1$. Lo si vede anche dalla condizione necessaria di convergenzaUna serie è la successione delle somme parziali s_n = a_0 + ... + a_n; la sua somma è il limite di s_n (converge, diverge o è irregolare). Proprietà generali e condizione necessaria: se la serie converge, gli addendi tendono a 0.Serie numeriche →: una serie convergente deve avere termini che tendono a $0$, quindi le probabilità di infiniti esiti non possono essere tutte uguali e positive.

Esempio: somma 7 con due dadi

Si lanciano due dadi equi a sei facce. Probabilità che la somma sia $7$?

• $\Omega = \{1, \dots, 6\}^2 = \{(i, j) : i, j \in \{1, \dots, 6\}\}$ (prodotto cartesianoUnione, intersezione, differenza, complementare e prodotto cartesiano, con le leggi di De Morgan e il legame con la logica.Operazioni tra insiemi →), $|\Omega| = 6 \cdot 6 = 36$ (6 valori per il primo dado, e per ciascuno 6 per il secondo). Gli esiti sono coppie ordinate (primo dado, secondo dado): così sono tutti equiprobabili.
• $\mathbb{P}$ uniforme: $\mathbb{P}(\{(i, j)\}) = \frac1{36}$.
• $A = \{(1, 6), (2, 5), (3, 4), (4, 3), (5, 2), (6, 1)\}$, $|A| = 6$.

$$\mathbb{P}(A) = \frac{6}{36} = \frac16$$

Lo stesso conteggio per tutte le somme $s = 2, \dots, 12$ dà $s - 1$ coppie per $s \le 7$ e $13 - s$ coppie per $s \ge 7$, cioè $\mathbb{P}(\text{somma} = s) = \frac{6 - |s - 7|}{36}$: le somme non sono equiprobabili, e la $7$ è la più probabile.

Svolgimento completo e il perché delle coppie ordinate: Esercizio 3 · somma 7 con due dadi.

Esempio: 42 teste su 100 lanci

Si lancia una moneta equa 100 volte: probabilità di ottenere esattamente 42 teste?

• $\Omega = \{T, C\}^{100}$, $|\Omega| = 2^{100}$; $\mathbb{P}$ uniforme, ogni sequenza ha probabilità $\frac1{2^{100}}$.
• $A =$ "esattamente 42 teste": quante sequenze lo realizzano? Elencarle è impossibile: servono strumenti di conteggio.

Gli spazi uniformi aprono un problema di conteggio, che richiede una base di calcolo combinatorioRegole per contare disposizioni, permutazioni e combinazioni senza elencarle.Calcolo combinatorio per la probabilità →. La risposta, $\binom{100}{42} / 2^{100} \approx 0{,}022$ (il coefficiente binomialen su k = n! / (k! (n−k)!): il numero di modi di scegliere k oggetti tra n senza ordine.Fattoriale e coefficienti binomiali → $\binom{100}{42}$ conta i modi di scegliere le 42 posizioni delle teste tra i 100 lanci), è nell'Esercizio 4 · 42 teste in 100 lanci di una moneta.

Errori comuni

• Usare "favorevoli su possibili" quando gli esiti non sono equiprobabili. Classico: con due dadi, prendere come esiti le somme $\{2, \dots, 12\}$ e dire $\mathbb{P}(\text{somma } 7) = \frac1{11}$. Le somme non sono equiprobabili (la somma $2$ si ottiene in un solo modo, la $7$ in sei).
• Considerare non ordinati esiti che sono distinguibili (due dadi, due lanci): con le coppie non ordinate $\{1, 6\}$ e $\{3, 3\}$ avrebbero la stessa probabilità, ma la prima si realizza in due modi e la seconda in uno.
• Dimenticare di verificare che la densità sommi a 1 quando la si costruisce.