Modelli probabilistici di fenomeni aleatori

Template:Risorsa La teoria della probabilità si occupa dello studio dei fenomeni aleatori. Quando non siamo in grado di dare una caratterizzazione esatta del fenomeno e dobbiamo dare una descrizione globale del fenomeno stesso, usiamo la probabilità.

Probabilità e statistica

Esperimenti aleatori

Sono aleatori tutti gli esperimenti per i quali è difficile o impossibile prevedere in modo esatto il risultato, ma presentano una qualche forma di regolarità. Il comportamento dei fenomeni aleatori può essere descritto solo attraverso grandezze globali e/o medie.

Non ci interessa solo il caso in cui sia impossibile, ma anche sia molto difficile, così tanto da rendere la descrizione irrealizzabile.

Pensando alla definizione di probabilità, i valori medi possono essere i momenti e le regolarità del primo o second'ordine. Tanto per dare un esempio, è difficile predire esattamente il risultato di ogni lancio del dado, ma se il dado non è truccato posso dire che ogni faccia ha la stessa probabilità di uscire. Posso prevedere il valor medio del risultato e la statistica collegata.

Teoria della probabilità e statistica

La teoria della probabilità si occupa della costruzione di modelli probabilistici (matematici) che descrivano i fenomeni aleatori. La statistica, invece, si occupa di verificare l'aderenza di un modello rispetto ai dati sperimentali.

Nella parte di teoria della probabilità possiamo dire qual è la funzione di densità di probabilità del dado. La statistica si preoccupa di dire se, dato un dado, questo aderisce al modello della teoria della probabilità o se questo è truccato. Gli ambiti in cui viene utilizzata la teoria della probabilità sono molti, per esempio:

• teoria delle code;
• instradamento ottimo dei pacchetti;
• analisi fatta a livello statistico;
• meccanica statistica relativa ai gas (posso descrivere la pressione, che è un valore medio, e non la posizione di ogni molecola);
• elaborazione e trasmissione dell'informazione.

Teoria dell'informazione

La teoria dell'informazione studia i problemi legati all'elaborazione e alla trasmissione dell'informazione utilizzando un approccio probabilistico.

L'informazione si misura con la definizione

$i(m_k)=\log \frac{1}{p(m_k)}$

Dall'informazione $i(m)$ si passa alla definizione di entropia:

$H(M)=\sum _{k=i}^{m}p(m_k)\cdot i(m_k)=\sum _{k=i}^{m}p(m_k)\cdot \log \frac{1}{p(m_k)}=E[i]\text{ con }{m}_k\in M$

L'entropia non è altro che l'informazione media di una sorgente.

La costruzione di modelli semplificati può cambiare nettamente le prestazioni di un canale o di un sistema di telecomunicazioni.

Statistica

Ci saranno, in generale, più di uno spazio F degli eventi. Il più banale deve contenere l'unione ed il complemento degli eventi.

$F_1=\{\varnothing ,\mathrm{\Omega }\}$

Definizioni di probabilità

Probabilità secondo la frequenza relativa

Una delle possibili definizioni di probabilità è quella che usa la frequenza relativa. Si dice che la probabilità $P(A)$ di un evento A è data da

$P(A)=\underset{n\to \mathrm{\infty }}{\lim }\frac{n_A}{n}$

dove n è il numero di volte che si ripete l'esperimento, mentre $n_A$ è il numero di volte che si verifica l'evento A.

Probabilità secondo il modello probabilistico

Un modello probabilistico di un fenomeno aleatorio è lo spazio di probabilità identificato da tre elementi $(\mathrm{\Omega },F,P)$, dove:

• $\mathrm{\Omega }$ è lo spazio degli esiti;
• F è lo spazio degli eventi;
• P è la probabilità.

Quest'ultima proprietà è detta additività numerabile, perché indica che gli elementi hanno intersezione nulla e la somma delle loro probabilità si può portare fuori dal segno di probabilità.