Processi stocastici, stazionarietà ed ergodicità e densità spettrale di potenza

Template:Risorsa Un processo casuale potrebbe essere, per esempio, quando si acquisisce un segnale con un oscilloscopio collegato ad un generatore di forme d'onda; la sinusoide generata sarà $\sin (2\pi ft+\mathrm{\Phi })$, dove $\mathrm{\Phi }$ è una variabile casuale.

Processi casuali

Un processo casuale $\{X(t),t\in T\}$ è una collezione di variabili casuali indicizzate dal tempo $t\in T$. Quindi, $X(\overline{t})\mathrm{\forall }\overline{t}\in T$ è una variabile casuale definita nello spazio di probabilità $\{\mathrm{\Omega },F,P\}$. Fissato l'istante temporale $\overline{t}\in T$, si ha una funzione misurabile

$X(\overline{t}):\mathrm{\Omega }\to ℝ$

che parte dallo spazio $(\mathrm{\Omega },F)$ per giungere allo spazio $(ℝ,𝔹\mathbb{(}ℝ\mathbb{)})$. È possibile indicare un processo stocastico anche con la notazione

$X(t,s):\mathrm{\Omega }\times T\to ℝ$

dove $X(t,s)$ è misurabile rispetto ad $s$.

Se $T=ℝ$, il processo si dice a tempo continuo; al contrario, se $T=\mathbb{Z}$, allora il processo si dice a tempo discreto.

Se fissiamo $s\in \mathrm{\Omega }$, allora $X(s)$ è una funzione del tempo, altrimenti detta realizzazione.

Caratterizzazione statistica del processo

Realizzazioni

Fissato $s$ a scelta, disegnamo una realizzazione del processo nel tempo.

Variabili casuali

Fissato il tempo, si ha una variabile casuale osservando varie realizzazioni del processo, in quel preciso istante temporale.

Densità di probabilità

Per il calcolo della densità congiunta del second'ordine, è necessario fissare due istanti temporali $t_1,t_2,\mathrm{\forall }{t}_1<t_2$.

Caratterizzazione statistica di un processo

Si prendano diversi istanti di tempo $t_1<t_2<\cdots <t_n\in T,n\in \mathbb{N}$. Si definisce la quantità

$P[X(t_1),X(t_2),\cdots ,X(t_n)\in B]\mathrm{\forall }B\in {𝔹\mathbb{(}ℝ}^n)$

come la probabilità finito-dimensionale del processo $X(t,x)$. Dato che $X(t)$ è una variabile casuale, la quantità appena definita è pari alla probabilità congiunta di un vettore n-dimensionale di variabili casuali, con $X_i=X(t_i)\mathrm{\forall }i=1,2,\cdots ,n$.

In modo equivalente ai vettori di variabili casuali, un processo è caratterizzato dalla densità di probabilità congiunta, che si indica con

$\begin{array}{cc}{f}_X& (x_1,x_2,\cdots x_n;t_1,t_2,\cdots t_n)\\ & =f_{X(t_1)\cdots X(t_n)}(x_1,x_2,\cdots x_n){=}_{n=2}{f}_X(x_1,x_2;t_1,t_2)\\ & =f_{X(t_1)X(t_2)}(x_1,x_2)\end{array}$

Dalla congiunta è sempre possibile ottenere le marginali, che possono essere pensate come delle congiunte di ordine inferiore.

Ergodicità dei processi casuali

Supponendo di avere un processo stocastico $X$ stazionario (in senso lato), andiamo a cercare di dedurre qualcosa dalla sua densità di probabilità $f_X(x)$ generando una realizzazione nel tempo. Vedremo che se il processo è ergodico, medie d'insieme e temporali coincidono.

Consideriamo un processo $\{X(t),t\in ℝ\}$, con $X(t,s):ℝ\times ℝ\to ℝ$ definito sullo spazio di probabilità $\{\mathrm{\Omega },F,P\}$. Fissato l'esito $s\in \mathrm{\Omega }$, otteniamo una realizzazione $X(\cdot ,s)$. Vogliamo capire se (e sotto quali condizioni) è possibile determinare delle caratteristiche di $X(t)$, osservando un'unica realizzazione.

Se il processo è stazionario in senso lato, allora

${\mu }_X(t)={\mu }_X\mathrm{\forall }t\in ℝ$

Consideriamo la realizzazione $X(\cdot ,s)$ in una finestra $[-\frac{T}{2},\frac{T}{2}]$.

File:TFA realizzazione per ergodicita processi.jpg

La grandezza $A_{X,T}(\overline{s})$ è una stima, si riferisce ad una particolare realizzazione $\overline{s}$.

Il teorema di Slutsky permette di facilitare il compito di verifica dell'ergodicità di un dato processo. Una condizione sufficiente (ma non necessaria) affinché $X(T)$ sia ergodico è che

$C_X(\tau ){\to }_{\tau \to \mathrm{\infty }}0$

In modo alternativo, si può definire l'ergodicità del processo $\{X(t),t\in T\}$ nel seguente modo:

• se $X(t)$ è WSS di prim'ordine, allora

$E[X(t)]={\mu }_X(t)={\mu }_X$

Di conseguenza, si ha che $X(t)$ è un processo ergodico rispetto al valor medio se è verificato

$P(\{s\in \mathrm{\Omega }|A_{X,T}(s)={\mu }_X\})=1$

Questa si dice convergenza in probabilità, o convergenza qox (per quasi ogni $x$). Se $\mathrm{\Omega }$ è continuo, possono esistere alcuni $s$ per cui non è verificata l'equazione, ma se questi punti sono isolati (concetto di qox), allora si ha comunque la convergenza cercata. La probabilità di un particolare $s$, infatti, è infinitesima (nel caso di processi a tempo continuo, lo stesso non vale per processi a tempo discreto).

• $X(t)$ WSS del second'ordine è ergodico rispetto alla sua funzione di autocorrelazione se vale

$P(\{s\in \mathrm{\Omega }|{\phi }_{X,T}(\tau ,s)=R_X(\tau )\})=1$

Anche questa è una convergenza in probabilità, con

${\phi }_{X,T}(\tau ,s)\underset{T\to \mathrm{\infty }}{\lim }\frac{1}{T}\underset{-\frac{T}{2}}{\overset{+\frac{T}{2}}{\int }}X(t,s)X(t+\tau ,s)dt$

che è l'autocorrelazione temporale del processo. In termini pratici, questo equivale a dire che

$R_X(t,t+\tau )=E[X(t)X(t+\tau )]=R_X(\tau )={\phi }_{X,T}(\tau ,s)$

dove $E[\cdot ]$ è la solita stima della funzione di autocorrelazione e $R_X(\tau )$ è l'autocorrelazione d'insieme, che viene a coincidere con l'autocorrelazione temporale ${\phi }_{X,T}(\tau ,s)$.

Densità spettrale di potenza

Consideriamo il processo $\{X(t),t\in T\}$. Fissato $s\in \mathrm{\Omega }$ otteniamo una realizzazione che in generale rappresenta un segnale di potenza non periodico, quindi non è possibile dare una caratterizzazione frequenziale attraverso la trasformata di Fourier (in modo diretto). È tuttavia possibile caratterizzare i processi casuali almeno in termini di spettro di potenza. A questo proposito, consideriamo il processo

$X_T(t,s)=X(t,s)\cdot rect\left(\frac{t}{T}\right)$

Limitatamente al periodo $T$, il segnale diventa ad energia finita,

$E=\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}|X_T(t,s){|}^{2}dt=\underset{-\frac{T}{2}}{\overset{\frac{T}{2}}{\int }}|X(t,s){|}^{2}dt<\mathrm{\infty }$

quindi si ha anche lo spettro di potenza finito,

$\frac{1}{T}=\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}|X_T(f,s){|}^{2}df$

Proprietà della densità spettrale di potenza

1. $S_X(f)\ge 0\mathrm{\forall }f$

2. $\frac{|X_T(f,s){|}^2}{T}$ è detto periodogramma del processo

3. Teorema di Wiener-Kinchine; se un processo stocastico è stazionario in senso lato (del second'ordine), allora si ha

$S_X(f)=F[R_X(\tau )]=\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}{R}_X(\tau )e^{-j2\pi f\tau }d\tau$

4. Se $X(t)$ è a valori reali, allora $S_X(f)$ è pari, di conseguenza si ha che

$R_X\left(\tau \right)=R_X(-\tau )$

5. $\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}{S}_X(f)df=R_X(0)=P_X$ che è la potenza del processo

6. $R_X(\tau )=F^{-1}[S_X(f)]=\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}{S}_X(f)e^{j2\pi f\tau }df$

Descrizione congiunta dei processi stocastici

Consideriamo $\{X(t),t\in T\}$ e $\{Y(t),t\in T\}$ due processi definiti sullo stesso spazio di probabilità $(\mathrm{\Omega },F,P)$. Se volessimo caratterizzare congiuntamente i due processi, dovremmo fare

$f_{X,Y}(x_1,x_2,\cdots x_n,y_1,y_2,\cdots y_m;t_1,t_2,\cdots t_n,t_1^{\prime },t_2^{\prime },\cdots t_m^{\prime })$

e questo dovrebbe valere:

• $\mathrm{\forall }{t}_1{t}_2<\cdots <t_n\in T$
• $\mathrm{\forall }{t}_1^{\prime }{t}_2^{\prime }<\cdots <t_n^{\prime }\in T$
• $\mathrm{\forall }m,n\in \mathbb{N}$

Questa è la densità congiunta finito-dimensionale; passando invece alle descrizioni sintetiche, si possono identificare:

• i valori medi

${\mu }_X(t)=E[X(t)]$

${\mu }_Y(t)=E[Y(t)]$

• le funzioni di autocorrelazione

$R_X(t_1,t_2)=E[X(t_1)X(t_2)]$

$R_Y(t_1,t_2)=E[Y(t_1)Y(t_2)]$

• le funzioni di covarianza

$C_X(t_1,t_2)=E\left[(X(t_1)-{\mu }_X(t1))(X(t_2)-{\mu }_X(t_2))\right]$

$C_Y(t_1,t_2)=E\left[(Y(t_1)-{\mu }_Y(t1))(Y(t_2)-{\mu }_Y(t_2))\right]$

• le funzioni di crosscorrelazione

$R_{XY}(t_1,t_2)=E[X(t_1)Y(t_2)]$

$R_{YX}(t_1,t_2)=E[Y(t_1)X(t_2)]$

• le funzioni di crosscovarianza

$\begin{array}{cc}{C}_{XY}(t_1,t_2)& =E\left[(X(t_1)-{\mu }_X(t1))(Y(t_2)-{\mu }_Y(t_2))\right]\\ & =R_{XY}(t_1,t_2)-{\mu }_X(t_1){\mu }_Y(t_2)\end{array}$

$\begin{array}{cc}{C}_{YX}(t_1,t_2)& =E\left[(Y(t_1)-{\mu }_Y(t1))(X(t_2)-{\mu }_X(t_2))\right]\\ & =R_{YX}(t_1,t_2)-{\mu }_Y(t_1){\mu }_X(t_2)\end{array}$

Nel caso particolare in cui i processi siano delle variabili casuali gaussiane, allora si ha che

$\text{ incorrelazione }\iff \text{ indipendenza }$

mentre i tutti gli altri casi si ha

$\begin{array}{ccc}\text{ incorrelazione }& \iff ̸& \text{ indipendenza }\\ \text{ indipendenza }& \Rightarrow & \text{ incorrelazione }\end{array}$

Nel caso di processi congiuntamente stazionari in senso lato (WSS), si ha

$R_{YX}(t,t+\tau )=R_{YX}(0,\tau )=R_{XY}(\tau )\mathrm{\forall }t,\tau \in T$

e vale

$R_{YX}(\tau )=R_{XY}(-\tau )$

Inoltre, vale

$|R_{XY}(0){|}^2\le R_X(0)R_Y(0)$