Processi stocastici, stazionarietà ed ergodicità e densità spettrale di potenza

Un processo casuale potrebbe essere, per esempio, quando si acquisisce un segnale con un oscilloscopio collegato ad un generatore di forme d'onda; la sinusoide generata sarà $\sin(2\pi ft+\Phi )$, dove $\Phi$ è una variabile casuale.

Processi casuali

Un processo casuale $\{X(t),t\in T\}$ è una collezione di variabili casuali indicizzate dal tempo $t\in T$. Quindi, $X({\bar {t}})\ \forall {\bar {t}}\in T$ è una variabile casuale definita nello spazio di probabilità $\{\Omega ,F,P\}$. Fissato l'istante temporale ${\bar {t}}\in T$, si ha una funzione misurabile

$X({\bar {t}}):\Omega \to \mathbb {R}$

che parte dallo spazio $(\Omega ,F)$ per giungere allo spazio $(\mathbb {R,B(R)} )$. È possibile indicare un processo stocastico anche con la notazione

$X(t,s):\Omega \times T\to \mathbb {R}$

dove $X(t,s)$ è misurabile rispetto ad $s$.

Se $T=\mathbb {R}$, il processo si dice a tempo continuo; al contrario, se $T=\mathbb {Z}$, allora il processo si dice a tempo discreto.

Se fissiamo $s\in \Omega$, allora $X(s)$ è una funzione del tempo, altrimenti detta realizzazione.

Esempio:

Sia $X(t)=V$, con $V$ una variabile casuale con

$f_{V}(v)={\frac {1}{2}}\delta (v-1)+{\frac {1}{2}}\delta (v-1)$

Osservazione: fissato un qualunque ${\bar {t}}\in T$, la variabile casuale resta sempre la stessa

$f_{V}({\bar {t}})={\frac {1}{2}}\delta ({\bar {t}}-1)+{\frac {1}{2}}\delta ({\bar {t}}-1)\ \forall {\bar {t}}\in T$

Esercizio:

Sia $X(t)=V$ una variabile casuale con $V\sim U[0,1]$, disegnare il grafico come per l'esempio precedente.

Esempio:

Sia $X(t)$ la variabile casuale

$X(t)=V\cdot \sin(\omega t)$

tale che

• $\omega$ è costante;
• $f_{v}(v)={\frac {2}{3}}\delta (v-1)+{\frac {1}{3}}\delta (v+1)$

File:TFA processo a tempo continuo esempio sinusoide.jpg

Caratterizzazione statistica del processo

Esempio:

Sia $X(t,s)$ definito su

$(\Omega ,F,P)=\{[0,1],\mathbb {B} ([0,1]),U[0,1]\}$

definito come

$X(t,s)=\left\{{\begin{matrix}1&s\in \left[0,{\frac {1}{T}}\right]\\-1&s\in \left({\frac {1}{T}},T\right]\end{matrix}}\right.{\text{ con }}t\in \{1,2,\cdots ,\infty \}$

Realizzazioni

Fissato $s$ a scelta, disegnamo una realizzazione del processo nel tempo.

Variabili casuali

Fissato il tempo, si ha una variabile casuale osservando varie realizzazioni del processo, in quel preciso istante temporale.

Esempio:

Nell'esempio, si ha

${\bar {t}}=1\Rightarrow X({\bar {t}},s)=\left\{{\begin{matrix}1&s\in [0,1]\\-1&s\in \varnothing \end{matrix}}\right.$

$f_{V}(v,{\bar {t}}=1)=\delta (v-1)$

${\bar {t}}=2\Rightarrow X(s,{\bar {t}})=\left\{{\begin{matrix}1&s\in \left[0,{\frac {1}{2}}\right]\\-1&s\in \left({\frac {1}{2}},1\right]\end{matrix}}\right.$

$f_{V}(v,{\bar {t}}=2)={\frac {1}{2}}\delta (v-1)+{\frac {1}{2}}\delta (v+1)$

${\bar {t}}=3\Rightarrow X(s,{\bar {t}})=\left\{{\begin{matrix}1&s\in \left[0,{\frac {1}{3}}\right]\\-1&s\in \left({\frac {1}{3}},1\right]\end{matrix}}\right.$

$f_{V}(v,{\bar {t}}=2)={\frac {1}{3}}\delta (v-1)+{\frac {2}{3}}\delta (v+1)$

Osservazione: notare che la probabilità di $1$ tende a zero per ${\bar {t}}\to \infty$, mentre la probabilità di $-1$ tende a $1$ per ${\bar {t}}\to \infty$.

Densità di probabilità

Esempio:

Al prim'ordine, si ha

$f_{V}(v,t)={\frac {1}{t}}\delta (v-1)+{\frac {t-1}{t}}\delta (v+1)$

Per il calcolo della densità congiunta del second'ordine, è necessario fissare due istanti temporali $t_{1},t_{2},\ \forall t_{1}<t_{2}$.

Esempio:

Abbiamo tre casi da studiare:

1. $X(t_{1})=1,\ X(t_{2})=1$

In questo caso, si ha

${\begin{aligned}P(X(t_{1})=1,X(t_{2})=1)&=P\left(\{s\in \Omega \ |\ X(t_{1},s)=1,X(t_{2},s)=1\}\right)\\&=P\left(\left\{s\in \left[0,{\frac {1}{t_{2}}}\right]\right\}\right)\\&={\frac {1}{t_{2}}}\end{aligned}}$

2. $X(t_{1})=1,\ X(t_{2})=-1$

In questo caso, si ha

${\begin{aligned}P(X(t_{1})=1,X(t_{2})=-1)&=P\left(\{s\in \Omega \ |\ X(t_{1},s)=1,X(t_{2},s)=-1\}\right)\\&=P\left(\left\{s\in \left[{\frac {1}{t_{2}}},{\frac {1}{t_{1}}}\right]\right\}\right)\\&={\frac {1}{t_{1}}}-{\frac {1}{t_{2}}}\end{aligned}}$

3. $X(t_{1})=-1,\ X(t_{2})=-1$

In questo caso, si ha

${\begin{aligned}P(X(t_{1})=-1,X(t_{2})=-1)&=P\left(\{s\in \Omega \ |\ X(t_{1},s)=-1,X(t_{2},s)=-1\}\right)\\&=P\left(\left\{s\in \left({\frac {1}{t_{1}}},1\right]\right\}\right)\\&=1-{\frac {1}{t_{1}}}\end{aligned}}$

Da qui si ottiene che la densità di probabilità congiunta risulta

${\begin{aligned}f_{V(t_{1})V(t_{2})}(v_{1},v_{2})={\frac {1}{t_{1}}}&\delta (v_{1}-1)\delta (v_{2}-1)+\\&+\left({\frac {1}{t_{1}}}-{\frac {1}{t_{2}}}\right)\cdot \delta (v-1)\delta (v+1)+\\&+\left(1-{\frac {1}{t_{1}}}\right)\delta (v_{1}+1)\delta (v_{2}+1)\end{aligned}}$

Esercizio:

Calcolare $f_{V(t_{1})}(v_{1})$ a partire dalla funzione di densità di probabilità congiunta $f_{V(t_{1})V(t_{2})}(v_{1},v_{2})$

Caratterizzazione statistica di un processo

Si prendano diversi istanti di tempo $t_{1}<t_{2}<\cdots <t_{n}\in T,\ n\in \mathbb {N}$. Si definisce la quantità

$P[X(t_{1}),X(t_{2}),\cdots ,X(t_{n})\in B]\ \forall B\in \mathbb {B(R} ^{n})$

come la probabilità finito-dimensionale del processo $X(t,x)$. Dato che $X(t)$ è una variabile casuale, la quantità appena definita è pari alla probabilità congiunta di un vettore n-dimensionale di variabili casuali, con $X_{i}=X(t_{i})\ \forall i=1,2,\cdots ,n$.

In modo equivalente ai vettori di variabili casuali, un processo è caratterizzato dalla densità di probabilità congiunta, che si indica con

${\begin{aligned}f_{X}&(x_{1},x_{2},\cdots x_{n};t_{1},t_{2},\cdots t_{n})\\&=f_{X(t_{1})\cdots X(t_{n})}(x_{1},x_{2},\cdots x_{n})=_{n=2}f_{X}(x_{1},x_{2};t_{1},t_{2})\\&=f_{X(t_{1})X(t_{2})}(x_{1},x_{2})\end{aligned}}$

Dalla congiunta è sempre possibile ottenere le marginali, che possono essere pensate come delle congiunte di ordine inferiore.

Esempio:

Si ha il processo

$X(t)=V\sin \left(\omega t\right)$

con $\omega$ costante e con una qualsiasi $f_{V}(v)$. Si vogliono calcolare tutte le quantità definite finora. Si ha

$f_{X(t)}=\left\{{\begin{matrix}{\frac {f_{V}(g^{-1}(x))}{\left|{\frac {dg}{dv}}(g^{-1}(x))\right|}}&\left|{\frac {dg}{dv}}(g^{-1}(x))\right|\neq 0\\0&{\text{altrimenti}}\end{matrix}}\right.=\left\{{\begin{matrix}{\frac {f_{V}\left({\frac {x}{\sin(\omega t)}}\right)}{\left|\sin(\omega t)\right|}}&\left|\sin(\omega t)\right|\neq 0\\0&{\text{ altrimenti }}\end{matrix}}\right.$

Le diverse realizzazioni sono sinusoidi alla stessa frequenza, ma di diversa ampiezza.

Esercizio:

Siano le variabili casuali $X$ e $Y$, entrambe distribuite come $U[0,1]$. Studiare la variabile casuale data dalla relazione

$Z={\frac {\max(X,Y)}{\min(X,Y)}}$

Ergodicità dei processi casuali

Supponendo di avere un processo stocastico $X$ stazionario (in senso lato), andiamo a cercare di dedurre qualcosa dalla sua densità di probabilità $f_{X}(x)$ generando una realizzazione nel tempo. Vedremo che se il processo è ergodico, medie d'insieme e temporali coincidono.

Consideriamo un processo $\{X(t),t\in \mathbb {R} \}$, con $X(t,s):\mathbb {R} \times \mathbb {R} \to \mathbb {R}$ definito sullo spazio di probabilità $\{\Omega ,F,P\}$. Fissato l'esito $s\in \Omega$, otteniamo una realizzazione $X(\cdot ,s)$. Vogliamo capire se (e sotto quali condizioni) è possibile determinare delle caratteristiche di $X(t)$, osservando un'unica realizzazione.

Se il processo è stazionario in senso lato, allora

$\mu _{X}(t)=\mu _{X}\ \forall t\in \mathbb {R}$

Consideriamo la realizzazione $X(\cdot ,s)$ in una finestra $\left[-{\frac {T}{2}},{\frac {T}{2}}\right]$.

File:TFA realizzazione per ergodicita processi.jpg

Definizione: Stimatore del valor medio temporale

Si dice stimatore del valor medio temporale della realizzazione $X(\cdot ,s)$ la grandezza

$A_{X,T}(s)={\frac {1}{T}}\int _{-{\frac {T}{2}}}^{+{\frac {T}{2}}}X(t,s)dt$

che è la media temporale della realizzazione, sul periodo $T$. In generale, $A_{X,T}(s)$ è una funzione dell'esito $s$, quindi può essere considerata a sua volta una variabile casuale.

La grandezza $A_{X,T}({\bar {s}})$ è una stima, si riferisce ad una particolare realizzazione ${\bar {s}}$.

Definizione: Stimatore non polarizzato

Lo stimatore $A_{X,T}(s)$ è non polarizzato se

$E\left[A_{X,T}(s)\right]=\mu _{X}$

ossia se

$E\left[A_{X,T}(s)\right]={\frac {1}{T}}\int _{-{\frac {T}{2}}}^{\frac {T}{2}}E[X(t,s)]dt=\mu _{X}=E[X(t)]$

Il valor medio delle medie temporali coincide con il valor medio di insieme.

Definizione: Stimatore consistente

Uno stimatore $A_{X,T}(s)$ è detto consistente se

• $A_{X,T}(s)$ è non polarizzato
• la varianza $\sigma _{A_{X,T}}$ tende ad annullarsi all'aumentare del tempo di osservazione

$\sigma _{A_{X,T}}\to _{T\to \infty }0$

Questo equivale a dire che $A_{X,T}$ tende, in maniera quadratica, al valor medio del processo, con un tempo di osservazione infinito si può ottenere il valore certo, senza incertezza.

Definizione: Processo ergodico

Se $A_{X,T}$ è uno stimatore consistente di $\mu _{X}$, allora il processo $X(t)$è ergodico.

Teorema: Teorema di Slutsky

Dato un processo $\{X(t),t\in \mathbb {R} \}$ WSS (del second'ordine), allora

$A_{X,T}\to _{{\mathcal {L}}^{2}}\mu _{x}\Leftrightarrow \lim _{T\to \infty }{\frac {1}{T}}\int _{0}^{T}C_{X}(\tau )d\tau =0\Rightarrow R_{X}(\tau )\to \mu _{X}$

dove ${\mathcal {L}}^{2}$ indica la convergenza in norma quadratica e $C_{X}(\tau )$ è la funzione di autocovarianza del processo.

Il teorema di Slutsky permette di facilitare il compito di verifica dell'ergodicità di un dato processo. Una condizione sufficiente (ma non necessaria) affinché $X(T)$ sia ergodico è che

$C_{X}(\tau )\to _{\tau \to \infty }0$

Esempio:

Sia un processo $X(t)=V$, con $V$ una variabile casuale stazionaria in senso lato. Si ha

$C_{X}(\tau )=R_{X}(\tau )-\mu _{V}^{2}=E[V^{2}]-\mu _{V}^{2}=\sigma _{V}^{2}$

Dal teorema di Slutsky, si ha

$\lim _{t\to \infty }{\frac {1}{T}}\int _{0}^{T}\sigma _{V}^{2}d\tau \neq 0$

quindi, il processo non è ergodico.

Esempio:

Si ha il processo

$X(t)=A\sin \left(\omega t\right)+B\cos(\omega t)+C$

con $C$ e $\omega$ costanti, mentre $A$ e $B$ sono variabili casuali incorrelate tra loro ed a media nulla. Si ha

$\mu _{X}(t)=C$

$C_{X}(\tau )=\sigma _{X}^{2}\cos(\omega t)$

Applicando la consizione sufficiente appena vista, si ha

$C_{X}(\tau )\not \to _{\tau \to \infty }0$

Questo fatto non vuol dire che il processo non possa ancora essere ergodico (la condizione è sufficiente, ma non è necessaria). Nel caso in cui, invece, $C=0$, allora grazie al teorema di Slutky si ottiene

$\lim _{T\to \infty }{\frac {1}{T}}\int _{0}^{T}C_{X}(\tau )d\tau =0$

Da questo, si ottiene che il nuovo processo con $C=0$ è ergodico (rispetto al valor medio).

In modo alternativo, si può definire l'ergodicità del processo $\{X(t),t\in T\}$ nel seguente modo:

• se $X(t)$ è WSS di prim'ordine, allora

$E[X(t)]=\mu _{X}(t)=\mu _{X}$

Di conseguenza, si ha che $X(t)$ è un processo ergodico rispetto al valor medio se è verificato

$P(\{s\in \Omega \ |\ A_{X,T}(s)=\mu _{X}\})=1$

Questa si dice convergenza in probabilità, o convergenza qox (per quasi ogni $x$). Se $\Omega$ è continuo, possono esistere alcuni $s$ per cui non è verificata l'equazione, ma se questi punti sono isolati (concetto di qox), allora si ha comunque la convergenza cercata. La probabilità di un particolare $s$, infatti, è infinitesima (nel caso di processi a tempo continuo, lo stesso non vale per processi a tempo discreto).

• $X(t)$ WSS del second'ordine è ergodico rispetto alla sua funzione di autocorrelazione se vale

$P(\{s\in \Omega \ |\ \varphi _{X,T}(\tau ,s)=R_{X}(\tau )\})=1$

Anche questa è una convergenza in probabilità, con

$\varphi _{X,T}(\tau ,s)\lim _{T\to \infty }{\frac {1}{T}}\int _{-{\frac {T}{2}}}^{+{\frac {T}{2}}}X(t,s)X(t+\tau ,s)dt$

che è l'autocorrelazione temporale del processo. In termini pratici, questo equivale a dire che

$R_{X}(t,t+\tau )=E[X(t)X(t+\tau )]=R_{X}(\tau )=\varphi _{X,T}(\tau ,s)$

dove $E[\cdot ]$ è la solita stima della funzione di autocorrelazione e $R_{X}(\tau )$ è l'autocorrelazione d'insieme, che viene a coincidere con l'autocorrelazione temporale $\varphi _{X,T}(\tau ,s)$.

Densità spettrale di potenza

Consideriamo il processo $\{X(t),t\in T\}$. Fissato $s\in \Omega$ otteniamo una realizzazione che in generale rappresenta un segnale di potenza non periodico, quindi non è possibile dare una caratterizzazione frequenziale attraverso la trasformata di Fourier (in modo diretto). È tuttavia possibile caratterizzare i processi casuali almeno in termini di spettro di potenza. A questo proposito, consideriamo il processo

$X_{T}(t,s)=X(t,s)\cdot rect\left({\frac {t}{T}}\right)$

Limitatamente al periodo $T$, il segnale diventa ad energia finita,

$E=\int _{-\infty }^{+\infty }|X_{T}(t,s)|^{2}dt=\int _{-{\frac {T}{2}}}^{\frac {T}{2}}|X(t,s)|^{2}dt<\infty$

quindi si ha anche lo spettro di potenza finito,

${\frac {1}{T}}=\int _{-\infty }^{+\infty }|X_{T}(f,s)|^{2}df$

Definizione: Densità spettrale di potenza

Di definisce densità spettrale di potenza del processo $\{X(t),t\in T\}$ la grandezza

$S_{X}(f)=\lim _{T\to \infty }{\frac {1}{T}}E\left[\left|X_{T}(f,s)\right|^{2}\right]$

dove $X_{T}(f,s)$ è una variabile casuale ottenuta da

$X_{T}(f,s)=\int _{-\infty }^{+\infty }X_{T}(t,s)e^{-j2\pi ft}dt$

che è la trasformata di Fourier della variabile casuale $X_{T}(t,s)$.

Proprietà della densità spettrale di potenza

1. $S_{X}(f)\geq 0\ \forall f$

2. ${\frac {|X_{T}(f,s)|^{2}}{T}}$ è detto periodogramma del processo

3. Teorema di Wiener-Kinchine; se un processo stocastico è stazionario in senso lato (del second'ordine), allora si ha

$S_{X}(f)=F[R_{X}(\tau )]=\int _{-\infty }^{+\infty }R_{X}(\tau )e^{-j2\pi f\tau }d\tau$

4. Se $X(t)$ è a valori reali, allora $S_{X}(f)$ è pari, di conseguenza si ha che

$R_{X}\left(\tau \right)=R_{X}(-\tau )$

5. $\int _{-\infty }^{+\infty }S_{X}(f)df=R_{X}(0)=P_{X}$ che è la potenza del processo

6. $R_{X}(\tau )=F^{-1}\left[S_{X}(f)\right]=\int _{-\infty }^{+\infty }S_{X}(f)e^{j2\pi f\tau }df$

Esempio:

Sia un processo stocastico $X(t)=V$ con $V$ una variabile casuale con $f_{V}(v)$ qualsiasi. Si ha:

• $R_{X}(\tau )=E\left[X(t)X(t+\tau )\right]=E[V^{2}]=\sigma _{V}^{2}+\mu _{V}^{2}$
• $S_{X}(f)=(\sigma _{V}^{2}+\mu _{V}^{2})\cdot \delta (f)$

cioè, l'autocorrelazione $R_{X}(\tau )$ è costante, quindi la densità spettrale di potenza del processo è una $\delta$ nell'origine.

Esempio:

Si ha il processo stocastico

$X(t)=A\sin \left(\omega t\right)+B\cos(\omega t)+C$

con $C$ e $\omega$ definiti, con $A$ e $B$ variabili casuali incorrelate e a media nulla. Allora, si ha

• $E\left[X(t)\right]=C$
• $R_{X}\left(\tau \right)=\sigma ^{2}\cos(\omega t)+C^{2}$
• $S_{X}(f)={\frac {\sigma ^{2}}{2}}\left[\delta \left(f+{\frac {\omega }{2\pi }}\right)+\delta \left(f-{\frac {\omega }{2\pi }}\right)\right]+C^{2}\delta (f)$

Descrizione congiunta dei processi stocastici

Consideriamo $\{X(t),t\in T\}$ e $\{Y(t),t\in T\}$ due processi definiti sullo stesso spazio di probabilità $(\Omega ,F,P)$. Se volessimo caratterizzare congiuntamente i due processi, dovremmo fare

$f_{X,Y}(x_{1},x_{2},\cdots x_{n},y_{1},y_{2},\cdots y_{m};t_{1},t_{2},\cdots t_{n},t_{1}^{\prime },t_{2}^{\prime },\cdots t_{m}^{\prime })$

e questo dovrebbe valere:

• $\forall t_{1}\ t_{2}<\cdots <t_{n}\in T$
• $\forall t_{1}^{\prime }\ t_{2}^{\prime }<\cdots <t_{n}^{\prime }\in T$
• $\forall m,n\in \mathbb {N}$

Questa è la densità congiunta finito-dimensionale; passando invece alle descrizioni sintetiche, si possono identificare:

• i valori medi

$\mu _{X}(t)=E[X(t)]$

$\mu _{Y}(t)=E[Y(t)]$

• le funzioni di autocorrelazione

$R_{X}(t_{1},t_{2})=E\left[X(t_{1})X(t_{2})\right]$

$R_{Y}(t_{1},t_{2})=E\left[Y(t_{1})Y(t_{2})\right]$

• le funzioni di covarianza

$C_{X}(t_{1},t_{2})=E\left[\left(X(t_{1})-\mu _{X}(t1)\right)\left(X(t_{2})-\mu _{X}(t_{2})\right)\right]$

$C_{Y}(t_{1},t_{2})=E\left[\left(Y(t_{1})-\mu _{Y}(t1)\right)\left(Y(t_{2})-\mu _{Y}(t_{2})\right)\right]$

• le funzioni di crosscorrelazione

$R_{XY}(t_{1},t_{2})=E[X(t_{1})Y(t_{2})]$

$R_{YX}(t_{1},t_{2})=E[Y(t_{1})X(t_{2})]$

• le funzioni di crosscovarianza

${\begin{aligned}C_{XY}(t_{1},t_{2})&=E\left[\left(X(t_{1})-\mu _{X}(t1)\right)\left(Y(t_{2})-\mu _{Y}(t_{2})\right)\right]\\&=R_{XY}(t_{1},t_{2})-\mu _{X}(t_{1})\mu _{Y}(t_{2})\end{aligned}}$

${\begin{aligned}C_{YX}(t_{1},t_{2})&=E\left[\left(Y(t_{1})-\mu _{Y}(t1)\right)\left(X(t_{2})-\mu _{X}(t_{2})\right)\right]\\&=R_{YX}(t_{1},t_{2})-\mu _{Y}(t_{1})\mu _{X}(t_{2})\end{aligned}}$

Definizione: Indipendenza dei processi

Due processi $\{X(t),t\in T\}$ e $Y(t),t\in T\}$ definiti sullo stesso spazio di probabilità $(\Omega ,F,P)$ sono indipendenti se

${\begin{aligned}f_{X,Y}&(x_{1},x_{2},\cdots x_{n},y_{1},y_{2},\cdots y_{m};t_{1},t_{2},\cdots t_{n},t_{1}^{\prime },t_{2}^{\prime },\cdots t_{m}^{\prime })\\&=f_{X}(x_{1},x_{2},\cdots x_{n},;t_{1},t_{2},\cdots t_{n})\cdot f_{Y}(y_{1},y_{2},\cdots y_{m};t_{1}^{\prime },t_{2}^{\prime },\cdots t_{m}^{\prime })\end{aligned}}$

e questo deve valere:

• $\forall m,n\in \mathbb {N}$
• $\forall t_{1}<t_{2}<\cdots <t_{n}\in T$
• $\forall t_{1}^{\prime }<t_{2}^{\prime }<\cdots <t_{n}^{\prime }\in T$

Definizione: Processi incorrelati

Due processi $\{X(t),t\in T\}$ e $Y(t),t\in T\}$ definiti sullo stesso spazio di probabilità $(\Omega ,F,P)$ sono incorrelati se

$E[X(t_{1})Y(t_{2})]=R_{XY}(t_{1},t_{2})=E[X(t_{1})]\cdot E[Y(t_{2})]=\mu _{X}(t_{1})\mu _{Y}(t_{2})$

Nel caso particolare in cui i processi siano delle variabili casuali gaussiane, allora si ha che

${\text{ incorrelazione }}\Leftrightarrow {\text{ indipendenza }}$

mentre i tutti gli altri casi si ha

${\begin{aligned}{\text{ incorrelazione }}&\not \Leftrightarrow &{\text{ indipendenza }}\\{\text{ indipendenza }}&\Rightarrow &{\text{ incorrelazione }}\end{aligned}}$

Definizione: Processi congiuntamente gaussiani

Un processo $\{X(t),t\in T\}$ è congiuntamente gaussiano se tutte le densità di probabilità finito-dimensionali sono congiuntamente gaussiane.

Definizione: Processi congiuntamente stazionari in senso stretto

Due processi $\{X(t),t\in T\}$ e $\{Y(t),t\in T\}$ si dicono congiuntamente stazionari in senso stretto (SSS) se la densità di probabilità congiunta è invariante alla traslazione temporale.

Definizione: Processi congiuntamente stazionari in senso lato

Due processi $\{X(t),t\in T\}$ e $\{Y(t),t\in T\}$ si dicono congiuntamente stazionari in senso lato (WSS) se:

1. $\left\{{\begin{matrix}\mu _{X}(t)=\mu _{X}\\\mu _{Y}(t)=\mu _{Y}\\R_{X}(t,t+\tau )=R_{X}(\tau )\\R_{Y}(t,t+\tau )=R_{Y}(\tau )\end{matrix}}\right.$
2. $R_{XY}(t,t+\tau )=R_{XY}(\tau )\ \forall t,\tau \in T$

cioè, anche la crosscorrelazione deve essere funzione della sola distanza tra istanti temporali.

Nel caso di processi congiuntamente stazionari in senso lato (WSS), si ha

$R_{YX}(t,t+\tau )=R_{YX}(0,\tau )=R_{XY}(\tau )\ \forall t,\tau \in T$

e vale

$R_{YX}(\tau )=R_{XY}(-\tau )$

Inoltre, vale

$|R_{XY}(0)|^{2}\leq R_{X}(0)R_{Y}(0)$

Esempio:

Se $X(t)$ e $Y(t)$ sono congiuntamente WSS, l'autocorrelazione di $Z(t)=X(t)+Y(t)$ vale

${\begin{aligned}R_{Z}(t,t+\tau )&=E[((X(t_{1})+Y(t_{1}))\cdot (X(t_{2})+Y(t_{2}))]\\&=E[(X(t_{1})X(t_{2})+Y(t_{1})Y(t_{2})+X(t_{1})Y(t_{2})+Y(t_{1})X(t_{2}))]\\&=R_{X}(t_{1},t_{2})+R_{Y}(t_{1},t_{2})+R_{XY}(t_{1},t_{2})+R_{YX}(t_{1},t_{2})\\&=R_{X}(\tau )+R_{Y}(\tau )+R_{XY}(\tau )+R_{YX}(\tau )\end{aligned}}$

$\mu _{Z}(t)=E[X(T)+Y(t)]=\mu _{X}(t)+\mu _{Y}(t)=\mu _{X}+\mu _{Y}$

Esempio:

Se $X(t)$ e $Y(t)$ sono congiuntamente WSS e indipendenti, l'autocorrelazione di $Z(t)=X(t)Y(t)$ vale

$\mu _{Z}(t)=E[X(t)Y(t)]=\mu _{X}\mu _{Y}$

${\begin{aligned}R_{Z}(t,t+\tau )&=E[Z(t)Z(t+\tau )]\\&=E[X(t)Y(t)X(t+\tau )Y(t+\tau )]\\&=E[(X(t)X(t+\tau ))(Y(t)Y(t+\tau ))]\\&=E[X(t)X(t+\tau )]\cdot E[Y(t)Y(t+\tau )]\\&=R_{X}(\tau )R_{Y}(\tau )\end{aligned}}$