Elaborazione lineare e nonlineare di un processo stocastico

Si vuole modificare un processo stocastico $X(t)$ con un sistema $T[\cdot ]$, che è una trasformazione.

Definizione: Sistema tempo-invariante

Un sistema $T[\cdot ]$ si dice tempo-invariante se, dato

$Y(t,s)=T[X(t,s)]$

si ha che

$Y(t+\tau ,s)=T[X(t+\tau ,s)]\ \forall t,\tau \in T,\ \forall s\in \Omega$

Classificazione dei sistemi

• $Y(t)=X^{2}(t)$ è tempo invariante, non lineare;
• $Y(t)=X(t)-X(t-1)$ è tempo invariante, lineare;

Se il sistema $T[\cdot ]$ è tempo invariante e $X(t)$ è stazionario in senso stretto di ogni ordine, allora anche il processo $Y(t)=T[X(t)]$ è stazionario in senso stretto (SSS) di ogni ordine.

In generale, il fatto che $X(t)$ sia SSS non vuol dire che $Y(t)=T[X(t)]$ sia anch'esso SSS.

Esempio:

Si ha

$Y(t)=X(t)-X(t-1)=Z(t)-W(t)$

$f_{Y}(\beta )=\int _{-\infty }^{+\infty }f_{X(t)-X(t-1)}(\alpha ,\beta -\alpha )d\alpha$

Esempio:

Sia $T[\cdot ]$ un sistema tempo invariante, $X(t)$ WSS e $Y(t)=X^{3}(t)$. Sia

$X(t)=A\sin \left(\omega t\right)+B\cos(\omega t)+C$

con $\omega$ e $C$ costanti, mentre $A$ e $B$ due variabili casuali indipendenti e a media nulla. Allora, si ha

$E[Y(t)]=E\left[A^{3}\sin ^{3}(\omega t)+B^{3}\cos ^{3}(\omega t)+\cdots \right]=e(t)$

Siccome la media è una funzione del tempo,

$\mu _{Y}(0)=E[B^{3}]\neq \mu _{Y}\left({\frac {\pi }{2\omega }}\right)=E[A^{3}]$

allora il sistema è sicuramente non-lineare.

Sistemi tempo-invarianti

I sistemi tempo-invarianti possono essere di due tipi:

• sistemi statici, o istantanei;
• sistemi dinamici, o con memoria.

Definizione: Sistema lineare

Un sistema tempo-invariante definito dalla trasformazione $T[\cdot ]$ è lineare se vale

$T[aX_{1}(t)+bX_{2}(t)]=aT[X_{1}(t)]+bT[X_{2}(t)]\ \forall a,b\in \mathbb {R} ,\forall X_{1},X_{2}$

Teorema:

Per un sistema lineare tempo-invariante (LTI) vale

$E\left[T[X(t)]\right]=T\left[E[X(t)]\right]\$

$\mu _{Y}(t)=T[\mu _{X}(t)]$

Nel caso di sistemi LTI, si ha

$Y(t)=\int _{-\infty }^{+\infty }h(\tau )X(t-\tau )=\int _{-\infty }^{+\infty }X(\tau )h(t-\tau )d\tau =h(t)*X(t)=X(t)*h(t)$

dove $h(t)\ \forall t\in T$ è la risposta all'impulso del sistema $T[\cdot ]$. Si ha, inoltre,

$H(f)=\int _{-\infty }^{+\infty }h(t)e^{-j2\pi ft}dt$

che è la risposta in frequenza del sistema. Se $X(t)$ è stazionario in senso lato, si può affermare che $Y(t)$ è ancora stazionario in senso lato; infatti, si ha

${\begin{aligned}\mu _{Y}(t)&=E[Y(t)]\\&=E[h(t)*X(t)]\\&=E\left[\int _{-\infty }^{+\infty }h(\tau )X(t-\tau )d\tau \right]\\&=\int _{-\infty }^{+\infty }h(\tau )E\left[X(t-\tau )\right]d\tau \\&=\int _{-\infty }^{+\infty }h(\tau )\mu _{X}d\tau \\&=\mu _{X}\int _{-\infty }^{+\infty }h(\tau )d\tau =\mu _{X}H(0)\end{aligned}}$

dove $\mu _{X}(t)=\mu _{X}$ perché $X(t)$ è, per ipotesi, stazionario.

$H(0)$ è la risposta all'impulso del sistema alla frequenza $f=0$, cioè è il guadagno di sistema.

Autocorrelazione del second'ordine

Per i sistemi LTI, vale

${\begin{aligned}R_{Y}(t,t+\tau )&=E\left[Y(t)Y(t+\tau )\right]\\&=E\left[\int _{-\infty }^{+\infty }h(t')X(t-t')dt'\cdot \int _{-\infty }^{+\infty }h(t'')X(t+\tau -t'')dt''\right]\\&=R_{X}(\tau )*h(\tau )*h(-\tau )\end{aligned}}$

Se il processo di partenza $X(t)$ è stazionario in senso lato (WSS) del second'ordine, e se il sistema è lineare tempo-invariante (LTI), allora l'uscita del sistema $Y(t)$ è anch'essa WSS.

In frequenza, si ha

$S_{Y}(f)=F\left[R_{Y}(\tau )\right]=S_{X}(f)\cdot H(f)\cdot H^{*}(f)=S_{X}(f)\cdot \left|H(f)\right|^{2}$

I processi $X(t)$ e $Y(t)$ sono anche congiuntamente stazionari, infatti

${\begin{aligned}R_{XY}(t,t+\tau )&=E[X(t)Y(t+\tau )]\\&=E\left[X(t)\int _{-\infty }^{+\infty }h(t'+\tau -t')dt'\right]\\&=\int _{-\infty }^{+\infty }h(t')E\left[X(t)X(t+\tau -t')\right]dt'\\&=h(\tau )*R_{X}(\tau )=R_{XY}(\tau )\end{aligned}}$

In termini di densità spettrali, si ha

$S_{XY}(f)=H(f)\cdot S_{X}(f)$

Covarianza di $Y(t)$

Per quanto riguarda $X(t)$, abbiamo che vale

$C_{X}(t,t+\tau )=R_{X}(t,t+\tau )-\mu _{X}(t)\mu _{X}(t+\tau )=R_{X}(\tau )+\mu _{X}^{2}=C_{X}(\tau )$

Consideriamo il sistema $h(t)$ che accetta in ingresso il processo ${\tilde {X}}(t)$ e restituisce il processo ${\tilde {Y}}(t)$, con

• ${\tilde {X}}(t)=X(t)-\mu _{X}$
• ${\tilde {Y}}(t)=Y(t)-\mu _{Y}$

dove $X(t)$ e $Y(t)$ sono stazionari in senso lato (WSS). Si ha

• $R_{\tilde {X}}(t,t+\tau )=E[{\tilde {X}}(t)\cdot {\tilde {X}}(t+\tau )]=C_{X}(t,t+\tau )=R_{\tilde {X}}(\tau )=C_{X}(\tau )$
• $R_{\tilde {Y}}(\tau )=R_{\tilde {X}}(\tau )*h(\tau )*h(-\tau )=C_{X}(\tau )*h(\tau )*h(-\tau )$

Abbiamo che

${\tilde {Y}}(t)=h(t)*{\tilde {X}}(t)=h(t)*(X(t)-\mu _{X})=Y(t)-\mu _{Y}$

da cui si ottiene

$R_{\tilde {Y}}(\tau )=C_{Y}(\tau )$

ossia

$C_{Y}(\tau )=C_{X}\left(\tau \right)*h(\tau )*h(-\tau )$

che è la stessa relazione che esiste per l'autocorrelazione.

Esempio:

Sia

$Y(t)=X(t)+X(t-t_{0})$

con $\mu _{X}$, $R_{X}(\tau )$ e WSS del second'ordine. Si ha

$\mu _{Y}(t)=E[Y(t)]=E[X(t)+X(t-t_{0})]=E[X(t)]+E[X(t-t_{0})]=\mu _{X}(t)+\mu _{X}(t-t_{0})=2\mu _{X}$

${\begin{aligned}R_{Y}(t,t+\tau )&=E[Y(t)Y(t+\tau )]\\&=E\left[(X(t)+X(t-t_{0}))(X(t+\tau )+X(t-t_{0}+\tau ))\right]\\&=E\left[X(t)X(t+\tau )+X(t)X(t-t_{0}+\tau )+X(t-t_{0})X(t+\tau )+X(t-t_{0})X(t-t_{0}+\tau )\right]\\&=2\cdot R_{X}(\tau )+R_{X}(\tau -t_{0})+R_{X}(\tau +t_{0})\end{aligned}}$

Un modo alternativo per calcolare la funzione di autocorrelazione è usare la convoluzione,

$R_{Y}(\tau )=R_{X}(\tau )*h(\tau )*h(-\tau )$

dove si ha

$h(t)=\delta (t)+\delta (t-t_{0})$

quindi si ha

${\begin{aligned}R_{Y}(\tau )&=R_{X}(\tau )*\left(\delta (\tau )+\delta (\tau -t_{0})\right)*\left(\delta (-\tau )*\delta (-\tau -t_{0})\right)\\&=\left(R_{X}(\tau )+R_{X}(\tau -t_{0})\right)*\left(\delta (\tau )+\delta (-\tau -t_{0})\right)\\&=R_{X}(\tau )+R_{X}(\tau -t_{0})+R_{X}(\tau +t_{0})+R_{X}(tau-t_{0}+t_{0})=2\cdot R_{X}(\tau )+R_{X}(\tau -t_{0})+R_{X}(\tau +t_{0})\end{aligned}}$

Esercizio: Esercizio per casa

Si ha il processo stocastico

$Y(t)=X(t)+X(t-t_{0})$

con $X(t)$ un processo gausiano WSS. Calcolare:

• $\mu _{Y}$
• $R_{Y}(\tau )$
• $f_{X}(\alpha ,t)$
• $f_{X_{1},X_{2}}(\alpha _{1},\alpha _{2};t_{1},t_{2})$

Nota: se $X(t)$ è gaussiano e WSS, allora è anche stazionario in senso stretto (SSS). Se poi filtriamo tale processo SSS con un sistema lineare tempo-invariante (LTI), allora anche $Y(t)$ sarà stazionario in senso lato (WSS).

Processi bianchi

Definizione: Processo bianco

Un processo $\{X(t),t\in T\}$ si dice bianco se:

1. $X(t)$ è stazionario in senso lato (WSS) almeno del second'ordine;
2. la trasformata di Fourier dell'autocovarianza è costante

$F[C_{X}(\tau )]={\text{cost}}$

il che vuol dire che la densità spettrale di potenza è

$S_{X}(f)=F\left[C_{X}(\tau )\right]+\mu _{X}^{2}\cdot \delta (f)$

Nella realtà, i processi bianchi continui non esistono, perché la potenza sarebbe infinita con $N_{0}\neq 0$.

$P_{X}=\int _{-\infty }^{+\infty }S_{X}(f)df=+\infty$

Quindi, dobbiamo restringere la trattazione ai processi bianchi in banda, cioè con densità spettrale di potenza costante su una banda limitata $B>0$.

Definizione: Processo bianco in banda

Un processo bianco in banda ha la trasformata di Fourier della covarianza, $C_{X}(f)$, costante nell'intervallo $[-B,B]$.

Si ha

$S_{X}(f)={\frac {N_{0}}{2}}\cdot rect\left({\frac {f}{2B}}\right)+\mu _{X}^{2}\delta (f)$

In questo caso, la potenza è

$P_{X}=\int _{-\infty }^{+\infty }S_{X}(f)df=\int _{-B}^{B}\left({\frac {N_{0}}{2}}+\mu _{X}^{2}\delta (f)\right)df={\frac {N_{0}}{\not 2}}(\not 2B)+\mu _{X}^{2}=N_{0}B+\mu _{X}^{2}$

Si ha, quindi,

$N_{0}={\frac {P_{X}-\mu _{X}}{B}}={\frac {\sigma _{X}}{B}}$

Nel caso di processi bianchi in banda limitata, la funzione di autocorrelazione è

$C_{X}(\tau )=F^{-1}\left[{\frac {N_{0}}{2}}rect\left({\frac {f}{2B}}\right)\right]={\frac {N_{0}}{\not 2}}\not 2B\cdot sinc(2B\tau )=\sigma _{X}^{2}sinc(2B\tau )$

Processi bianchi discreti

Se un processo è bianco e discreto (per esempio, può essere la versione campionata di un processo continuo), si ha sempre potenza finita nel periodo:

$P_{X}=R_{X}(0)=\int _{-{\frac {1}{2}}}^{+{\frac {1}{2}}}S_{X}(f)df$

Un processo bianco discreto, essendo la versione campionata di un processo bianco continuo, è sempre implicitamente considerato come in banda: per il teorema di Shannon, infatti, un segnale deve essere campionato ad una frequenza almeno doppia della banda del segnale,

$f_{C}\geq 2B$

quindi, deve esistere il valore

$B<\infty$

Esempio: Esempio di tema d'esame

Sia $\{X(t),t\in \mathbb {R} \}$ un processo gaussiano, stazionario in senso lato (WSS) e bianco in banda $B$, con:

• $B=10$
• $\mu _{X}=2$
• $P_{X}=24$

Soluzione:

Il processo $X(t)$ è WSS e gaussiano, il che vuol dire che è anche stazionario in senso stretto (SSS). Per calcolare la funzione di autocovarianza, basta calcolare il valore di $N_{0}$:

$N_{0}={\frac {P_{X}-\mu _{X}}{B}}={\frac {24-4}{10}}=2$

da cui

${\frac {N_{0}}{2}}=1$

Si ottiene

$C_{X}(\tau )=F^{-1}\left[S_{X}(f)\right]=F^{-1}\left[rect\left({\frac {f}{20}}\right)\right]=20\cdot sinc(20\tau )$

Da notare che nel calcolo di $F^{-1}\left[S_{X}(f)\right]$ non bisogna inserire la $\delta$ del valore continuo, altrimenti si trova la funzione di autocorrelazione $R_{X}(\tau )$.

Processi ciclostazionari

Definizione: Processo ciclostazionario

Un processo $\{X(t),t\in T\}$ è ciclostazionario quando c'è invarianza alla traslazione periodica.

Un classico esempio di processo ciclostazionario è

$X(t)=V\sin(t)$

dove $V$ è una variabile casuale.