Elaborazione lineare e nonlineare di un processo stocastico

Si vuole modificare un processo stocastico $X(t)$ con un sistema $T[\cdot ]$, che è una trasformazione.

Definizione: Sistema tempo-invariante

Un sistema $T[\cdot ]$ si dice tempo-invariante se, dato

$Y(t,s)=T[X(t,s)]$

si ha che

$Y(t+\tau ,s)=T[X(t+\tau ,s)]\mathrm{\forall }t,\tau \in T,\mathrm{\forall }s\in \mathrm{\Omega }$

Classificazione dei sistemi

• $Y(t)=X^2(t)$ è tempo invariante, non lineare;
• $Y(t)=X(t)-X(t-1)$ è tempo invariante, lineare;

Se il sistema $T[\cdot ]$ è tempo invariante e $X(t)$ è stazionario in senso stretto di ogni ordine, allora anche il processo $Y(t)=T[X(t)]$ è stazionario in senso stretto (SSS) di ogni ordine.

In generale, il fatto che $X(t)$ sia SSS non vuol dire che $Y(t)=T[X(t)]$ sia anch'esso SSS.

Esempio:

Si ha

$Y(t)=X(t)-X(t-1)=Z(t)-W(t)$

$f_Y(\beta )={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{f}_{X(t)-X(t-1)}(\alpha ,\beta -\alpha )d\alpha$

Esempio:

Sia $T[\cdot ]$ un sistema tempo invariante, $X(t)$ WSS e $Y(t)=X^3(t)$. Sia

$X(t)=A\sin \left(\omega t\right)+B\cos (\omega t)+C$

con $\omega$ e $C$ costanti, mentre $A$ e $B$ due variabili casuali indipendenti e a media nulla. Allora, si ha

$E[Y(t)]=E[A^3{\sin }^3(\omega t)+B^3{\cos }^3(\omega t)+\cdots ]=e(t)$

Siccome la media è una funzione del tempo,

${\mu }_Y(0)=E[B^3]\ne {\mu }_Y\left(\frac{\pi }{2\omega }\right)=E[A^3]$

allora il sistema è sicuramente non-lineare.

Sistemi tempo-invarianti

I sistemi tempo-invarianti possono essere di due tipi:

• sistemi statici, o istantanei;
• sistemi dinamici, o con memoria.

Definizione: Sistema lineare

Un sistema tempo-invariante definito dalla trasformazione $T[\cdot ]$ è lineare se vale

$T[a{X}_1(t)+b{X}_2(t)]=aT[X_1(t)]+bT[X_2(t)]\mathrm{\forall }a,b\in ℝ,\mathrm{\forall }{X}_1,X_2$

Teorema:

Per un sistema lineare tempo-invariante (LTI) vale

$E[T[X(t)]]=T[E[X(t)]]$

${\mu }_Y(t)=T[{\mu }_X(t)]$

Nel caso di sistemi LTI, si ha

$Y(t)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}h(\tau )X(t-\tau )={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}X(\tau )h(t-\tau )d\tau =h(t)\ast X(t)=X(t)\ast h(t)$

dove $h(t)\mathrm{\forall }t\in T$ è la risposta all'impulso del sistema $T[\cdot ]$. Si ha, inoltre,

$H(f)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}h(t)e^{-j2\pi ft}dt$

che è la risposta in frequenza del sistema. Se $X(t)$ è stazionario in senso lato, si può affermare che $Y(t)$ è ancora stazionario in senso lato; infatti, si ha

$\begin{array}{cc}{\mu }_Y(t)& =E[Y(t)]\\ & =E[h(t)\ast X(t)]\\ & =E[{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}h(\tau )X(t-\tau )d\tau ]\\ & ={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}h(\tau )E[X(t-\tau )]d\tau \\ & ={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}h(\tau ){\mu }_{X}d\tau \\ & ={\mu }_X{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}h(\tau )d\tau ={\mu }_{X}H(0)\end{array}$

dove ${\mu }_X(t)={\mu }_X$ perché $X(t)$ è, per ipotesi, stazionario.

$H(0)$ è la risposta all'impulso del sistema alla frequenza $f=0$, cioè è il guadagno di sistema.

Autocorrelazione del second'ordine

Per i sistemi LTI, vale

$\begin{array}{cc}{R}_Y(t,t+\tau )& =E[Y(t)Y(t+\tau )]\\ & =E[{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}h(t^{\prime })X(t-t^{\prime })d{t}^{\prime }\cdot {\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}h(t^{″})X(t+\tau -t^{″})d{t}^{″}]\\ & =R_X(\tau )\ast h(\tau )\ast h(-\tau )\end{array}$

Se il processo di partenza $X(t)$ è stazionario in senso lato (WSS) del second'ordine, e se il sistema è lineare tempo-invariante (LTI), allora l'uscita del sistema $Y(t)$ è anch'essa WSS.

In frequenza, si ha

$S_Y(f)=F[R_Y(\tau )]=S_X(f)\cdot H(f)\cdot H^{\ast }(f)=S_X(f)\cdot {|H(f)|}^2$

I processi $X(t)$ e $Y(t)$ sono anche congiuntamente stazionari, infatti

$\begin{array}{cc}{R}_{XY}(t,t+\tau )& =E[X(t)Y(t+\tau )]\\ & =E[X(t){\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}h(t^{\prime }+\tau -t^{\prime })d{t}^{\prime }]\\ & ={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}h(t^{\prime })E[X(t)X(t+\tau -t^{\prime })]d{t}^{\prime }\\ & =h(\tau )\ast R_X(\tau )=R_{XY}(\tau )\end{array}$

In termini di densità spettrali, si ha

$S_{XY}(f)=H(f)\cdot S_X(f)$

Covarianza di $Y(t)$

Per quanto riguarda $X(t)$, abbiamo che vale

$C_X(t,t+\tau )=R_X(t,t+\tau )-{\mu }_X(t){\mu }_X(t+\tau )=R_X(\tau )+{\mu }_X^2=C_X(\tau )$

Consideriamo il sistema $h(t)$ che accetta in ingresso il processo $\tilde{X}(t)$ e restituisce il processo $\tilde{Y}(t)$, con

• $\tilde{X}(t)=X(t)-{\mu }_X$
• $\tilde{Y}(t)=Y(t)-{\mu }_Y$

dove $X(t)$ e $Y(t)$ sono stazionari in senso lato (WSS). Si ha

• $R_{\tilde{X}}(t,t+\tau )=E[\tilde{X}(t)\cdot \tilde{X}(t+\tau )]=C_X(t,t+\tau )=R_{\tilde{X}}(\tau )=C_X(\tau )$
• $R_{\tilde{Y}}(\tau )=R_{\tilde{X}}(\tau )\ast h(\tau )\ast h(-\tau )=C_X(\tau )\ast h(\tau )\ast h(-\tau )$

Abbiamo che

$\tilde{Y}(t)=h(t)\ast \tilde{X}(t)=h(t)\ast (X(t)-{\mu }_X)=Y(t)-{\mu }_Y$

da cui si ottiene

$R_{\tilde{Y}}(\tau )=C_Y(\tau )$

ossia

$C_Y(\tau )=C_X\left(\tau \right)\ast h(\tau )\ast h(-\tau )$

che è la stessa relazione che esiste per l'autocorrelazione.

Esempio:

Sia

$Y(t)=X(t)+X(t-t_0)$

con ${\mu }_X$, $R_X(\tau )$ e WSS del second'ordine. Si ha

${\mu }_Y(t)=E[Y(t)]=E[X(t)+X(t-t_0)]=E[X(t)]+E[X(t-t_0)]={\mu }_X(t)+{\mu }_X(t-t_0)=2{\mu }_X$

$\begin{array}{cc}{R}_Y(t,t+\tau )& =E[Y(t)Y(t+\tau )]\\ & =E[(X(t)+X(t-t_0))(X(t+\tau )+X(t-t_0+\tau ))]\\ & =E[X(t)X(t+\tau )+X(t)X(t-t_0+\tau )+X(t-t_0)X(t+\tau )+X(t-t_0)X(t-t_0+\tau )]\\ & =2\cdot R_X(\tau )+R_X(\tau -t_0)+R_X(\tau +t_0)\end{array}$

Un modo alternativo per calcolare la funzione di autocorrelazione è usare la convoluzione,

$R_Y(\tau )=R_X(\tau )\ast h(\tau )\ast h(-\tau )$

dove si ha

$h(t)=\delta (t)+\delta (t-t_0)$

quindi si ha

$\begin{array}{cc}{R}_Y(\tau )& =R_X(\tau )\ast (\delta (\tau )+\delta (\tau -t_0))\ast (\delta (-\tau )\ast \delta (-\tau -t_0))\\ & =(R_X(\tau )+R_X(\tau -t_0))\ast (\delta (\tau )+\delta (-\tau -t_0))\\ & =R_X(\tau )+R_X(\tau -t_0)+R_X(\tau +t_0)+R_X(tau-t_0+t_0)=2\cdot R_X(\tau )+R_X(\tau -t_0)+R_X(\tau +t_0)\end{array}$

Esercizio: Esercizio per casa

Si ha il processo stocastico

$Y(t)=X(t)+X(t-t_0)$

con $X(t)$ un processo gausiano WSS. Calcolare:

• ${\mu }_Y$
• $R_Y(\tau )$
• $f_X(\alpha ,t)$
• $f_{X_1,X_2}({\alpha }_1,{\alpha }_2;t_1,t_2)$

Nota: se $X(t)$ è gaussiano e WSS, allora è anche stazionario in senso stretto (SSS). Se poi filtriamo tale processo SSS con un sistema lineare tempo-invariante (LTI), allora anche $Y(t)$ sarà stazionario in senso lato (WSS).

Processi bianchi

Definizione: Processo bianco

Un processo $\{X(t),t\in T\}$ si dice bianco se:

1. $X(t)$ è stazionario in senso lato (WSS) almeno del second'ordine;
2. la trasformata di Fourier dell'autocovarianza è costante

$F[C_X(\tau )]=\text{cost}$

il che vuol dire che la densità spettrale di potenza è

$S_X(f)=F[C_X(\tau )]+{\mu }_X^2\cdot \delta (f)$

Nella realtà, i processi bianchi continui non esistono, perché la potenza sarebbe infinita con $N_0\ne 0$.

$P_X={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{S}_X(f)df=+\mathrm{\infty }$

Quindi, dobbiamo restringere la trattazione ai processi bianchi in banda, cioè con densità spettrale di potenza costante su una banda limitata $B>0$.

Definizione: Processo bianco in banda

Un processo bianco in banda ha la trasformata di Fourier della covarianza, $C_X(f)$, costante nell'intervallo $[-B,B]$.

Si ha

$S_X(f)=\frac{N_0}{2}\cdot rect\left(\frac{f}{2B}\right)+{\mu }_X^2\delta (f)$

In questo caso, la potenza è

$P_X={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{S}_X(f)df={\int }_{-B}^B(\frac{N_0}{2}+{\mu }_X^2\delta (f))df=\frac{N_0}{2}(2B)+{\mu }_X^2=N_{0}B+{\mu }_X^2$

Si ha, quindi,

$N_0=\frac{P_X-{\mu }_X}{B}=\frac{{\sigma }_X}{B}$

Nel caso di processi bianchi in banda limitata, la funzione di autocorrelazione è

$C_X(\tau )=F^{-1}\left[\frac{N_0}{2}rect\left(\frac{f}{2B}\right)\right]=\frac{N_0}{2}2B\cdot sinc(2B\tau )={\sigma }_X^{2}sinc(2B\tau )$

Processi bianchi discreti

Se un processo è bianco e discreto (per esempio, può essere la versione campionata di un processo continuo), si ha sempre potenza finita nel periodo:

$P_X=R_X(0)={\int }_{-\frac{1}{2}}^{+\frac{1}{2}}{S}_X(f)df$

Un processo bianco discreto, essendo la versione campionata di un processo bianco continuo, è sempre implicitamente considerato come in banda: per il teorema di Shannon, infatti, un segnale deve essere campionato ad una frequenza almeno doppia della banda del segnale,

$f_C\ge 2B$

quindi, deve esistere il valore

$B<\mathrm{\infty }$

Esempio: Esempio di tema d'esame

Sia $\{X(t),t\in ℝ\}$ un processo gaussiano, stazionario in senso lato (WSS) e bianco in banda $B$, con:

• $B=10$
• ${\mu }_X=2$
• $P_X=24$

Soluzione:

Il processo $X(t)$ è WSS e gaussiano, il che vuol dire che è anche stazionario in senso stretto (SSS). Per calcolare la funzione di autocovarianza, basta calcolare il valore di $N_0$:

$N_0=\frac{P_X-{\mu }_X}{B}=\frac{24-4}{10}=2$

da cui

$\frac{N_0}{2}=1$

Si ottiene

$C_X(\tau )=F^{-1}[S_X(f)]=F^{-1}\left[rect\left(\frac{f}{20}\right)\right]=20\cdot sinc(20\tau )$

Da notare che nel calcolo di $F^{-1}[S_X(f)]$ non bisogna inserire la $\delta$ del valore continuo, altrimenti si trova la funzione di autocorrelazione $R_X(\tau )$.

Processi ciclostazionari

Definizione: Processo ciclostazionario

Un processo $\{X(t),t\in T\}$ è ciclostazionario quando c'è invarianza alla traslazione periodica.

Un classico esempio di processo ciclostazionario è

$X(t)=V\sin (t)$

dove $V$ è una variabile casuale.