Trasformazione di variabili casuali

Consideriamo due casi:

• date $X$, una variabile casuale, e $Y=g(X)$, con $g(\cdot )$ opportuna, bisognerà caratterizzare la nuova variabile casuale $Y$, cioè calcolarne $F_Y$ e $f_Y$.
• date $X$ e $Y$ variabili casuali, bisognerà calcolare la $g(\cdot )$ opportuna in modo tale che $Y=g(X)$.

Cominciamo con definire i requisiti della trasformazione $g(\cdot )$ in modo tale da ottenere ancora una variabile casuale. Si consideri una variabile casuale n-dimensionale $X$ definita su uno spazio di probabilità $\{\mathrm{\Omega },F,P\}$ con

$X:\mathrm{\Omega }\to {ℝ}^n$

misurabile da $(\mathrm{\Omega },F)$ a $({ℝ}^n,{𝔹\mathbb{(}ℝ}^n))$. Sia $g(\cdot ):{ℝ}^n\to {ℝ}^m$ una funzione misurabile da $({ℝ}^n,{𝔹\mathbb{(}ℝ}^n))$ a $({ℝ}^m,{𝔹\mathbb{(}ℝ}^m))$, detta funzione di Borel; definiamo

$Y=g(X)$

dove

$Y:\mathrm{\Omega }\to {ℝ}^m$

tale che

$Y(s)=g(X(s))\mathrm{\forall }s\in \mathrm{\Omega }$

Teorema:

Se $Y$ è ottenuta come composizione delle funzioni $X$ e $g(\cdot )$, allora $Y$ è una variabile casuale.

Dimostrazione:

$Y$ è una funzione,

$Y:\mathrm{\Omega }\to {ℝ}^m$

e si ha

$X:\mathrm{\Omega }\to {ℝ}^n$

Consideriamo l'evento $B\in {𝔹\mathbb{(}ℝ}^m)$. Allora,

$Y(s)=g(X(s))\in B\iff X(s)\in \{\alpha \in {ℝ}^n|g(\alpha )\in B\}=B^{\prime }$

Si ha che $B^{\prime }\in {𝔹\mathbb{(}ℝ}^n)$, poiché la $g(\cdot )$ è una funzione di Borel da ${ℝ}^n$ in ${ℝ}^m$. Quindi, si arriva alla conclusione

$\{s\in \mathrm{\Omega }|Y(x)\in B\}=\{s\in \mathrm{\Omega }|X(s)\in B^{\prime }\}\in F$

Esempio: Funzioni di Borel

• $g(\alpha )=\alpha$
• $g(\alpha )={\alpha }^2$
• $g(\alpha )=max(\alpha ,0)$
• $g(\alpha )=min(\alpha ,0)$
• $g(\alpha )=|\alpha |$
• $\cdots$

Noi vedremo trasformazioni di tipo $1\to 1$, $2\to 2$ e $2\to 1$.

Trasformazioni di tipo $1\to 1$

Definizione: Trasformazioni di tipo $1\to 1$

Sia data una variabile casuale $X$ con funzione di distribuzione $F_X(x)$. Si consideri la trasformazione $Y=g(X)$ con

$g(\cdot ):ℝ\to ℝ$

una funzione misuarabile. Allora, si ha

$F_Y=P(Y\le y)=P(g(X)\le y)$

con $y\in ℝ$.

Esempio: La trasformazione lineare

Sia

$Y=aX+b$

con $a>0$. Allora,

$\begin{array}{cc}{F}_Y(y)& =P(Y\le y)\\ & =P(g(X)\le y)\\ & =P(aX+b\le y)\\ & =P(aX\le y-b)\\ & =P(X\le \frac{y-b}{a})\\ & =P(X\le x)\end{array}$

Allora, si è ottenuto che

$F_Y(y)=F_X\left(\frac{y-b}{a}\right)$

Se $F_X$ è assolutamente continua, ossia ammette derivata

$f_X(x)=\frac{d{F}_X(x)}{dx}$

allora si ha

$f_Y(y)=\frac{d{F}_Y(y)}{dy}=\frac{d{F}_X\left(\frac{y-b}{a}\right)}{dy}=\frac{1}{a}{f}_X\left(\frac{y-b}{a}\right)$

dove si è preso

$\frac{y-b}{a}=x\Rightarrow y=ax+b\Rightarrow dy=a\cdot dx$

Esempio: La funzione coseno

Si ha la funzione

$y=\cos (x)$

con distribuzione $XU(0,2\pi )$ e con

$F_Y(y)=\{\begin{array}{cc}0& y<-1\\ 1& y\ge 1\\ \frac{1}{2\pi }-1\le y<1\end{array}$

Fissato un $\overline{y}$, abbiamo due soluzioni $x_1$ e $x_2$. Si ha

$\overline{y}=\cos (x)=\{\begin{array}{cc}{x}_1=arccos(\overline{y})& 0\le x<\pi \\ x_2=2\pi -arccos(\overline{y})& \pi \le x<2\pi \end{array}$

cioè, si possono spezzare i due contributi attorno a $x=\pi$, per semplicità. Bisogna calcolare, a questo punto, la probabilità

$P(Y\le \overline{y})=P(-1<Y\le \overline{y})$

Si ottiene

$F_Y(y)=P(x_1<X<x_2)$

Siccome la $X$ è una variabile casuale uniforme, si ottiene

$F_Y(y)=P(x_1<X<x_2)=\frac{x_2-x_1}{2\pi }=1-\frac{arccos(y)}{\pi }$

La funzione risultante è continua in $-1<y<1$, quindi è derivabile e si ottiene

$f_Y(y)=\frac{d{F}_Y(y)}{dy}=\frac{d(1-arccos(y))}{\pi dy}=\{\begin{array}{cc}0& y\le -1,y\ge 1\\ \frac{1}{\pi \sqrt{1-y^2}}& -1<y<1\end{array}$

Esercizio: Amplificatore con saturazione

Un amplificatore con saturazione è un oggetto che implementa la funzione

Calcolare la $f_Y(y)$ e la $F_Y(y)$ nel caso di $F_X(x)$ generica lungo tutto l'asse di $x$.

Soluzione:

$F_Y(y)=\{\begin{array}{cc}0& y<-a{T}_X\\ 1& y>a{T}_X\\ P(Y\le y)=P(X\le x)P(x\le \frac{y}{a})=F_X\left(\frac{y}{a}\right)& -a{T}_X\le y\le a{T}_X\end{array}$

In generale, la $X$ può avere supporto in $(-\mathrm{\infty },\mathrm{\infty })$ e potrà essere discontinua.

File:TFA esercizio amplificatore con saturazione F X.png

Si ha

$f_Y(y)=\frac{d{F}_x\left(\frac{y}{a}\right)}{dy}+F_X(-T_X)\delta (y+a{T}_X)+(1-F_X(T_X))\delta (y-a{T}_X)$

File:TFA esercizio amplificatore con saturazione f X.png

In questo caso, la funzione di densità di probabilità non è né continua né discontinua, ma è mista.

Esempio: Il limitatore ideale

$g(x)=\{\begin{array}{cc}{T}_Y& x\ge 0\\ -T_Y& x<0\end{array}$

File:TFA esercizio sul limitatore ideale.png

$F_Y(y)=\{\begin{array}{cc}0& y<-T_Y\\ 1& y\ge T_Y\\ P(Y\le y)=P(X<0)=F_X(0)& -T_Y\le y>T_y\end{array}$

La funzione di densità di probabilità discreta è:

$f_Y(y)=F_X(0)\delta (y+T_Y)-(1-F_X(0))\delta (y-T_Y)$

Calcolo della densità di probabilità

Vediamo un metodo che permette di calcolare la densità di probabilità di una variabile casuale $Y$ ottenuta dalla trasformazione

$Y=g(X)$

con $X$ variabile casuale e $g(\cdot )$ funzione misurabile.

Con variabili casuali discrete

Sia $X$ una variabile casuale discreta, con

$f_X(x)=\sum _i{p}_i\delta (x-x_i)$

Allora, dato che $y=g(x)$, si ha

$f_Y=\sum _i{p}_i\delta (y-g(x_i))$

Può darsi che due $x_i$ vadano nella stessa $y_i=g(x_i)$, quindi si possono anche ottenere meno valori possibili, nella $Y$.

Con variabili casuali continue

Sia $X$ una variabile casuale continua con $f_X(x)$ continua. Sia $g(X)$ continua e derivabile. Consideriamo tutta la probabilità nell'intervallo $(a,b)$:

$P(a<x<b)=1$

Identifichiamo vari sottocasi:

$g(\cdot )$ monotona crescente

Se $g(\cdot )$ è monotona crescente, allora ci interessano i valori di probabilità in $(a,x]$.

$F_Y(y)=P(Y\le y)=P(a<X\le x)={\int }_a^x{f}_X(\alpha )d\alpha$

Si definisce la funzione

$x=\psi (y)=g^{-1}(y)$

inversa di $g(\cdot )$. Allora,

$F_Y(y)={\int }_a^{\psi (y)}{f}_X(\alpha )d\alpha$.

Sappiamo che

$f_Y(y)=\frac{d{F}_Y(y)}{dy}=f_X(\psi (y))\cdot \frac{d\psi (y)}{dy}$

dove

$\frac{d\psi (y)}{dy}={[\frac{dg}{dx}\cdot [g^{-1}(y)]]}^{-1}$

che è la derivata inversa, che coincide con l'inversa della derivata, calcolata in $g^{-1}(y)$. Quindi, abbiamo ottenuto

$f_Y(y)=\frac{f_X(g^{-1}(y))}{\frac{dg}{dx}(g^{-1}(y))}$

$g(\cdot )$ monotona decrescente

Nel caso in cui $g(\cdot )$ è decrescente, ci interessa il supporto $[x,b)$. Si ha

$F_Y(y)={\int }_{g^{-1}(y)}^b{f}_X(\alpha )d\alpha =\cdots \Rightarrow f_Y(y)=-f_X(g^{-1}(y))\cdot \frac{1}{\frac{dg}{dx}(g^{-1}(y))}$

$g(\cdot )$ monotona

In generale, se $g(\cdot )$ è monotona, si ha

$f_Y(y)=f_X(g^{-1}(y))\cdot \frac{1}{\left|\frac{dg}{dx}(g^{-1}(y))\right|}$

Questa è l'espressione generale per le funzioni di tipo monotono. Si ha che $f_Y=0$ se

$Y\in ̸\text{ codominio di }g(\cdot )$

$g(\cdot )$ non monotona

Ipotizziamo che sia possibile partizionare $(a,b)$ in un numero finito di sottointervalli $(x_i,x_{i+1})$ in cui $g(\cdot )$ è monotona (crescente o decrescente che sia). Allora,

$F_Y(y)=P(Y\le y)=P(X\in {\mathrm{\Delta }}_1)+P(X\in {\mathrm{\Delta }}_2)+\cdots$

dove

$P(X\in {\mathrm{\Delta }}_1)={\int }_{x_1}^{x_2}{f}_X(\alpha )d\alpha$

$P(X\in {\mathrm{\Delta }}_2)={\int }_{x_3}^{x_4}{f}_X(\alpha )d\alpha$

Derivando in $dy$, si ha

$\frac{d}{dy}({\int }_{x_1}^{x_2}{f}_X(\alpha )d\alpha +{\int }_{x_3}^{x_4}{f}_X(\alpha )d\alpha )$

da cui si ottiene

$\frac{d}{dy}({\int }_{x_1}^{x_2}{f}_X(\alpha )d\alpha )=f_X(x_2(y))\cdot \frac{1}{\frac{dg(x_i)}{dx}}-f_X(x_1(y))\cdot \frac{1}{\frac{dg(x_1(y))}{dx}}$

da cui si ha la formula fondamentale (da ricordare)

$F_Y(y)=\sum _{i=1}^N\frac{f_X(x_i)}{\frac{dg(x_i)}{dx}}$

Questa è la formula più generale, dove

$N=|\{g^{-1}(y)\}|$

cioè il numero di risultati restituiti da $g^{-1}(y)$.

Esempio: La trasformazione lineare

$g(x)=ax+b=y\Rightarrow x=g^{-1}(y)=\frac{y-b}{a}$

Si ha

$\frac{dg(x)}{dx}=a\Rightarrow F_Y(y)=\frac{f_X(g^{-1}(y))}{\left|\frac{dg(g^{-1}(y))}{dx}\right|}=\frac{f_X(g^{-1}(y))}{|a|}=\frac{f_X\left(\frac{y-b}{a}\right)}{|a|}$

Esempio: La trasformazione quadratica

Nel caso

$g(x)=a{x}^2+b$

si ottiene

$F_Y(y)=\frac{f_X\left(\frac{y-b}{a}\right)}{\left|\frac{a}{2}\left(\frac{y-b}{a}\right)\right|}$

Questo caso si differenzia da quello lineare, perché la $x$ compare anche al denominatore di $F_Y(y)$, non essendo eliminato dalla derivata.

Esempio: La trasformazione coseno

Sia $X$ uniforme in $[0,2\pi ]$, e sia

$y=\cos (x)$

Si ha

• $x_1=arccos(y)=g_1^{-1}(y)$
• $x_2=2\pi -arccos(y)=g_2^{-1}(y)$

con

$\frac{dg}{dx}=-\sin (x)$

da cui

$\begin{array}{cc}{F}_Y(y)& =\sum \frac{f_X(arccos(y))}{|(\cdot )|}\\ & =\frac{\frac{1}{2\pi }}{|sin(arccos(y))|}+\frac{\frac{1}{2\pi }}{|sin(2\pi -arccos(y))|}\\ & =\frac{1}{\pi }\frac{1}{|sin(arccos(y))|}& =\frac{1}{\pi |\sqrt{1-y^2}|}\\ & =\frac{1}{\pi \sqrt{1-y^2}}\end{array}$

Questa soluzione è valida per $-1<y<1$. Si ha

$f_Y(y)=\{\begin{array}{cc}0& |y|\ge 1\\ \frac{1}{\pi \sqrt{1-y^2}}& |y|<1\end{array}$

Trasformazioni di tipo $2\to 2$

Abbiamo un vettore di variabili casuali in partenza e vogliamo avere un vettore anche per la destinazione,

$\{\begin{array}{c}{Y}_1=g_1(X_1,X_2)\\ Y_2=g_2(X_1,X_2)\end{array}$

Definizione: Funzione di densità di probabilità congiunta

Si dice funzione di densità probabilità congiunta la funzione

$f_{X_1,X_2}(x_1,x_2)$

Siano le $g_i(\cdot )$ continue e derivabili, per cui esistono le derivate parziali

$\mathrm{\exists }\frac{\partial g_1}{\partial x_i},\frac{\partial x_2}{\partial x_i}$

Consideriamo l'intervallo

$(a_1,b_1)\times (a_2,b_2)$

che contiene tutta la probabilità

$P((x_1,x_2)\in (a_1,b_1)\times (a_2,b_2))=1$

Se $\mathrm{\exists }{g}^{-1}(\overline{y})$, allora

$f_Y(y_1,y_2)=0$

Supponiamo che esista una partizione di $(a_1,b_1)\times (a_2,b_2)$ all'interno della quale le $g_i(\cdot )$ siano monotone nei sottointervalli individuati. Siano le $(x_{1i},x_{2i}),i=1,2,\cdots ,n$ tali che

$\{y_1=g_1(x_{1i},x_{2i}),y_2=g_2(x_{1i},x_{2i}),i=1,2,\cdots ,n$

Con tutte queste premesse, si ha la funzione di densità di probabilità congiunta

$f_{Y_1,Y_2}(y_1,y_2)=\sum _{i=1}^N\frac{f_{X_1,X_2}(x_{1i},x_{2i})}{|det[J_g(x_{1i},x_{2i})]|}$

dove $J_g$ è lo jacobiano

$J_g(x_1,x_2)=\left[\begin{array}{cc}\frac{\partial g_1}{\partial x_1}& \frac{\partial g_1}{\partial x_2}\\ \frac{\partial g_2}{\partial x_1}& \frac{\partial g_2}{\partial x_2}\end{array}\right](x_1,x_2)$

Nota:

Se $g(\cdot )$ è invertibile, allora si ha

$\{\begin{array}{c}{X}_1={\psi }_1(Y_1,Y_2)\\ X_2={\psi }_2(Y_1,Y_2)\end{array}$

Allora si ha

$J_g(x_1,x_2)={[J_{\psi }(Y_1,Y_2)]}^{-1}$

da cui si ha

$det(J_g(x_1,x_2))=\frac{1}{det(J_{\psi }(Y_1,Y_2))}$

Esercizio:

Provare a calcolare la $f_Z,W(z,w)$ con

$\{\begin{array}{c}Z=X+Y\\ W=X-Y\end{array}$

e con la funzione di densità di probabilità uniforme su $[0,1]\times [0,1]$

Non si sfrutti il fatto che le due variabili casuali sono indipendenti.

Esercizio:

Come il precedente, ma con supporto triangolare

$D=[0,m]\times [0,n]$

dove $m+n=1$.

Trasformazioni di tipo $2\to 1$

Siano $X_1,X_2$ due variabili casuali con densità di probabilità congiunta

$f_{X_1,X_2}(x_1,x_2)$

continua e definita su $\{\mathrm{\Omega },F,P\}$. Sia

$g:{ℝ}^2\to ℝ$

una funzione misurabile continua e derivabile. Data la variabile casuale

$Z=g(X_1,X_2)$

qual è la sua distribuzione $f_Z(z)$?

Primo metodo, somma di variabili casuali

Si ha

$F_Z(z)=P(Z\le z)=P(g(X_1,X_2)\le z)=P((X_1,X_2)\in D_Z)$

dove

$D_Z=\{(x_1,x_2)\in {ℝ}^2|g(X_1,X_2)\le z\}$

Si ha

$F_Z(z)={\iint }_{D_Z}{f}_{X_1,X_2}(x_1,x_2)d{x}_{1}d{x}_2$

Partendo da qui, si può derivare per ottenere la funzione di densità di probabilità $f_Z(z)$.

Esempio: Somma di variabili casuali

Sia

$Z=X+Y$

con $f_{X,Y}(x,y)$ nota e continua. Si ha

$F_Z(z)=P(Z\le z)=P(X+Y\le z)$

Fissato $z$, si ha

$D_Z=\{(x,y)\in {ℝ}^2|x+y\le z\}$

Si ha

$F_Z(z)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}({\int }_{-\mathrm{\infty }}^{z-x}{f}_{X,Y}(x,y)dy)dx$

da cui si ha

$f_Z(z)=\frac{d{F}_Z(z)}{dz}={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{f}_{X,Y}(x,z-x)dx={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{f}_{X,Y}(y-z,y)dy$

Metodo 2, variabile ausiliaria

Si aggiunge una variabile casuale ausiliaria in modo da portare la trasformazione in una $2\to 2$:

$\{\begin{array}{c}Y=g(X_1,X_2)\\ Z=h(X_1,X_2)& \text{ variabile casuale ausiliaria }\end{array}$

Si applica a questo punto la tecnica risolutiva per le trasformazioni $2\to 2$ ed otteniamo $f_{Y,Z}(y,z)$

In alternativa, si determina $f_Y(y)$ integrando la $f_{YZ}(y,z)$ rispetto a $Z$,

$f_Y(y)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{f}_{YZ}(y,\alpha )d\alpha$

Esempio: Somma di variabili casuali

Si ha

$\{\begin{array}{c}Z=X+Y\\ W=X& \text{ variabile casuale ausiliaria }\end{array}$

Si ha

$|det(J_g)|=1$

quindi posso trovare l'inversa

$\{\begin{array}{c}Y=Z-W\\ X=W\end{array}$

Si ha quindi

$f_{Z,W}(z,w)=\frac{f_{X,Y}(w,z-w)}{1}$

da cui

$f_Z(z)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{f}_{Z,W}(z,w)dw={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{f}_{X,Y}(\alpha ,z-\alpha )d\alpha ={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{f}_{X,Y}(z-\beta ,\beta )d\beta$

Osservazione: il secondo metodo è più semplice da utilizzare rispetto al primo, a patto che si scelga la variabile ausiliaria migliore possibile.

Esercizio:

Sia

$Z=\sqrt{X^2+Y^2}$

qual è la $W$ migliore?

La soluzione è

$W=arctg\left(\frac{X}{Y}\right)$

Determinazione di $g()$

Sia data una variabile casuale $X$ con distribuzione $F_X(x)$. Determinare la funzione

$g:ℝ\to ℝ$

tale che la

$Y=g(X)$

abbia la distribuzione assegnata $F_Y(y)$.

La soluzione di questo problema si articola in due passi:

1. passaggio dalla $F_X(x)$ monotona alla variabile casuale $U$ uniforme in $(0,1)$
2. passaggio da $U$ alla variabile casuale $Y$ con $F_Y(y)$ monotona.

Con uno schema a blocchi:

Si verifica che:

• $U=F_X(x)$ è uniforme.

Infatti, si ha

$F_U(u)=P(U\le u)=P(F_X(x)\le u)=P(X\le x)=U$

• $Y=F_Y^{-1}(u)$

Infatti, si ha

$F_Y(y)=P(Y\le y)=P(F_Y^{-1}(u)\le y)=P(U\le F_Y(y))=F_U(F_Y(y))=F_Y(y)$

Indipendenza tra variabili casuali

Definizione: Variabili statisticamente indipendenti

Date due variabili casuali $X$ e $Y$ definite su $(\mathrm{\Omega },F,P)$, queste si dicono statisticamente indipendenti se:

$P(x\in B_1,y\in B_2)=P(x\in B_1)\cdot P(y\in B_2)\mathrm{\forall }{B}_1,B_2\in 𝔹\mathbb{(}ℝ\mathbb{)}$

Teorema:

Se due variabili casuali $X$ e $Y$ sono indipendenti, allora

$F_{XY}(x,y)=F_X(x)F_Y(y)$

Dimostrazione:

$\begin{array}{cc}{F}_{XY}({\alpha }_1,{\alpha }_2)& =P(x\in (-\mathrm{\infty },{\alpha }_1),y\in (-\mathrm{\infty },{\alpha }_2))\\ & =P(x\in (-\mathrm{\infty },{\alpha }_1))\cdot P(y\in (-\mathrm{\infty },{\alpha }_2))\\ & =P(X\le {\alpha }_1)\cdot P(Y\le {\alpha }_2)\\ & =F_X({\alpha }_1)\cdot F_Y({\alpha }_2)\end{array}$

Teorema:

Se $F_{XY}(\cdot )$ ammette densità di probabilità, questa è

$f_{XY}(x,y)=f_X(x)\cdot f_Y(y)$

Teorema:

Se $X$ e $Y$ sono indipendenti e

$g,h:ℝ\to ℝ$

sono funzioni di Borel, allora

• $Z=g(X)$
• $W=h(Y)$

sono indipendenti.

Osservazione: abbiamo fatto trasformazioni $1\to 1$, in cui si mantiene l'indipendenza.

Teorema:

Dati

• $R_Z=\{x\in ℝ|g(x)\le z\}$
• $R_W=\{y\in ℝ|h(y)\le w\}$
• $R_Z,R_W\in 𝔹\mathbb{(}ℝ\mathbb{)}$

con $g$ e $h$ funzioni misurabili, allora

$F_{Z,W}=P(Z\le z,W\le w)$

Dimostrazione:

Si ha

$\begin{array}{cc}{F}_{Z,W}(z,w)& =P(x\in R_Z,y\in R_W)\\ & =P(x\in R_z)\cdot P(y\in R_W)\\ & =P(Z\le z)\cdot P(W\le w)\\ & =F_Z(z)\cdot F_W(w)\end{array}$

Teorema:

Dati $X$ e $Y$ variabili casuali indipendenti, allora la variabile casuale $Z=X+Y$ ha una funzione di densità di probabilità

$f_Z(z)=f_X(x)\cdot f_Y(y)$

Dimostrazione:

$f_Z(z)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(\alpha ,z-\alpha )d\alpha ={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(\alpha )\cdot f(z-\alpha )d\alpha$

Questa è la definizione di convoluzione. La separabilità delle due funzioni di densità di probabilità è data dal fatto che le variabili casuali sono indipendenti.