Download RT_05_Random Variables

RANDOM VARIABLES
Sukiswo
sukiswok@yahoo.com
Rekayasa Trafik, Sukiswo
1
Definisi Random Variables
 Random variables (r.v.) X() adalah fungsi real
‘single-valued’ yang memberikan bilangan real X()
ke tiap sample point  dari sample space S
 Biasanya digunakan X utk menggantikan X()
Rekayasa Trafik, Sukiswo
2
Definisi Random Variables
 Sample space S  domain dari r.v. X
 Kumpulan semua bilangan (harga dari X())  range
dari r.v. X
 Range dari X merupakan subset dari set semua
bilangan real
 Dua atau lebih sample point berbeda dapat
memberikan harga X() yg sama, tetapi
 Dua bilangan berbeda dari range tidak dapat
dialokasikan pada sample point yg sama
Rekayasa Trafik, Sukiswo
3
Definisi Random Variables
Contoh 1
 Pd eksperimen lempar coin satu kali dg S = {H,T},
kita dp definisikan r.v. X sebagai
X(H) = 1
X(T) = 0
 Kita juga dp definisikan r.v. lain, mis. Y atau Z dg
Y(H) = 0, Y(T) = 1 atau Z(H) = 0, Z(T) = 0
Rekayasa Trafik, Sukiswo
4
Events dari Random Variables
 Jika X adalah r.v. dan x bilangan real tetap, maka
event (X = x):
(X = x) = {: X() = x}
 Hal serupa utk bilangan tetap x, x1, dan x2 dp
ditentukan events berikut:
(X  x) = {: X()  x}
(X > x) = {: X() > x}
(x1 < X  x2) = {: x1 < X()  x2}
Rekayasa Trafik, Sukiswo
5
Events dari Random Variables
 Events tadi mempunyai probabilitas yg dinyatakan:
P(X = x) = P{: X() = x}
P(X  x) = P{: X()  x}
P(X > x) = P{: X() > x}
P(x1 < X  x2) = P{: x1 < X()  x2}
Rekayasa Trafik, Sukiswo
6
Events dari Random Variables
Contoh 2
 Pd eksperimen lempar fair coin tiga kali, sample space S1
terdiri dari 8 equally likely sample points S1 = {HHH, HHT,
HTH, THH,HTT, THT, TTH, TTT}. Jika X adalah r.v. yg
menunjukan jumlah ‘head’ yg didapat, cari:
(a) P(X = 2); (b) P(X < 2)
(a) Mis. A  S1 event yg ditentukan dg X = 2, maka
A = (X = 2) = {: X() = 2} = {HHT, HTH, THH}
karena sample point ‘equally likely, didp:
P(X = 2) = P(A) = 3/8
(b) Mis. B  S1 event yg ditentukan dg X < 2, maka
B = (X < 2) = {: X() < 2} = {HTT, THT, TTH, TTT}, dan
P(X < 2) = P(B) = 4/8 = 1/2
Rekayasa Trafik, Sukiswo
7
Distribution Functions
 Distribution function (cumulative distribution
function/cdf) dari X adalah fungsi:
FX(x) = P(X  x) - < x < 
 Properties dari FX(x)
1. 0  FX ( x)  1
2. FX ( x1 )  FX ( x2 )
jika x1  x2
3. lim FX ( x)  FX ()  1
x 
4. lim FX ( x)  FX ()  0
x  
5. lim FX ( x)  FX (a  )  FX (a)
x a
Rekayasa Trafik, Sukiswo
a   lim a  
0   0
8
Distribution Functions
Contoh 3
 Mis r.v. X spt didefiniskan pd contoh 2. Cari dan
gambar cdf FX(x) dari X
Rekayasa Trafik, Sukiswo
9
Distribution Functions
Rekayasa Trafik, Sukiswo
10
Penentuan probabilitas dari Fungsi
Distribusi
P(a  X  b)  FX (b)  FX (a)
P( X  a)  1  FX (a)

P( X  b)  FX (b )
b  lim b  

Rekayasa Trafik, Sukiswo
0 0
11
Discrete Random Variables dan
Probability Mass Functions
 X adalah r.v. diskrit jika range berisi finite atau
countably infinite number of points  FX(x)
merupakan fungsi ‘staircase’
Probability Mass Functions:
 Mis. jump pd FX(x) dari r.v. X diskrit terjadi pd titik
x1, x2, … dimana deretan bisa terbatas atau countably
tak terbatas, dg asumsi xi , xj jika i < j, maka
FX(xi) - FX(xi-1) = P(X  xi) - P(X  xi-1) = P(X = xi)
pX(x) = P(X = x)
pX(x) = prob. mass function (pmf) dr r.v. diskrit X
Rekayasa Trafik, Sukiswo
12
Discrete Random Variables dan
Probability Mass Functions
Properties dari pX(x)
1. 0  p X ( xk )  1
2. p X ( x)  0
3.
p
X
k  1,2,.....
jika x  xk (k  1,2,.....)
( xk )  1
k
cdf FX ( x) dari r.v. diskrit X dp diperoleh dg :
FX ( x)  P( X  x) 
p
xk  x
X
( xk )
Rekayasa Trafik, Sukiswo
13
Continuous Random Variables dan
Probability Density Functions
Definisi
 X adalah r.v. kontinyu jika range merupakan
interval (finite atau infinite) dari bilangan real.
 Jika X adalah r.v. kontinyu, maka
P(X = x) = 0
Probability Density Functions
dFX ( x)
f X ( x) 
dx
 fungsi fX(x) = probability density function (pdf)
dari r.v. kontinyu X
Rekayasa Trafik, Sukiswo
14
Continuous Random Variables dan
Probability Density Functions
 Properties dari fX(x)
1. f X ( x)  0

2.
f
X
( x)dx  1

3. f X ( x) adalah piecewise continuous
b
4. P(a  X  b)   f X ( x)dx
a
Rekayasa Trafik, Sukiswo
15
Continuous Random Variables dan
Probability Density Functions
 Cdf FX(x) dari r.v. kontinyu X dp diperoleh dg:
x
FX ( x)  P( X  x)   f X ( )d

Jika X adalah r.v. kontinyu, maka
P ( a  X  b)  P ( a  x  b)  P ( a  x  b)
b
  f X ( x)dx  FX (b)  FX (a)
a
Rekayasa Trafik, Sukiswo
16
Mean dan Variance
 Mean (expected value) : X atau E(X)
  xk p X ( xk )
 k
 X  E( X )   
 xf X ( x)dx
X : diskret
X : kontinyu
 Moment, moment ke-n dari r.v. X:
  xkn p X ( xk )

E ( X n )   k
 x n f X ( x)dx
 
X : diskret
X : kotinyu
Cat: mean dari X adalah moment pertama dari X
Rekayasa Trafik, Sukiswo
17
Mean dan Variance
 Variance X2 atau Var(X) didefinisikan:
 X  Var ( X )  E{[ X  E ( X )]2 }
2
sehingga,
X2
  ( xk   X ) 2 p X ( xk ) X : diskret
 k
 
- ( x   X ) 2 f X ( x)dx X : kontinyu

 Var(X)  0
 Standar deviasi dari r.v. X dinyatakan dg X = akar
kuadrat dari Var(X)
Var(X) = E(X2) - [E(X)]2
Rekayasa Trafik, Sukiswo
18
Beberapa Distribusi Khusus
Distribusi Bernoulli
 Bernoulli r.v. X diasosiasikan dg eksperimen
(Bernoulli trial) dimana outcome dp diklasifikasikan
sbg “sukses”, dg prob. p atau “gagal”, dg prob 1-p.
pmf :
p X (k )  P( X  k )  p k (1  p )1 k
k  0,1 dimana 0  p  1
cdf FX ( x) :
 0

FX ( x)  1  p
 1

x0
0  x 1
x 1
Rekayasa Trafik, Sukiswo
19
Beberapa Distribusi Khusus
Ilustrasi Distribusi Bernoulli
Rekayasa Trafik, Sukiswo
20
Beberapa Distribusi Khusus
Mean dan variance dari Bernoulli r.v X:
X = E(X) = p
X2 = VAR(X) = P(1 - p)
Rekayasa Trafik, Sukiswo
21
Beberapa Distribusi Khusus
Distribusi Binomial
 Binomial r.v. X diasosiasikan dg eksperimen dimana
n independen Bernoulli trial dilakukan dan X
menyatakan jumlah sukses dlm n trials
r.v. X disebut r.v. binomial dg parameter (n, p) jika pmf :
n k
p X (k )  P ( X  k )    p (1  p ) n  k k  0,1,.....n
k 
n
n!
dimana 0  p  1 dan   
yg disebut koef. binomial
 k  k!(n  k )!
cdf dari X :
n
FX ( x)     p k (1  p ) n  k
k 0  k 
n
n  x  n 1
Rekayasa Trafik, Sukiswo
22
Beberapa Distribusi Khusus
Mean dan Variance dari Distribusi Binomial
X = E(X) = np
X2 = Var(X) = np(1 - p)
Rekayasa Trafik, Sukiswo
23
Beberapa Distribusi Khusus
Ilustrasi Distribusi Binomial utk n = 6 dan p = 0,6
Rekayasa Trafik, Sukiswo
24
Beberapa Distribusi Khusus
Distribusi Poisson
 r.v. Poisson mempunyai aplikasi yg luas dlm
berbagai area krn dp digunakan sbg aproksimasi
r.v. binomial dg parameter (n,p) utk n besar dan p
kecil (np moderat)
Contoh penggunaan r.v. Poisson:
 Jumlah panggilan telepon yg datang pd suatu
sentral dlm suatu interval waktu tertentu
 Jumlah pelanggan yg memasuki bank dlm suatu
interval waktu tertentu
Rekayasa Trafik, Sukiswo
25
Beberapa Distribusi Khusus
Distribusi Poisson
r.v. X disebut r.v. Poisson dg parameter  ( 0) jika pmf :
p X (k )  P( X  k )  e 
k
k!
k  0,1,.....
cdf dari X :
n
k
k 0
k!
FX ( x)  e  
n  x  n 1
Rekayasa Trafik, Sukiswo
26
Beberapa Distribusi Khusus
Mean dan Variance dari Distribusi Poisson
X = E(X) = 
X2 = Var(X) = 
Rekayasa Trafik, Sukiswo
27
Beberapa Distribusi Khusus
Ilustrasi Distribusi Poisson utk  = 3
Rekayasa Trafik, Sukiswo
28
Beberapa Distribusi Khusus
Distribusi Uniform
 Distribusi uniform sering digunakan jika tdk
diketahui ‘pengetahuan awal’ dari pdf dan semua
harga dlm range kelihatannya ‘equally likely’
r.v. X dikatakan uniform dlm range (a, b) jika pdf :
 1

 xb
f X ( x)   b  a
 0 lainnya
cdf dari X :

0
x a
FX ( x)  
b  a
1

xa
a xb
xb
Rekayasa Trafik, Sukiswo
29
Beberapa Distribusi Khusus
Mean dan Variance dari Distribusi Uniform
ab
 X  E( X ) 
2
2
(
b

a
)
2
 X  Var ( X ) 
12
Rekayasa Trafik, Sukiswo
30
Beberapa Distribusi Khusus
Ilustrasi Distribusi Uniform
Rekayasa Trafik, Sukiswo
31
Beberapa Distribusi Khusus
Distribusi Eksponensial
Properti yg paling penting adalah “memoryless”
r.v. X adalah r.v. Eksponensi al dg parameter  ( 0) jika pdf :
e x x  0
f X ( x)  
 0 x0
cdf untuk X :
1  e x x  0
FX ( x)  
 0 x0
Rekayasa Trafik, Sukiswo
32
Beberapa Distribusi Khusus
Mean dan Variance Distribusi Eksponensial
 X  E( X ) 
1

 X  Var ( X ) 
2
1

2
Rekayasa Trafik, Sukiswo
33
Beberapa Distribusi Khusus
Distribusi Eksponensial
Rekayasa Trafik, Sukiswo
34
Beberapa Distribusi Khusus
Distribusi Normal (Gaussian)
r.v. X dikatakan Normal (Gaussian) jika pdf :
1
 ( x   ) 2 /( 2 2 )
f X ( x) 
e
2 
cdf dari X :
x
1
1 ( x   ) /   2 / 2
 (   ) 2 ( 2 2 )
FX ( x) 
e
d 
e
d




2 
2
Rekayasa Trafik, Sukiswo
35
Beberapa Distribusi Khusus
Mean dan Variance Distribusi Normal (Gaussian)
X = E(X) = 
X2 = Var(X) = 2
Rekayasa Trafik, Sukiswo
36
Beberapa Distribusi Khusus
Distribusi Normal (Gaussian)
Rekayasa Trafik, Sukiswo
37
Contoh:
Rekayasa Trafik, Sukiswo
38
Conditional Distributions
Conditional cdf FX(x|B) dari r.v. X diberikan event B:
P{( X  x)  B}
FX ( x | B)  P( X  x | B) 
P( B)
Jika X r.v. diskrit, conditiona l pmf p X ( xk | B) :
P{( X  xk )  B}
p X ( xk | B )  P ( X  xk | B ) 
P( B)
Jika X r.v. kontinyu, conditiona l pdf f X ( x | B) :
dFX ( x | B)
f X ( x | B) 
dx
Rekayasa Trafik, Sukiswo
39
MULTIPLE RANDOM
VARIABLES
Rekayasa Trafik, Sukiswo
40
Multiple Random variables
Bivariate Random Variables (2-D Random Vector)
Rxy = {(x,y);   S and X() = x, Y() = y}
Rekayasa Trafik, Sukiswo
41
Multiple Random variables
Bivariate Random Variables (2-D Random Vector)
 Jika r.v. X dan Y diskret  (X,Y) discrete
bivariate r.v.
 Jika r.v. X dan Y kontinyu  (X,Y) continuous
bivariate r.v.
 Jika salah satu diskret dan lainnya kontinyu 
(X,Y) mixed bivariate r.v.
Rekayasa Trafik, Sukiswo
42
Joint Distribution Functions
 Joint cdf dari X dan Y, FXY(x,y) adalah fungsi:
FXY(x,y) = P(X  x, Y  y)
 Event (X  x, Y  y) ekivalen dg event A  B,
dimana A dan B adalah events dari S:
A = {  S; X()  x} dan B = {  S; Y()  y}
dan P(A) = FX (x)
P(B) = FY(y)
shg FXY(x,y) = P(A  B)
 Jika utk harga x dan y, A dan B independen:
FXY(x,y) = P(A  B) = P(A) P(B) = FX(x)FY(y)
Rekayasa Trafik, Sukiswo
43
Joint Distribution Functions
Dua r.v. X dan Y independen jika
FXY(x,y) = FX(x)FY(y)
utk setiap harga x dan y
Rekayasa Trafik, Sukiswo
44
Properties dari FXY(x,y)
1. 0  FXY ( x, y )  1
2. Jika x1  x2 , dan y1  y2 , maka
FXY ( x1 , y1 )  FXY ( x2 , y1 )  FXY ( x2 , y2 )
FXY ( x1 , y1 )  FXY ( x1 , y2 )  FXY ( x2 , y2 )
3. lim FXY ( x, y )  FXY (, )  1
x 
y 
4. lim FXY ( x, y )  FXY (, y )  0
x  
lim FXY ( x, y )  FXY ( x,)  0
y - 
5. lim FXY ( x, y )  FXY (a  , y )  FXY (a, y )
xa
lim FXY ( x, y )  FXY ( x, b  )  FXY ( x, b)
yb
6. P ( x1  X  x 2, Y  y )  FXY ( x2 , y )  FXY ( x1 , y )
P ( X  x, y1  Y  y2 )  FXY ( x, y2 )  FXY ( x, y1 )
7. Jika x1  x2 dan y1  y2 , maka
FXY ( x2 , y2 )  FXY ( x1 , y2 )  FXY ( x2 , y1 )  FXY ( x1 , y1 )  0
Rekayasa Trafik, Sukiswo
45
Joint Distribution Functions
Contoh:
Eksperimen lempar coin yg fair dua kali. (X,Y) adalah bivariate r.v.,
dimana X jumlah head dan Y jumlah tail dlm dua lemparan.
a. Berapa range RX dari X?
b. Berapa range RY dari Y?
c. Gambar range RXY dari (X,Y)
d. Cari P(X=2, Y=0), P(X=0, Y=2), dan P(X=1, Y=1)
Jawab:
Sample space S dari eksperimen: S = {HH, HT, TH, TT}
a. RX = {0,1,2}
b. RY = {0,1,2}
c. RXY = {(2,0),(1,1),(0,2)}
d. P(X=2,Y=0) = P{HH} = 1/4
P(X=0,Y=2) = P{TT} = 1/4
P(X=1,Y=1) = P{HT,TH} = 1/2
Rekayasa Trafik, Sukiswo
46
Rekayasa Trafik, Sukiswo
47
Marginal Distribution Functions
lim ( X  x, Y  y )  ( X  x, Y  )  ( X  x)
y 
karena kondisi y   selalu dipenuhi, maka
lim FXY ( x, y )  FXY ( x, )  FX ( x)
y 
lim FXY ( x, y )  FXY (, y )  FY ( y )
x 
cdf FX ( x) dan FY ( y ) di atas dikenal sbg marginal cdf dari X dan Y
Rekayasa Trafik, Sukiswo
48
Marginal Distribution Functions
Contoh:
Joint cdf dari bivariate r.v. (X,Y) diketahui:
(1  e x )(1  e  y )
FXY ( x, y)  
0

x  0, y  0, ,   0
lainnya
a. Cari marginal cdf dari X dan Y
b. Perlihatkan bahwa X dan Y independen
c. Cari P(X1, Y1), P(X1), P(Y>1), dan P(X>x, Y>y)
Jawab:
Rekayasa Trafik, Sukiswo
49
Marginal Distribution Functions
Jawab:
a.
1  e x
FX ( x)  FXY ( x, )  
0
1  e  y
FY ( y )  FXY (, y )  
0
x0
x0
y0
y0
b. Karena FXY(x,y) = FX(x)FY(y), X dan Y independen
c. P(X1, Y1) = FXY(1,1) = (1 - e-)(1 - e-)
P(X1) = FX(1) = (1 - e- )
P(Y>1) = 1 - P(Y  1) = 1 - FY(1) = e-
Rekayasa Trafik, Sukiswo
50
Discrete Random Variables - Joint
Probability Mass Functions
 Untuk (X,Y) discrete bivariate r.v., fungsi pXY(xi,yj)
joint probability mass function (joint pmf) dari (X,Y):
pXY(xi,yj) = P(X=xi, Y=yj)
Properties dari pXY(xi, yj):
1. 0  p XY ( xi , y j )  1
2.
 p
xi
XY
( xi , y j )  1
yj
3. P[( X , Y )  A] 
 p
( xi , y j ) R A
XY
( xi , y j )
Joint cdf :
FXY ( x, y )    p XY ( xi , y j )
xi  x y j  y
Rekayasa Trafik, Sukiswo
51
Discrete Random Variables - Joint
Probability Mass Functions
Marginal Probability Mass Functions:
Mis. Untuk harga tetap X = xi, r.v. Y  yj (j = 1, 2, …, n)
P( X  xi )  p X ( xi )   p XY ( xi , y j )
 Marginal pmf dari X
yj
dimana penjumlahan dilakukan utk semua kemungkinan pasangan
(xi, yj) dg xi tetap. Hal yang sama:
P(Y  y j )  pY ( y j )   p XY ( xi , y j )
 Marginal pmf dari Y
xi
dimana penjumlahan dilakukan utk semua kemungkinan pasangan
(xi, yj) dg yj tetap
Rekayasa Trafik, Sukiswo
52
Discrete Random Variables - Joint
Probability Mass Functions
Independent Random Variables:
Jika X dan Y r.v. independent:
pXY(xi, yj) = pX(xi)pY(yj)
Rekayasa Trafik, Sukiswo
53
Contoh:
Rekayasa Trafik, Sukiswo
54
Rekayasa Trafik, Sukiswo
55
Rekayasa Trafik, Sukiswo
56
Continuous Random Variables - Joint
Probability Density Functions
Joint Probability Density Functions:
 Mis. (X,Y) continuous bivariate r.v dg cdf FXY(x,y)
dan mis.
 2 FXY ( x, y)
f XY ( x, y) 
xy
 Fungsi fXY(x,y) disebut joint probability function
(joint pdf) dari (X,Y)
x y
FXY ( x, y ) 
f
XY
( , )dd
  
Rekayasa Trafik, Sukiswo
57
Continuous Random Variables - Joint
Probability Density Functions
Properties dari fXY(x,y) :
1. f XY ( x, y )  0
2.

 

- -
f XY ( x, y )dxdy  1
3. f XY ( x, y ) kontinyu utk semua harga x dan y
4. P[( X , Y )  A]   f XY ( x, y )dxdy
RA
5. P(a  X  b, c  Y  d )  
d
c

b
a
f XY ( x, y )dxdy
Rekayasa Trafik, Sukiswo
58
Continuous Random Variables - Joint
Probability Density Functions
Marginal Probability Density Functions :
pdf fX(x) dan fY(y) yg didp di atas  marginal pdf dari
X dan Y
Rekayasa Trafik, Sukiswo
59
Continuous Random Variables - Joint
Probability Density Functions
Independent Random Variables
Jika X dan Y r.v. independent
Rekayasa Trafik, Sukiswo
60
Rekayasa Trafik, Sukiswo
61
Conditional Distributions
Conditional Probability Mass Functions
Jika (X,Y) discrete bivariate r.v. dg joint pmf pXY(xi,yj),
conditional pmf Y, diberikan X = xi:
pY | X ( y j | xi ) 
p XY ( xi , y j )
p X ( xi )
p X ( xi )  0
Dg cara yg sama, pX|Y(xi|yj):
p X |Y ( xi | y j ) 
p XY ( xi , y j )
pY ( y j )
pY ( y j )  0
Rekayasa Trafik, Sukiswo
62
Conditional Distributions
Properties dari pY|X(yj|xi):
1. 0  pY | X ( y j | xi )  1
2.
p
Y|X
( y j | xi )  1
yj
Jika X dan Y independent, maka
pY|X(yj|xi) = pY(yj)
dan
PX|Y(xi|yj) = pX(xi)
Rekayasa Trafik, Sukiswo
63
Conditional Distributions
Conditional Probability Density Functions:
 Jika (X,Y) continuous bivariate r.v. dg joint pdf fXY,
conditional pdf dari Y, diberikan X = x:
fY | X ( y | x) 
f XY ( x, y )
f X ( x)
f X ( x)  0
 Dg cara yg sama dp didefinisikan fX|Y(x|y):
f XY ( x, y )
f X |Y ( x | y ) 
fY ( y )
fY ( y )  0
Rekayasa Trafik, Sukiswo
64
Conditional Distributions
Properties dari fY|X(y|x):
1. fY | X ( y | x)  0
2.



fY | X ( y | x)dy  1
Jika X dan Y independen t :
fY | X ( y | x)  fY ( y )
dan
f X |Y ( x | y )  f X ( x)
Rekayasa Trafik, Sukiswo
65
Covariance & Correlation Coefficient
 Moment ke (k,n) dari bivariate r.v. (X,Y)
didefinisikan:
  xi k y j n p XY ( xi , y j )
 y j xi
mkn    
  x k y n f XY ( x, y )dxdy
 - -
kasus diskrit
kasus kontinyu
 Jika n=0, didp moment ke-k dari X, dan jika k=0,didp
moment ke-n dari Y:
m10 = E(X) = X dan
m01 = E(Y) = Y
Rekayasa Trafik, Sukiswo
66
Covariance & Correlation Coefficient
Jika (X,Y) discrete bivariate r.v., maka didp:
Rekayasa Trafik, Sukiswo
67
Covariance & Correlation Coefficient
Dengan cara yg sama:
Rekayasa Trafik, Sukiswo
68
Covariance & Correlation Coefficient
Jika (X,Y) continuous bivariate r.v. :
Rekayasa Trafik, Sukiswo
69
Covariance & Correlation Coefficient
Dg cara yg sama :
Rekayasa Trafik, Sukiswo
70
Covariance & Correlation Coefficient
Joint moment ke (1,1) dari (X,Y):
m11 = E(XY)
disebut correlation dari X dan Y
Jika E(XY) = 0  X dan Y orthogonal
Covariance dari X dan Y Cov(X,Y) atau XY:
Cov(X,Y) = XY = E[(X - X)(Y - Y)]
Cov(X,Y) = E(XY) - E(X)E(Y)
Jika Cov(X,Y) = 0  X dan Y uncorrelated :
E(XY) = E(X)E(Y)
Rekayasa Trafik, Sukiswo
71
Covariance & Correlation Coefficient
Correlation coefficient:
 ( X , Y )   XY 
|  XY |  1
atau
Cov( X , Y )
 X Y
 XY

 X Y
 1   XY  1
Rekayasa Trafik, Sukiswo
72