Slide 1 - Ninova

Hatırlatma: Olasılık
Tanım (Şartlı olasılık): A olayı olduğunda B olayının olma olasılığı
P ( B A) 
Bir örnek:
E: erkek, Ç: çalışan
P( A  B)
, P ( A)  0
P ( A)
çalışan
işsiz
Erkek
460
40
500
Kadın
140
260
400
Toplam
600
300
900
600 2
P(Ç ) 

900 3
460 23
P(Ç  E ) 

900 45
23 45 23
P( E Ç ) 

23
30
Toplam
Seçilen herhangi bir kişinin çalışıyor olma olasılığı
Seçilen herhangi bir kişinin çalışan erkek olma olasılığı
Seçilen herhangi bir çalışanın erkek olma olasılığı
Sonuç:A olayı ile B olayının ikisinin de olma olasılığı
P( A  B)  P( B  A)
Bir örnek:
P( A  B)  P( A) P( B A)
P( B  A)  P( B) P( A B)
Birinci torbada 4 beyaz 3 siyah, ikinci torbada 3 beyaz 5 siyah
top olsun. Birinci torbadan bir top alınıp rengine bakılmaksızın
ikinci torbaya konsun. İkinci torbadan bir top çekildiğinde siyah
olma olasılığı nedir?
Torba2
3B,6S
Torba1
4B,3S
Torba2
4B,5S
36
P(S1  S2 ) 
79
33
P(S1  B2 ) 
79
45
P( B1  S2 ) 
79
44
P( B1  B2 ) 
79
3 6 4 5 38
P[( S1  S2 )veya( B1  S2 )] 


7 9 7 9 63
Tanım (bağımsız olaylar): A ve B olaylarının bağımsızdır.
P( B A)  P( B)
ve
Sonuç: A ve B olayı bağımsızdır
P( A B)  P( A)
P( A  B)  P( A) P( B)
Sonuç: B1, B2, ...., Bk olayları S örnek uzayının bölümlemeleri
olmak üzere P( Bi )  0, i  1,2,3,...., k ise, S örnek uzayındaki
herhangi bir A olayı için
B2
k
B1
B3
B4
 P( B  A)   P( B ) P( A B )
i
i 1
A
Bk
P( A) 
Bn
k
i
i 1
i
Sonuç (Bayes Kuralı) : B1, B2, ...., Bk olayları S örnek uzayının
bölümlemeleri olmak üzere P( Bi )  0, i  1,2,3,...., k ise, S örnek
uzayındaki herhangi bir A olayı için P( A)  0 olmak üzere,
P( Br A) 
P( Br  A)
k

P( Br ) P( A Br )
k
 P( B  A)  P( B ) P( A B )
i
i 1
i
,
r  1,2,..., k
i
i 1
Bir örnek: Bir montaj atölyesinde ürünlerin %30’u M1 makinesinde, %45’i M2
makinesinde, %25’i M3 makinesinde üretilmektedir. Geçmiş deneyimlerden
makinalarda üretilen ürünlerin sırasıyla %2, %3 ve %2’sinin kusurlu olduğu
bilinmektedir. Rasgele seçilen kusurlu bir A ürünün M3 makinesinde
üretilmiş olma olasılığı nedir?
M1
P(A/M1 )=0.02
P(M2 )=0.45
A
M2 P(A/M )=0.03
2
A
M3 P(A/M3)=0.02
10
P( M 3 A) 

49
A
P( M 3 ) P( A M 3 )
P( M 1 ) P( A M 1 )  P( M 2 ) P( A M 2 )  P( M 3 ) P( A M 3 )
Tanım (Olasılık Dağılım Fonksiyonu):
Rastgele, sürekli, reel sayılar kümesinde tanımlanmış X değişkeni için
f(x) olasılık dağılım fonksiyonu aşağıdaki gibi tanımlanır:
f ( x)  0, x  R

 f ( x)dx  1

P ( a  X  b) 
 f ( x)dx
b
a
Tanım (Birleşik Dağılım Fonksiyonu):
X ve Y rastgele değişkenleri için f(x,y) birleşik dağılım fonksiyonu
aşağıdaki gibi tanımlanır:
f ( x, y )  0, ( x, y )


  f ( x, y)dxdy  1
P ([ X , Y ]  A)   f ( x, y )dxdy
 
A
Tanım (Normal Dağılım):
n( x;  ) 
1
2
e
 ( 1 [( x   ) /  ]2
2
http://en.wikipedia.org/wiki/File:Normal_Distribution_PDF.svg
,
  x  
Tanım (Şartlı Dağılım):
X ve Y rastgele değişkenler olsun, Y rastgele değişkeninin X=x
olduğu verildiğinde şartlı dağılımı aşağıdaki gibi tanımlanır:
f ( x, y )
f ( y x) 
, g ( x) 
g ( x)

 f ( x, y)dy  0

Benzer şekilde, X rastgele değişkeninin Y=y olduğu verildiğinde
şartlı dağılımı aşağıdaki gibi tanımlanır:
f ( x, y )
f ( x y) 
, h( y ) 
h( y )

 f ( x, y)dx  0

Tanım (İstatiksel Bağımsız):
X ve Y rastgele değişkenler olsun, yukarıdaki gibi tanımlanan f(x,y),
g(x), h(y) dağılımları verildiğinde aşağıdaki eşitlik sağlanıyorsa, bu
değişkenler istatiksel olarak bağımsızdır denir:
f ( x, y)  g ( x)h( y), ( x, y)  A
Olasılıksal Yapay Sinir Ağı
(probabilistic neural network)
Giriş Katmanı
Örüntü Katmanı
( )
( )
ToplamaKatmanı
( )
( )
p(C1 )
KararKatmanı
( )
( )
p(Ci )
(
) (
p(Cm )
)
(
)
Amaç: Bayes kuralına p (Ci x) 
p ( x Ci ) p (Ci )
p ( x)
göre verileri sınıflandırmak
Verilenler: Ci i=1....m sınıfa ait n boyutlu p=N1 +N2+...+Ni+...+Nm veri
Örüntü Katmanı: Veri sayısı kadar nöron, herbiri bir Gauss dağılımı tanımlıyor
ij ( x) 
1
n
(2 ) 2 
e
 ( x  x )T ( x  x ) 
ij
ij 



2 2


n
,
i  1,....., Ni, j  1,....., Cm
  gdort
Toplama Katmanı: Her biri toplama işlemi yapan sınıf sayısı kadar nöron
1
1
pi ( x) 
n
(2 ) 2  n N i
Ni
e
 ( x  x )T ( x  x ) 
ij
ij 



2 2


, i  1,..., m
i 1
Karar Katmanı: Kazanan hepsini alır
Cˆ ( x)  arg max { p(Ci x)}, i  1,..., m
i
p(Ci x) ~
 pi ( x) p(Ci )
Örnek :
1
 3
1
C1 : x11   , x21   , x31   
1
 4
3
3
4
5
C2 : x12   , x22   , x32   
4
3
3
 3
  4
  2
C3 : x13   , x23   , x33   
 3
  4
  3
Birinci sınıf için standart sapmanın hesaplanması:
d11  min( d12 , d13 )  min( 1,2)  1
d  min( d 21 , d13 )  min( 1, 5 )  1
1
2
1  g
d 31  min( d 31 , d 32 )  min( 2, 5 )  2
11 2
 1.6
3
1.4
 2  1.2
2 11
 1.36568
3
 3  1.2
1 2 1
 1.36568
3
Birinci veri için hesaplayalım
p (C1 x)  15 .7525  10 3
p (C2 x)  625 .7411  10 6
p (C3 x)  13 .44437  10 6