Yapay Sinir Ağlarının Tarihçesi • İlk yapay sinir ağı modeli 1943 yılında, bir sinir hekimi olan Warren McCulloch ile bir matematikçi olan Walter Pitts tarafından gerçekleştirilmiştir. McCulloch ve Pitts, insan beyninin hesaplama yeteneğinden esinlenerek, elektrik devreleriyle basit bir sinir ağı modellemişlerdir. 1 YAPAY SİNİR AĞLARI Yapay sinir ağları (YSA), insan beyninin özelliklerinden olan öğrenme yolu ile yeni bilgiler türetebilme, yeni bilgiler oluşturabilme ve keşfedebilme gibi yetenekleri, herhangi bir yardım almadan otomatik olarak gerçekleştirebilmek amacı ile geliştirilen bilgisayar sistemleridir. 2 • Yapay sinir ağları; insan beyninden esinlenerek, öğrenme sürecinin matematiksel olarak modellenmesi uğraşı sonucu ortaya çıkmıştır. Bu nedenledir ki, bu konu üzerindeki çalışmalar ilk olarak beyni oluşturan biyolojik üniteler olan nöronların modellenmesi ve bilgisayar sistemlerinde uygulanması ile başlamış, daha sonraları bilgisayar sistemlerinin gelişimine de paralel olarak bir çok alanda kullanılır hale gelmiştir. 3 • YSA Karşılaştırma • Biyolojik Sinir sistemi Yapay Sinir Sistemi • Nöron İşlemci eleman • Dentrit Toplama fonksiyonu • Hücre gövdesi Transfer fonksiyonu • Aksonlar Yapan nöron çıkışı • Sinapslar Ağırlıklar 4 STATİK HÜCRENİN MATEMATİKSEL MODELİ Burada; W- hücrenin ağırlıklar matrisini, x- hücrenin giriş vektörünü, v- hücrenin net girişini, y- hücre çıkışını ve (.)hücrenin aktivasyon fonksiyonunu göstermektedir. Denklem 1.1 den, x giriş vektörünün bileşenlerinin dış (geri beslemesiz) girişler olması durumunda hücrenin doğrusal olmayan statik bir işlevi gerçekleştireceği görülmektedir. 5 YSA'ların Genel Özellikleri • YSA'lar, uygulanan ağ modeline göre değişik karakteristik özellikler göstermelerine karşın temel birkaç ortak özelliğe sahiptirler. 6 YSA'ların Avantajları 7 • YSA'lar makina öğrenmesi gerçekleştirebilirler. • Bilgi işleme yöntemleri geleneksel programlamadan farklıdır. • Bilgiler ağın tamamında saklanır. • Örnekleri kullanarak öğrenirler. 8 • Daha önce görülmemiş örnekler hakkında bilgi üretebilirler • Algılamaya yönelik olaylarda kullanılabilirler. • Örüntü (pattern) ilişkilendirme ve sınıflandırma yapabilirler • Örüntü tamamlama yapabilirler. 9 • Kendi kendine öğrenebilme ve organize etme yetenekleri vardır. • Eksik bilgi ile çalışabilmektedirler • Eksik bilgi ile çalışabilmektedirler • Dereceli bozulma (Graceful degradation) gösterirler. • Dağıtık belleğe sahiptirler 10 YSA'ların Dezvantajları 11 • Donanım bağımlıdır • Uygun ağ yapısının belirlenmesinde belli bir kural yoktur. • Ağın parametre değerlerinin belirlenmesinde belli bir kural yoktur • Öğrenilecek problemin ağa gösterimi önemli bir problemdir 12 • Ağın eğitiminin ne zaman bitirilmesi gerektiğine ilişkin belli bir yöntem yoktur • Ağın davranışlarının açıklanamamaktadır. 13 Geleneksel algoritmalar ile Yapay Sinir Ağlarının Karşılaştırılması • Geleneksel Algoritmalar • Çıkışlar, koyulan kurallara • YAPAY SİNİR AĞLARI • Öğrenme esnasında giriş çıkış • • • • • girişlerin uygulanması ile elde edilir. Hesaplama; merkezi, eş zamanlı ve ardışıldır. Bellek paketlenmiş ve hazır bilgi depolanmıştır. Hata töleransı yoktur. Nisbeten hızlıdır. • Bilgiler ve algoritmalar kesindir. • • • • bilgileri verilerek, kurallar koyulur. Hesaplama; toplu, eş zamansız ve öğrenmeden sonra paraleldir. Bellek ayrılmış, ve ağa yayılmıştır. Dahilidir. Hata töleransı vardır. Yavaş ve donanıma bağımlıdır. Deneyimden yararlanır. 14 YSA'lar pek çok sektörde değişik uygulama alanları bulmuştur. Bunlardan bazıları; • • • • • • • • • • • • • • • Uzay Otomotiv Bankacılık Savunma Elektronik Eğlence Finans Sigortacılık Üretim Sağlık Petro kimya Robotik Dil Telekominikasyon Güvenlik 15 Yapay Sinir Ağları El yazısı Tanıma Örneği • El yazısı tanıma, el ile yazılan harf, rakam ve sembollerin bilgisayar sistemleri tarafından tanınmasıdır.İnsanlar için oldukça kolay olmasına rağmen, bir zemin üzerindeki çizgi ve eğrilerin otomatik olarak harf ve rakamlar, daha ileri aşamada da anlamlı sözcükler olarak algılanması oldukça zor bir problemdir. Fakat şu anki teknoloji el yazısı tanıma konusunda henüz kısıtlı bir düzeydedir ve hala tam olarak çözülmüş bir problem değildir. El yazısı tanımadaki zorluk, çok fazla sayıda değişik yazı karakteri olması ve kişiden kişiye farklılıklar göstermesinin yanında harflerin birbirine bağlı yazılmasından kaynaklanmaktadır 16 El yazısı tanıma yöntemleri iki gurupta toplanabilir:Etkileşimli (çevrimiçi) ve etkileşimsiz (çevrimdışı) yöntemler. 17 Etkileşimsiz yöntemler: • • • • • • • • • • • • • Genelde kağıt üzerine daha önceden yazılmış bilgilerin sayısallaştırılarak, sonradan tanınmaya çalışılması işlemidir. Bu tip sistemlerde yazının tanınması için bir süre kısıtlaması gerekmemektedir. Yazının yazılması sırasındaki hareketler hakkında hiçbir bilgi olmadığı ve özellikle eski belgeler yeterince temiz ve okunaklı olmayacağı için yanılması daha kolay sistemlerdir. Sayısallaştırıcılardan kaynaklanan gürültülerin etkisini azaltmak için çok daha detaylı bir önişlemeye gerek duyulur. Bu sistemlerin avantajı özel bir alete gerek duyulmaması ve bu sayede yıllardır varolan bütün belgelere uygulanabilmesidir. Etkileşimsiz yöntemler oldukça geniş bir yelpazede yer alsa da genelde benzer bir işlem sırasını izler.Bunlar şu şekilde sıralanabilir: 1) Ön-işleme: Gürültü azaltılması, düzgeleme,referans çizgisinin bulunması gibi işlemlerden oluşur. 2) Bölütleme: Sözcüklerin harflere ya da rakamlara karşılık gelecek parçalara bölünmesi amaçlanır. 3) Öznitelik çıkarımı: Bu aşamada ana amaç verinin daha kısıtlı bir uzayda tanımlanarak bu tür problemlerin engellenmesidir. 4) Tanıma: Tanıma ya da harflerin sınıflandırılması aşamasında çok farklı yöntemler kullanılabilir. Yapay sinir ağları,istatistiksel ve yapısal öğrenme,şablon eşleştirme gibi yöntemler bunlardan bazılarıdır. 5) Son-işleme: Gürültülü verilerde sözcükleri bulmak için harflerin tanınması bir problem oluşturur.Bu tür problemleri biraz olsun azaltabilmek için, tanıma sonrasında bazı sistemler bir sözlükten yararlanarak tanınan harflerin anlamlı sözcüklere denk gelmesini sağlamak için bir sonişleme yapmaktadır. 18 Etkileşimli yöntemler • • • • • El yazısını yazı yazıldığı sırada tanıyan, özel olarak tasarlanmış sistemlerdir. Genelde elektromanyetik ya da elektrostatik tabletler kullanılır. Kalemin dokunuşları ve hareketlerin devamlılığı göz önünde tutulur. Bu tip sistemlerin yazı hızına yetişebilmesi için çok hızlı olması gerekir. Harflerin şekil özelliklerinin yanında yazılma sırasındaki hareketler gözlenebilir ve böylece yanlışlar anında düzeltilebilir. • Diğer bir avantajı da kullanıcı ile sürekli bir etkileşim olduğu için kullanıcının sisteme gün geçtikçe uyum sağlaması ve yazılarını tanınması daha kolay olacak şekilde yazmaya başlamasıdır. • Etkileşimli sistemler de etkileşimsiz sistemlere benzer yöntemler izler. Etkileşimli sistemlerde gürültü genelde tabletin sınırlı özellikleri nedeniyle ortaya çıkmaktadır ve bunu gidermek için yumuşatma ve inceltme gibi yöntemlerle kullanılır. • Elektronik ajandalar (PDA) gibi günümüzde çok yaygınlaşan bir yöntemdir. 19 Yapay Sinir Ağları ile El Yazısı Tanıma • Yapay sinir ağlarının oluşturulması için örnek teşkil eden, biyolojik sinir ağlarının ve insan beyninin en temel parçaları, hatırlama, düşünme, her harekette daha önceki deneyimlere başvurma yeteneğini sağlayan kendine özgü sinir hücreleridir. 20 Resimdeki Türkçe Yazının Metne Dönüştürülmesi: Bu aşamada, karakterlerin eğitim ve uygulama sırasında sinir ağının girişleri için temsil edilme biçimlerinde iki farklı yöntem göz önünde bulundurulmuştur. 21 1. Karakterlerin Ağırlık Merkezine Dayalı Gösterimi Ağırlık merkezine dayalı tanıma, karakterlerin ağırlık merkezlerinin farklı noktalarda olduğu düşüncesinden ortaya çıkmıştır. Aşağıdaki şekil piksel olarak incelendiğinde ağırlık merkezlerinin aynı noktada olduğu söylenebilir. Oysa ki oransal temelden bakıldığında farklı olacaktır. Ağırlık merkezine dayalı sınıflandırma sabit karakter boyutlarında iyi sonuçlar vermektedir. Desenler giriş matrisine, kendi ağırlık merkezleri ile matrisin ağırlık merkezi çakışacak şekilde yerleşirler. Ağırlık merkezi kriteri her ne kadar ayırt edici özellik taşıyorsa da, aynı yazı tipinin farklı büyüklüklerinde ağırlık merkezi kaymaktadır. Bu nedenle farklı özellik vektörlerine ihtiyaç duyulmaktadır. 22 2. Karakterlerin Sabit Bir Desen Matrisinin Bir Noktasına Yerleştirilmesi • Öğrenme işlemi sırasında öğretilecek her karakterin resim biçimi hazır • olduğundan (siyah-beyaz biçiminde), bu resim dosyalarından piksel değerleri okunarak desen matrisinin sol üst kenarına yaslanacak şekilde yerleştirilir. Her iki yaklaşım için de, desen matrisi 20x20 olarak sinir ağının girişlerine göre düzenlenmiştir. Bu çalışmada, uygulamada kolaylık olması açısından karakterlerin sinir ağına sunulmasında ikinci temsil biçimi kullanılmıştır. 23 24 25