Milli Aviasiya Akademiyası "Aerokosmik informasiya sistemləri" kafedrası " Neyron şəbəkələri və neyrokompüterli sistemlər" fənni üzrə mühazirə

NEYRON ŞƏBƏKƏLƏRİN TİPLƏRİ

Hal hazırda neyron şəbəkələrinin əsas 3 tipi mövcuddur.

1). Determinə olunmuş şəbəkələr.

2). Stoxastik neyron şəbəkələri.

3) Qeyri-səlis neyron şəbəkələri.

Determinə olunmuş neyron şəbəkələr o şəbəkələrə deyilir ki, hansılarda ki, elementlərin aktivləşmə funksiyası determinə olunmuşdur. Burada aktivləşmə funksiyası kimi müxtəlif funksiyalardan istifadə olunur. Aktivləşmə funksiyası kimi əsasən aşağıdakı funksiyalardan istifadə olunur.

1) Xətti funksiya . Y = K X;W; burada k = 1 olduqda neyronların çıxışlarına sadəcə onların ümumi çəkilmiş girişləri verilir. Bu cür funksiyanın tətbiq olunması məhduddur. Beləki, bu funksiya əsasında çoxqatlı şəbəkələrin qurulması şəbəkənin hesablama gücünü artırmır, çünki istənilən xətti elementli çoxqatlı şəbəkəni birqatlı şəbəkəyə gətirmək olar.

2). Hüdud funksiyası. Bu funksiya aşağıdakı kimi yazılır.

		1 əgər ∑wixi≥ θ
		{ 0 əks halda

Hüdud funksiyasından istifadə edən neyronlar ani zamanda ümumi çəkilmiş giriş hüdud kəmiyyətinə çatdıqda öz vəziyyətlərini sıfırdan birə dəyişirlər.

3. 
   Siqmoid ( yarım xətti funksiya ). Bu funksiya aşağıdakı
   

kimi yazılır.

Bu aktivləşmə funksiyasının verilməsinin ən geniş yayılmış formasıdır. Ümumi giriş k→ ∞ olduqda aktivləşmə səviyyəsi sıfıra

yaxınlaşır. Ümumi girişin çox böyük qiymətlərində isə aktivləşmə

səviyyəsi praktiki olaraq birə bərabər olur.

4) Hiperbolik tangens. Bu funksiya aşıdakı kimi yazılır.

Siqmoid funksiyasından fərqli olaraq hiperbolik tg-dən istifadə etdikdə neyronların aktivlik səviyyəsi -1 ilə 1 arasında dəyişir. Sonuncu 3 funksiya çoxqatlı neyron şəbəkələrinin qurulmasında daha çox maraq kesb edir. Bu cür şəbəkələr mürəkkəb məsələləri həll etmək qabiliyyətinə malikdirlər.

II. Stoxastik neyron şəbəkələri . Real həyatda əksər hallarda stoxastik proseslərə rast gəlinir. Bir çox hallarda isə real sistemin özünü aparmasına təsir göstərən bütün faktorların nəzərə alınması mümkün olmadığı üçün bu sistemlərə stoxastık sistemlər kimi baxılır. Stoxastik neyron şəbəkələrinin ən geniş yayılmış nümayəndəsi Boltsman maşınıdır. Bu tip şəbəkələr Xopfild şəbəkələrinin prinsipi əsasında qurulurlar.

Burada çəkilərin simmetrik matrisindən istifadə olunur. Fərq yalnız ondan ibarətdir ki, burada neyronların aktivləşdirmə qaydaları determinə olunmuş deyil, stoxastikdir. Bu isə o deməkdir ki, verilmiş giriş siqnallarında neyronun çıxış siqnalını bilavasitə müəyyən edən funksiyanın yerinə neyronun işə düşmə ehtimalını müəyyən edən münasibətlərdən istifadə olunur.

Şəbəkənin enerjisini müəyyən edən aşağıdakı münasibətə baxaq:

Harada ki, Yi və Yj – müvafiq olaraq i-ci və j-cu neyronların aktivlik səviyyələri ; θ-i-cu neyronun hüdududur.”K” neyronunun işə düşməsi şəbəkənin ümumi enerjisinin

qiyməti qədər aşağı düşməsinə gətirir.

Xopfildin determinə olunmuş şəbəkələrində bu faktdan assosicitiv yaddaşın qurulmasında istifadə oluna bilər.Bu halda öyrədici çoxluqdan hər bir xüsusi vektor üçün (b.s hər bir ayrıca yaddaş üçün) E minimum enerjiyə çatmaq təmin olunur.Yuxarıda qeyd olunduğu kimi şəbəkənin girişinə küylü və ya tam olmayan xarici faktor daxil olarkən belə bir şəbəkə lokal minimuma çatana qədər və stabil vəziyyət alana qədər tədricən öz enerjisini azalda bilər.Göstərilən yanaşma qlobal minimuma çatmanın qarantiyasını vermir, buna görə də belə sistemlərin fəaliyyətinə təsadüflük elementi daxil edilir.

Stoxostik şəbəkələrdə aktivləşdirmə qaydası ehtimalın paylanması sıxlığının hər hansı bir f funksiyası ilə verilir.

harada ki, Pk-k neyronun işə düşmə ehtimalıdır.

f funksiyası kimi hüdud funksiyasından istifadə etmək olmaz,belə ki, bu halda şəbəkə determinə olunmuş olur.Həmçinin xətti funksiya və hiperbolik tangens də tətbiq oluna bilməz,belə ki, onların qiymətlər oblastı ehtimalın qiymətinin mümkün olan (0,1) diapazonunun sərhəddini aşır.Buna görə də ehtimalın paylanması sıxlığının funksiyası kimi əksər hallarda siqmoid funksiyadan istifadə olunur.

(1)

harada ki, T-şəbəkədə təsadüfən səviyyəsini müəyyən edən hər hansı bir parametrdir.T parametri “temperatura”adlanır.Bu ad ondan irəli gəlir ki,Bolşman maşını ilə termodinamik sistem arasında paralellik cəkmək olar.Metalların termik möhkəmləndirilməsi prosesinə baxaq.Aşağı tempuraturlarda metaldakı atomlar kristalik qəfəsin düyünlərində yerləşirlər.Onlar sərt əlaqədədirlər və onların enerjisi qəfəs tərəfindən müyyən olunan pozisiyanı tərk etməyə imkan vermir.Metalı qızdırdıqda atomların enerjisi artır və onların pozisiya ətrafındakı rəqslərinin amplitudu yuksəlir.Tempuratur ərimə nöqtsəsindən yuxarı olduqda qəfəsin strukturu dağılır və atomdan yüksək enerjiyə malik olaraq sərbəst hərəkətlər başlayır.Tempuratur asaqı düsdukdə atomlar minimum enerjiyə müvafiq olan konfiqurasiya təşkil edərək yenidən enerjilərini itirirlər.

Oxsar proses Bolsman masınlarında imitasiya olunur və buna görədə o “imitasiya olunan möhkəmləndirmə” (simulated anmeding) adlanır.Şəbəkədə neyronların vəziyyətlərinin yeniləşmələrinin sayı kifayət dərəcədə olduqda, şəbəkənin iki qlobal A və B vəziyyətlərində ( burada qlobal vəziyyət dedikdə şəbəkənin elementlərinin vəziyyətlərinin yığımı başa düşülür) olması ehtimallarının nisbəti sabit qalır

Bu halda deyirlər ki, şəbəkə”temperatur tarazlığına” çatmışdır.Təbii ki, temperatur tarazlığında şəbəkənin elementləri hələ də öz vəziyyətlərini dəyişə bilərlər,belə ki aktivləşdirmə funksiyası-ehtimalların paylanma sıxlığı 0 və 1 qiymətlərini yalnız ümumi çəkilmiş girişin müvafiq olaraq k→-∞ k→ ∞ hallarında alır.

Lim Ρκ=0 lim Рκ=1

∆Eκ → -∞ ∆Eκ→∞

Şəbəkənin hər hansı bir A qlobal vəziyyətdə olması ehtimalı aşağıdakı formul ilə müəyyən olunur

Bu formul Bolsman paylanmasını təmsil edir, haradan ki “Bolsman maşını” adı da götürülmüşdür