Mövzu – İnformasiya cəmiyyəTİNİN Əsaslari informasiya cəmiyyəti

Mümkün halların sayı və informasiyanın miqdarı. Mümkün halların sayı (N) ilə informasiyanın miqdarını (İ) bir-birinə bağlayan düstur N = I ² şəklində ifadə edilir. Əgər informasiyanın miqdarı məlumdursa, mümkün halların sayını təyin etmək çətin deyil. Məsələn, əgər hadisənin nəticəsi 4 bit informasiya veribsə, bu o deməkdir ki, mümkün halların sayı 16-imiş: N = 2⁴ = 16. Əksinə, mümkün halların sayı məlumdursa, onda informasiyanın miqdarı 6 = 2⁴ və 2^I 2⁴ yazılışından İ=4 alınır.
İnformasiyanın miqdarının təyini üçün əlifba yanaşması
Bilikdə qeyri-müəyyənliyin azalması kimi təyin edilən informasiyanın miqdarı məzmun etibarı ilə anlaşıqlı və yeni olmalıdır. Bu baxımda göyə atılan pulun hansı üzü üstə düşdüyü barədə verilən xəbərin uzunluğundan asılı olmayaraq həmin xəbər 1 bit informasiya daşıyır.
Lakin texniki qurğuların köməyi ilə saxlanması və ötürülməsi zamanı in­for­masiyanın məzmunu arxa plana keçir. Odur ki, bu zaman informasiyaya işarələr (hərfl­ər, rəqəmlər, şəkil nöqtələrinin kodları və s.) sırası kimi baxmaq məqsədə uyğun olur.
İşarələr sisteminin (əlifbanın) simvolları yığımına müxtəlif mümkün vəziyyətlər (hadisələr) kimi baxmaq olar. Bu halda nəzərə alsaq ki, xəbərdəki simvollar eyni ehtimallıdır, onda 32 hərfli əlifbanın hər bir işarəsi 5 bit (32 = 2⁵) informasiya daşıyacaqdır. Yəni 1 hərfin informasiya tutumu 5 bitdir. Beləliklə, mətndəki işarələri sayıb 5-ə vurmaqla ondakı informasiyanın miqdarını hesablamaq olar.
İnformasiyanın miqdarı üçün Şennon düsturu
Çox hallarda baş verən hadisələri törədə biləcək mümkün hallar eyni ehtimallı olmur. Məsələn, pul və ya zər simmetrik deyilsə, onun bir üzünün düşmə ehtimalı fərqlənəcəkdir. Müxtəlif ehtimallı mümkün hallar üçün informasiyanın miqdarı düsturunu 1948-ci ildə K.Şennon təklif etmişdir:

Burada: İ – informasiyanın miqdarı, N – mümkün halların sayı, p_i - i-ci halın ehtimalıdır.
Fərz edək ki, qeyri-simmetrik piramidanın üzlərinin düşmə ehtimalları:

kimidir. Bu halda informasiyanın miqdarı:

olar.
Eyni ehtimallı hallar üçün Şennon düsturu aşağıdakı şəklə düşür.

Eyni ehtimallı hallarda bu informasiyanın miqdarı 2 bit (4 = I ² = 2² və ya I=log₂4=2) olur. Göründüyü kimi, eyni ehtimallı hallarda alınan informasiyanın miqdarı daha çoxdur. Bu, əslində, maksimal miqdardır. İnformasiyanın miqdarının təyini üçün təklif edilən bu yanaşma ehtimallı üsul adlanır. Bu üsul hər hansı suala cavab vermək üçün azı nə qədər cəhd edilməsini təyin etməyə imkan verir. Məsələn, 32 hərfli əlifbanın hər hansı hərfinin təyini üçün azı 5 addım tələb olunur.