İnformatikanin əsaslari


İnformasiyanın miqdarı üçün Şennon düsturu



Yüklə 1,28 Mb.
səhifə13/156
tarix16.12.2023
ölçüsü1,28 Mb.
#182397
növüDərs
1   ...   9   10   11   12   13   14   15   16   ...   156
nformatikanin saslari

İnformasiyanın miqdarı üçün Şennon düsturu


Çox hallarda baş verən hadisələri törədə biləcək mümkün hallar eyni ehtimallı olmur. Məsələn, pul və ya zər simmetrik deyilsə, onun bir üzünün düşmə ehtimalı fərqlənəcəkdir. Müxtəlif ehtimallı mümkün hallar üçün informasiyanın miqdarı düsturunu 1948-ci ildə

K.Şennon təklif etmişdir: I
N
pi log 2 pi
i 1
Burada: İ – informasiyanın miqdarı, N –


mümkün halların sayı,
pi - i-ci halın ehtimalıdır.

Fərz edək ki, qeyri-simmetrik piramidanın üzlərinin düşmə ehtimalları:


1

p1 , p2
2
, p3
p4
kimidir. Bu halda informasiyanın miqdarı:

I (1 log 1
2 2 2
1 log 1
4 2 4

  1. log 1

8 2 8
1 log 1) (1
8 2 8 2
2 3 3) 14
4 8 8 8
1


1,75


bit olar.

Eyni ehtimallı hallar üçün Şennon düsturu I
log 2
N
şəklinə düşür.


Eyni ehtimallı hallarda bu informasiyanın miqdarı 2 bit ( 4 22
2 I və ya


I log 2 4

  1. ) olur. Göründüyü kimi, eyni ehtimallı hallarda alınan informasiyanın miqdarı

daha çoxdur. Bu, əslində, maksimal miqdardır. İnformasiyanın miqdarının təyini üçün təklif edilən bu yanaşma ehtimallı üsul adlanır. Bu üsul hər hansı suala cavab vermək üçün azı nə qədər cəhd edilməsini təyin etməyə imkan verir. Məsələn, 32 hərfli əlifbanın hər hansı hərfinin təyini üçün azı 5 addım tələb olunur.





    1. Yüklə 1,28 Mb.

      Dostları ilə paylaş:
1   ...   9   10   11   12   13   14   15   16   ...   156




Verilənlər bazası müəlliflik hüququ ilə müdafiə olunur ©azkurs.org 2024
rəhbərliyinə müraciət

gir | qeydiyyatdan keç
    Ana səhifə


yükləyin