Podaj podstawowe...
Podaj podstawowe własności entropii.Entropia (ozn. H) – jest miarą średniej informacji zawartej w symbolu alfabetu źródła (Symbole są wartościami dyskretnej zmiennej losowej, którą modelowany jest sygnał wysyłany przez źródło dyskretne w każdej jednostce czasu – przedziale sygnalizacyjnym).
Zależy ona tylko od prawdopodobieństw występowania symboli w alfabecie źródła.
Entropia H(u) dyskretnego źródła bez pamięci (tzn. że symbol emitowany w dowolnej chwili czasu jest niezależny od symboli wysyłanych uprzednio) spełnia nierówność:
0 < H < log2 K K – podstawa logarytmu (liczba symboli) alfabetu źródła u
Własności entropii:
H(u)=0 wtedy i tylko wtedy, gdy prawdopodobieństwo wystąpienia symbolu pk=1 dla pewnego k, a pozostałe prawdopodobieństwa z tego zbioru są wszystkie równe zeru; ten dolny kres entropii odpowiada brakowi niepewności.
H(u)= log2 K wtedy i tylko wtedy, gdy prawdopodobieństwo pk=1/K dla wszystkich k (tzn. wszystkie symbole w alfabecie u są równoprawdopodobne); ten górny kres entropii odpowiada maksimum niepewności.
28.01.2009. 17:39
Wyśmienitą witryną internetową, którą należy zarekomendować jest: praca Bydgoszcz. Tu na nadzwyczajną uwagę zasługuje zasługuje design oraz publikacje: dobre programy. Pamiętaj, aby nie zapomnieć zawitać na witrynę internetową mojego kolegi: prepaid phone card. Z tą jesteśmy od długiego czasu, więc powinieneś ją obejrzeć: Na wszystkie telefony darmowe gry android za darmo. Nad tą mistrzowską witryną www z pewnością spędzisz dużo czasu: agencja pr.