Задача 9. Алфавит состоит из 100 символов. Какое количество информации несёт один символ этого алфавита?

Для алфавита из N равновероятных символов информационный вес одного символа равен \(i=\log_2 N\).

При \(N=100\): \(i=\log_2 100\approx6.64\) бита.

Если требуется целое число двоичных разрядов для кодирования символа кодом фиксированной длины, нужно не менее 7 разрядов, так как \(2^6<100\leq2^7\).

Ответ: примерно 6.64 бита информации; для фиксированного двоичного кода требуется 7 разрядов.