Задание 5. Творческое задание. Придумайте и решите две задачи: 1. Одну задачу на вероятностный подход к измерению информации. 2. Одну задачу на алфавитный подход к измерению информации. Для каждой задачи: сформулируйте условие; запишите решение с формулами; укажите ответ с единицами измерения.

Задача на вероятностный подход. В мешке находятся 8 одинаковых на ощупь шаров с разными номерами от 1 до 8. Наугад достают один шар. Какое количество информации несёт сообщение о том, что достали шар с номером 5?

Решение. Все исходы равновероятны, поэтому вероятность события равна \(p=\frac{1}{8}\). Количество информации события вычисляем по формуле \(I=-\log_2 p\).

\(I=-\log_2\frac{1}{8}=\log_2 8=3\) бита.

Ответ: сообщение несёт 3 бита информации.

Задача на алфавитный подход. Сообщение состоит из 12 символов алфавита мощностью 16 символов. Сколько информации содержится в сообщении, если все символы алфавита используются равномерно?

Решение. Информация одного символа равна \(i=\log_2 N\), где \(N=16\) — мощность алфавита.

\(i=\log_2 16=4\) бита.

Для сообщения из \(K=12\) символов: \(I=K\cdot i=12\cdot4=48\) бит.

Ответ: 48 бит информации.