Алфавитный подход измеряет информацию, основываясь на количестве символов в сообщении и мощности алфавита. При этом не учитывается частота появления символов. Вероятностный подход учитывает вероятность (частоту) появления каждого символа, что позволяет более точно оценить информационное содержание сообщения, особенно если символы встречаются с разной частотой.