Question

Начиная с какого количества символов в гипотетическом алфавите на кодирование каждого символа потребуется 0,75 байт информации

Answer 1

Согласно формуле Шеннона, количество информации, необходимое для кодирования символа, выражается через логарифм по основанию 2 от количества возможных символов в алфавите. Таким образом, чтобы закодировать каждый символ при использовании 0,75 байта информации, необходимо иметь алфавит, состоящий из 2 в степени 0,75 символов. Округляя это значение до ближайшего целого числа, получаем, что начиная с 2 символов в алфавите, можно закодировать каждый символ, используя 0,75 байта информации.