Question

Как изменится неопределённость знания, если сообщение несёт 1 бит информации?

Answer 1

Ответ:

Минимум информации, который можешь получить, это услышать два варианта: ДА или НЕТ, ОРЕЛ или РЕШКА ...

То есть всего по два равновероятных варианта.

если до получения ответа на вопрос неопределенность была 100%,то после получения ответа станет 50%.

Подставим в формулу Хартли количество вартантов N=2

N=2^I

2=2^I

I=1 бит

поэтому второй ответ.

Иногда может информация может быть бесполезной и не уменьшать неопределенность.

Например, если ты не знаешь английский язык, и тебе ответили на английском, то неопределенность не изменится никак. Или если ты знаешь ответ на вопрос заранее... в этом случае даже нет необходимости в уменьшении неопределенности.