ТОП просматриваемых книг сайта:
Проектирование распределенных информационных систем. Е. Н. Чернопрудова
Читать онлайн.Название Проектирование распределенных информационных систем
Год выпуска 2012
isbn
Автор произведения Е. Н. Чернопрудова
Издательство "Центральный коллектор библиотек "БИБКОМ"
Действительно:
где: N – число всевозможных отображаемых состояний;
m – основание системы счисления (разнообразие символов, применяемых в алфавите);
n – число разрядов (символов) в сообщении.
Поэтому в различных системах счисления один разряд имеет различный вес, и соответственно меняется единица измерения данных. Так, в двоичной системе счисления единицей измерения служит «бит» – двоичный разряд, в десятичной системе счисления – «дит», как десятичный разряд.
Например:
а) сообщение в двоичной системе 10111011 имеет объем данных Vд = 8 бит;
б) сообщение в десятичной системе 275903 имеет объем данных Vд = 6 дит.
В современной ЭВМ наряду с минимальной единицей данных «бит» широко используется укрупненная единица измерения «байт», равная 8 бит.
Определение количества информации на синтаксическом уровне невозможно без рассмотрения понятия неопределенности состояния системы (энтропии системы).
Действительно, получение информации о какой-либо системе всегда связано с изменением степени неосведомленности получателя о состоянии этой системы. До получения информации получатель мог иметь некоторые предварительные (априорные) сведения о системе ɑ. Мера неосведомленности о системе H (ɑ) и является для него мерой неопределенности состояния системы. После получения некоторого сообщения получатель приобретает некоторую дополнительную информацию Iβ(ɑ), уменьшающую его априорную неосведомленность так, что апостериорная (после получения сообщения β) неопределенность состояния системы становится равной Hβ(ɑ). Тогда количество информации Iβ(ɑ) о системе ɑ, полученное в сообщении β, определится как:
т. е. количество информации измеряется изменением (уменьшением) неопределенности состояния системы. Если конечная неопределенность