LITMIR.BIZ

Скачать книгу

вашу уверенность в том, что все вороны черные. Если попросить кого-нибудь взять любой случайный нечерный предмет и вам покажут желтый банан, то числитель станет больше знаменателя на какую-то ничтожную величину. Вид желтого банана очень незначительно увеличит вашу уверенность в том, что все вороны черные. Чтобы всерьез укрепиться в верности этого утверждения, вам нужно будет увидеть почти все нечерные объекты, существующие во вселенной, плюс убедиться, что все они – не вороны. И в том и в другом случае результат будет соответствовать тому, что говорит ваша интуиция.

      Может показаться странным, что информация имеет какое-то отношение к случайности, но на самом деле они очень тесно связаны. Представьте себе цепочку цифр, составленную только из нулей и единиц. Цепочка 1111111111 абсолютно упорядоченна, а потому не содержит практически никакой информации (разве что “десятикратное повторение цифры 1”), так же как чистый холст, на котором все точки имеют белый цвет, почти ни о чем нам не говорит. С другой стороны, сгенерированная случайно последовательность 0001100110 содержит максимальный объем информации, возможный для цепочки такой длины. Дело в том, что один из способов дать количественную оценку информации – это определить, насколько сильно можно сжать данные. Истинно случайный набор цифр невозможно укоротить, сохранив при этом всю содержащуюся в нем информацию. А вот длинную цепочку, состоящую, например, из одних единиц, можно сжать во много раз – просто указав, сколько в ней единиц. Информация и беспорядок теснейшим образом связаны друг с другом. Чем более беспорядочна и случайна цепочка, тем больше информации она содержит.

      Можно посмотреть на это по-другому: открывая каждую последующую цифру случайной цепочки, мы получаем максимум возможной информации. С другой стороны, если мы видим цепочку 1111111111, ничего не стоит догадаться, какой будет следующая цифра. (Это касается только законченных цепочек, а не кусочков более длинных последовательностей. Произвольно длинная случайная цепочка цифр будет содержать сочетание 1111111111 бесконечное количество раз.) Объем информации, который можно считать полезным, – всегда компромисс между этими двумя крайностями. Например, фотография с минимумом информации – это просто одноцветный фон, а содержащая минимум информации книга – это листы, заполненные строчками из одной-единственной буквы. Ни то ни другое не представляет никакого интереса с точки зрения объема информации. Фотография же с максимумом информации будет беспорядочным, хаотичным скоплением пикселей, а книга – бессмысленным нагромождением случайных букв. Такое нас тоже вряд ли заинтересует. Самая полезная и нужная нам информация находится где-то посередине. Обычное фото содержит информацию, но в понятном нам виде и объеме. Если один из пикселей изображения окрашен в какой-то цвет, то непосредственные его соседи, скорее всего, будут похожего цвета. Мы это знаем и можем использовать для того, чтобы сжать изображение без потери информации. Книга, которую вы сейчас читаете, по большей

Скачать книгу