автор: kdv2005

К. однажды спросил меня, существует ли случайность в природе. Я ответил, что нет, существует лишь сложность. Приведенные комментарии стали попыткой проиллюстрировать этот тезис.

С точки зрения математики вопрос о том, что такое случайность, условно делится на две части: первая посвящена вопросу о том, что такое случайность, как правильно ее понимать и каковы ее свойства, а вторая -- существует ли случайность в мире и каковы ее источники.

Первой группой вопросов занимается теория вероятностей (она, конечно и еще много чем занимается, но не будем отвлекаться) и в начале 20-го века в ее развитии произошел качественный скачок, связанный с тем что выкристаллизовалось математическое понятие случайности. Результатом этой кристаллизации стало понимание, что математическим содержанием нужно наполнять лишь одно из многих значений житейского, интуитивного понятия "случайный".

Часто, говоря о случайном выборе, мы подразумеваем выбор, сделанный наобум, без осознанного, осмысленного усилия.

Говоря о случайном исходе эксперимента или о том, что результаты наблюдений случайны, мы нередко пытаемся сказать, что их зависимость от разнообразных параметров настолько сложна и так мало нам известна, что мы признаем практическую невозможность учесть влияние всех факторов и предсказать результат. Иными словами, здесь "случайность" означает признание неполноты наших знаний, либо о себе, как в первом случае, либо о внешнем мире.

И, наконец, иногда мы говорим о случайности когда хотим подчеркнуть, что никакой видимой зависимости между двумя событиями/экспериментами/наблюдениями нет, они никак между собой не связаны, и поэтому их результаты "сочетаются случайно". Таковы, например, исходы одновременного бросания двух монет двумя людьми.

Рывок, совершенный теорией вероятностей в своем развитии, был связан с осознанием, что математическую теорию случайности следует основывать на последнем смысле слова случайности -- на отсутствии какой-либо зависимости результатов двух экспериментов между собой. Как это часто бывает и в естественных науках, теория вероятностей быстро двинулась вперед только после отказа от попыток ответить на философский вопрос, что есть случайность, какова ее природа, и ограничилась изучением свойств случайности, предварительно дав свое, более узкое и четкое определение этого понятия.

С этой точки зрения классическая теория вероятностей отказывается от изучения внутреннего устройства источников случайности. Каждый такой источник (в теории вероятностей их называют случайными величинами) мыслится в виде черного ящика с одним выходом, при каждом обращении к которому на выходе черного ящика появляется очередное число - значение этой случайной величины. Нет никакой формулы (и более того, нет никакой функции), предсказывающей следующее значение, которое появится на выходе, по результатам последнего наблюдения и прошлых наблюдений. Все, что имеется в нашем распоряжении - статистика уже наблюденных значений и свойства этой статистики целиком описывают данный черный ящик/случайную величину.

Центральным понятием теории вероятностей при таком подходе становится понятие независимости случайных величин (и условного распределения случайной величины), основанное на принципе кореллируемости: если два источника случайности связаны между собой (полностью или частично, например, завися от общего параметра), то такая зависимость может быть выявлена статистически, наблюдениями за парами их значений.

Каноническим примером этого подхода является последовательность испытаний Бернулли: последовательность независимых случайных величин, каждая из которых может принимать значения 0 и 1 с вероятностью 1/2, независимо от того, какие значения были приняты остальными случайными величинами. Последовательность испытаний Бернулли обычно связывают с процессом бросания идеализированной симметричной монетки. В некотором (хорошо определенном смысле), вся философская неоднозначность понятия случайности может быть сведена к этому примеру: имея в распоряжении такую бесконечную последовательность случайных величин средствами обычной, детермистской математики (алгебраическими операциями и переходом к пределу) можно изготовить любой набор случайных величин с нужными статистическими свойствами, как индивидуальными, так и совокупными.

Развитие приведенных выше идей привело в конечном счете к появлению в 20-х-30-х годах XX века нескольких аксиоматических теорий, формализующих понятие вероятности. Наиболее известной и распространенной из них стала аксиоматизация теории вероятностей на базе теории множеств, предложенная Колмогоровым. Я тем не менее хочу подчеркнуть, что ядром теории является не пресловутая тройка "множество/σ-алгебра_событий/нормированная_мера", а понятия "независимости" и "условного распределения", и именно содержательность следствий из определений двух последних понятий оправдывает существование классической теории вероятностей в изложенном виде. Я разумеется, намеренно сузил рамки, поскольку говорил лишь о случайности.

Вторая группа вопросов оказалась не в пример сложнее. Одно дело описать свойства имеющейся случайности. И совсем другое дело - описать, как эту случайность построить.

С одной стороны, задача упрощается тем, что достаточно научиться строить генератор последовательностей Бернулли (или, что эквивалентно, генератор, случайно выбирающий точку на единичном отрезке, не отдавая предпочтения ни одной из них), после чего генератор любой случайности становится делом техники. С другой стороны, даже в этом, в некотором смысле, самом понятном и самом простом случае, мы должны явным образом описать, что это значит, выбрать число наудачу (неважно, из конечного или бесконечного множества, хоть из {0,1}, хоть из [0,1]). В математической постановке этой задачи требуется привести алгоритм построения такой последовательности выборов.

Задача, несомненно, противоречива. Всякий алгоритм, всякий закон, предсказывающий член последовательности по предыдущему (да хоть по всем предыдущим) немедленно указывает закон зависимости членов последовательности друг от друга, и тем самым, хоронит саму идею случайности на корню. Можно, конечно, сказать, что с точки зрения теории вероятностей нам особого дела нет до того, как одни члены последовательности зависят от других, если произведенная алгоритмом последовательность нулей и единиц (или точек единичного отрезка), обладает правильными статистическими свойствами, то задача решена и генератор построен.

В частности, для моделирования последовательности испытаний Бернулли достаточно научиться строить последовательности, в любом куске которых число нулей приблизительно равно числу единиц. Однако небольшое размышление показывает, что все не так просто.

Взглянем на последовательность 01010101010101... Она очевидно удовлетворяет приведенному выше требованию, и не менее очевидно является совершенно неудовлетворительным примером случайной последовательности - случайностью тут и не пахнет. Помимо периодического чередования нулей и единиц, позволяющего строго предсказывать очередной член последовательности у нее много и других недостатков. Например, в истинно случайной последовательности нулей и единиц должны встречаться пары идущих подряд нулей, да и вообще любые конечные наборы из нулей и единиц, причем бесконечно часто, а для нашей последовательности это не так. Можно сказать, что причиной того, что мы отказываемся признать нашу последовательность случайной, является наличие у нее большого числа симметрий, из-за чего ее очень легко описать.

Таким образом, для построения "истинно случайной" последовательности мы должны следить, чтобы в ней не появлялось симметрий ни при разбиении ее на пары, ни на тройки и ни на какие другие группы из k элементов. Разумеется, бывают и другие, более сложные симметрии, и хорошо бы, чтобы искомый алгоритм препятствовал и их возникновению. Но отсюда ясно, что такой алгоритм, следящий за разнообразными корелляциями в нашей последовательности, не может быть слишком простым.

Развитие этих идей естественным путем приводит к теории сложности последовательностей, построенной Колмогоровым. На поставленные вопросы она предлагает следующие ответы: всякий принципиально физически реализуемый (рекурсивный) алгоритм построения последовательностей неизбежно вводит корелляции между ее членами. Путем усложнения алгоритма можно избавиться от некоторого заданного наперед числа корелляций, но истинно случайная последовательность чисел имеет бесконечную сложность и ее алгоритмическое построение невозможно. С практической точки зрения генераторы случайных чисел, производящие их математическими, а точнее, арифметическими методами, дают лишь псевдослучайные последовательности чисел, и при их использовании нужно следить за тем, как оставшиеся, неустраненные корреляции, влияют на результат.

Содержание предыдущих абзацев можно резюмировать так: математическая случайность, изучаемая теорией вероятностей, основана на идее независимости. Если эксперименты X и Y со случайными исходами независимы, то знание результата эксперимента X никак не позволяет уточнить прогноз исхода эксперимента Y. Пространства исходов этих экспериментов "ортогональны" и прогноз исхода Y, построенный с учетом информации об X, всегда будет совпадать с прогнозом Y, построенный в отсутствие информации об X.

Математик бы сказал (с небольшой натяжкой), что теория вероятностей изучает меры на бесконечных произведениях множеств.

Такая случайность имеет сильные свойства непредсказуемости, что с одной стороны, позволяет получать содержательные математические утверждения о ней, а с другой стороны делает задачу о построении такой случайности на практике бесконечно сложной. С общефилософской точки зрения, это, конечно, не противопоставление, а два проявления одного и того же качества - сложности: чем сложнее описание математического объекта, тем меньше произвола в его устройстве и тем богаче, как правило, его свойства. Вероятностная случайность, в этом смысле, конечно же, сложна. Даже в простейшем случае последовательности испытаний Бернулли (которая, как мы помним, всего-навсего моделирует бросания монетки) генератор такой случайности должен удовлетворять бесконечному (более точно - счетному) числу условий. Именно поэтому комбинаторные и арифметические методы построения случайности обречены на провал - степеней свободы не хватает для того, чтобы удовлетворить всем требованиям.

С другой стороны, оперирование бесконечными списками условий в математике дело обычное, на этом построен анализ и геометрия непрерывных, гладких (ну и, разумеется, аналитических) объектов. Поэтому в поисках источников случайности естественно обратиться к непрерывному и гладкому анализу. Дополнительную привлекательность этому соображению придает и то, что гладкие объекты, если их удастся обнаружить на этом пути, могут оказаться связанными с описанием природных явлений, и тем самым нам, возможно, удастся с одной стороны прояснить роль случайности в этих явлениях, а с другой стороны, указать природный источник самой случайности. Изучением этого вопроса (разумеется, помимо других задач) занимается эргодическая теория динамических систем.

Здесь я должен сделать еще несколько замечаний.

Для того, чтобы вновь не смешивать с таким трудом разделенные понятия случайности в житейском и в математическом смысле, введем дополнительный термин. Применительно к динамическим системам, (то есть к системам, эволюционирующим во времени), будем говорить не о случайном их поведении, а о хаотическом, интуитивно связывая слово "хаос" с беспорядком, запутанностью, сложностью за гранью восприятия. В дальнейшем я постараюсь пояснить, насколько это возможно, что именно имеется в виду. Тем не менее для краткости я по-прежнему буду говорить о хаотичности поведения системы, в тех случаях, когда не важно, о какой именно строке шкалы хаотичности идет речь.

В свое время Пуанкаре говорил, что нет интегрируемых систем, есть системы, интегрируемые в той или иной степени. Точно так же, говоря о хаотичности поведения динамической системы мы не имеем в виду некое строго определенное свойство, а целое семейство понятий, образующих шкалу степеней хаотичности поведения: эргодичность, перемешивание разных степеней, скорость убывания корелляций, энтропия, К-свойство и пр.

Итак, колмогоровская теория сложности показывает, что истинно случайную последовательность чисел можно описать лишь перечислением ее членов, и никакого другого, принципиально более короткого описания она не допускает. В частности, невозможно, глядя на конечный отрезок последовательности, сказать, является ли она истинно случайной, поскольку нельзя исключить возможность того, что она, на самом деле, периодическая, и просто ее период длиннее доступного нам для наблюдений куска. Конечно, для всех практических целей таких периодических последовательностей с достаточно длинными периодами может хватить, но для обсуждения случайности в физических системах этого явно недостаточно. Не могу удержаться от добавления: точно так же, глядя на конечный кусок последовательности, нельзя утверждать, что она не является случайной, ведь в истинно случайной последовательности должны встречаются сколь угодно длинные периодические куски любого периода!

Таким образом, дальнейшее продвижение в изучении случайных последовательностей должно сопровождаться изменением его постановки.

* * *

Эргодическая теория ставит проблему следующим образом: так же, как мы не можем многое сказать об индивидуальной истинно случайной последовательности из нулей и единиц, мы не можем много сказать и о хаотических свойствах индивидуальной траектории. Для того, чтобы данная система могла претендовать на титул хаотической, хаотическое поведение должно быть не свойством отдельных, специально избранных или построенных, траекторий, оно должно быть коллективным свойством всех траекторий, которым обладает каждый типичный представитель семейства всех траекторий. Поэтому нужно изучать вопрос не о том, что мы можем сказать о каждой отдельной траектории, а о том, что мы можем сказать о поведении всех траекторий в целом и о поведении каждой типичной траектории.

С прикладной точки зрения такая переформулировка только естественна, поскольку при эволюции процесса во времени, начиная с некоторых начальных данных, параметры процесса и начальные данные известны лишь с некоторой точностью и в этом случае нас интересуют типичные сценарии поведения для всевозможных сочетаний значений параметров и начальных условий в заданном диапазоне значений.

В качестве иллюстрации этого подхода и чтобы стало яснее, какие трудности нас ждут в дальнейшем, рассмотрим простой математический пример. Он недостаточно содержателен, чтобы иметь самостоятельный физический смысл, но, несмотря на простоту, содержит в себе многое из того, о чем я буду говорить в дальнейшем, в том числе в нем мы уже сталкиваемся со многими характерными трудностями, связанными с хаотичностью.

Рассмотрим преобразование T, задаваемое формулой

  x -> 2 * x (mod 1)
Это преобразование отображает единичный отрезок [0,1] в себя по очень простому правилу. Всякое число x удваивается, после чего оставляется лишь его дробная часть.

Взяв в качестве начальной некоторую точку x_0 и применяя к ней последовательно наше преобразование, получаем последовательность точек (x_n):

  x_{n+1}= Tx_n, n≥0
которая называется траекторией точки x_0.

Я утверждаю, что преобразование T является генератором математической случайности в самом строгом, вероятностном смысле.

Для этого с траекторией каждой точки свяжем последовательность нулей и единиц

  a_0 a_1 ... a_n ... 
следующим образом. Пользуясь введенными обозначениями положим
  a_n=0, если x_n лежит между 0 и 1/2,
и
  a_n=1, если x_n лежит между 1/2 и 1.
Чтобы избежать придирок к неоднозначности описания, условимся, что в случае, когда x_n=1/2, в качестве a_n всегда берется 1. К этому соглашению тоже можно придраться, но к концу обсуждения станет ясно (я на это надеюсь), что все эти придирки не по существу и какое именно принято соглашение - в этом случае неважно.

Преобразование T имеет неподвижную точку x=0, которой отвечает символическая последовательность из одних нулей. Точке x=1/2 соответствует последовательность 10000..., а точке x=1/3 - символическая последовательность 0101010101... периода 2.

Ясно, что при таком сопоставлении всякому числу x ставится в соответствие двоичная последовательность, являющаяся его разложением в двоичную дробь. В частности, вопрос о построении истинно случайной последовательности нулей и единиц сводится в нашем генераторе к подбору подходящего стартового значения для траектории. Рациональные числа в качестве стартовых точек не годятся, им соответствуют периодические, начиная с некоторого места (ах, как не хватает в русском языке слова eventually!), последовательности. Поэтому исключим из дальнейшего рассмотрения все рациональные числа. Оставшееся множество начальных условий по-прежнему имеет длину 1 и содержит достаточный материал для построения случайности.

Заметим, что среди выброшенных из рассмотрения начальных условий оказались и все несократимые дроби, знаменатели которых являются степенями двойки. Именно для них построение двоичной последовательности зависит от принятого нами выше соглашения. Поскольку из дальнейшего рассмотрения мы их исключили, то форма принятого нами выше соглашения оказывается несущественной для дальнейшего анализа и основанного на нем выводов.

Чтобы два раза не вставать, добавлю, что действия отображения T в символическом представлении описывается очень просто: переходу от x к Tx соответствует стирание первого элемента в двоичном разложении числа x. Можно представить, что вся двоичная дробь, представляющая число x сдвигается на один разряд влево, при этом, разумеется, цифра, стоящая в первом разряде после запятой, безвозвратно теряется. В этом случае говорят, что в символическом представлении преобразование T действует как левый сдвиг в пространстве двоичных последовательностей.

Мы не можем описать выбор начальной точки траектории x_0, породившей бы истинно случайную последовательность нулей и единиц. На это накладывает запрет теория сложности: перечисление всех знаков истинно случайной двоичной последовательности означает явное задание числа x_0 в виде двоичной дроби.

Теперь сменим точку зрения и зададимся вопросом, много ли на единичном отрезке точек, траекториям которых соответствуют истинно случайные последовательности.

Нетрудно описать множество всех точек отрезка, символическое представление которых начинается с 0: это отрезок [0,1/2] (еще раз, последний, напоминаю, что двоично-рациональные точки исключены из рассмотрения), его длина равна 1/2. Аналогично, множество всех точек отрезка, второй элемент символического представления которых есть 0, представляет собой объединение двух отрезков [0,1/4] и [1/2,3/4], суммарная длина которых равна 1/2. Первый из них образован точками, символическое представление которых начинается с 00, а второй -- точками, символическое представление которых начинается с 10. Заметим, что длина каждого из этих двух отрезков равна 1/4. Аналогично, задание n-того символа в двоичном представлении числа x выделяет на единичном отрезке множество, представляющее собой объединение 2^n непересекающихся отрезков длины 1/2^{n+1}. Суммарная длина этих отрезков равна 1/2, и каждый из этих отрезков образован точками (теми и только теми), у которых первые n знаков при разложении в двоичную дробь совпадают.

Тут, конечно, впору остановиться, и завопить, что ведь если в нашем примере всюду заменить слово "длина" словом "вероятность", то наша последовательность символов превращается в последовательность независимых испытаний Бернулли. Ну да, так и есть, мы построили генератор случайных двоичных последовательностей из нулей и единиц. Если дать ему в качестве начального значения некоторое число (программисты бы назвали его seed, физики в аналогичной ситуации нередко используют слово Ansatz), и начать последовательно применять преобразование T, то первые знаки у чисел из построенной траектории (в двоичном разложении) и дадут некоторую реализацию последовательности испытаний Бернулли.

Несмотря на то, что мы, неосторожно выбрав начальное условие, можем получить периодическую последовательность, вероятность того, что это произойдет равна нулю, поскольку множество рациональных чисел, будучи счетным, имеет нулевую длину. Более того, согласно закону больших чисел, с вероятностью 1 в построенной нами последовательности единицы и нули будут встречаться с одинаковой частотой -- 1/2, пары 00, 01, 10 и 11 -- с частотой 1/4, и вообще, всякая фиксированная последовательность нулей и единиц длины n будет встречаться с частотой 1/2^n. Таким образом, с вероятностью 1 построенная нами реализация испытаний Бернулли будет истинно случайной последовательностью. Иными словами, множество начальных значений x, на отрезке [0,1], хоть и не состоит из всех точек, но все равно имеет длину 1. Элементы этого множества называются типичными точками. Таким образом, типичное начальное условие порождает истинно случайную последовательность нулей и единиц, то есть последовательность, свободную от всех корелляций.

* * *

Предыдущие части при первом чтении могут вызвать некоторое недоумение. С одной стороны я подчеркивал невозможность построения детерминистского источника случайности, с другой стороны отображение T вроде бы нам его предоставило. Те, кто внимательно следили за руками уже наверняка заметили в чем дело. Была проявлена некоторая ловкость рук. Рассмотрим ситуацию внимательнее.

В тот момент, когда мы заменили слово "длина" словом "вероятность", мы по сути перешли от рассмотрения совокупности всех типичных точек, к рассмотрению одной, случайным образом выбранной типичной точки. Если начальная точка траектории выбирается на единичном отрезке случайным образом, в соответствии с равномерным распределением (то есть когда шансы каждой точки оказаться выбранной одни и те же), то с вероятностью 1 мы выберем типичную (в описанном выше смысле) и последовательные итерации преобразования T породят истинно случайную двоичную последовательность, являющуюся реализацией независимых испытаний Бернулли. Таким образом, нами построен не генератор случайности (который, согласно приведенной выше интепретации теории сложности, принципиально нереализуем в классе рекурсивных функций), а преобразователь случайности, переводящий случайность выбора начальной точки в случайность знаков ее двоичного разложения.

Вывод несколько обескураживающий, но полезный, поскольку он иллюстрирует уже упоминавшееся выше соображение, что для построения разного рода случайностей как правило достаточно одного источника чистой случайности, свободной от всех корелляций. Наш пример показывает, как преобразовать воможность случайного выбора одного числа в возможность построения целой случайной последовательности нулей и единиц. Построение из этого набора последовательностей случайных чисел из единичного отрезка, случайных функций, поверхностей и других случайных объектов -- дело техники. Оставим этот вопрос математикам, они в этом большие мастера.

Все равно пока, кажется, негусто, поскольку построение преобразователя случайности -- не бог весть какое достижение.

Отмечу отдельно важное обстоятельство: не все точки оказываются типичными, как мы уже видели, рациональные точки типичными не являются. Однако нетипичные точки образуют множество меры нуль и выбирая стартовую точку случайно, как описано выше, мы получим типичную траекторию с вероятностью 1. Тем не менее вблизи каждой типичной точки, сколь угодно близко к ней, найдется рациональная точка. Иными словами нетипичные точки -- они повсюду и при пробегании стартовой точки вдоль всего отрезка мы на них постоянно натыкаемся.

Это вполне согласуется с вероятностной интуицией: фазовое пространство системы, генерирующей случайность, не может быть устроено слишком просто, ведь вблизи каждой случайной последовательности всегда найдется периодическая. Таким образом характерной чертой траектории с хаотическим поведением является ее топологическая неустойчивость: в сколь угодно малой окрестности ее стартовой точки найдется точка, траектория которой не будет вести себя типично. Однако подавляющее большинство тракторий, исходящих из этой окрестности (за исключением множества начальных точек меры нуль) будет вести себя типичным образом.

(Замечание: следует помнить, что говоря о топологической неустойчивости траектории, мы рассматриваем всю ее часть, простирающуюся в бесконечное будущее. Всякий конечный отрезок траектории по-прежнему будет непрерывно зависеть от выбора начальной точки.).

Более того, запрет, налагаемый теорией сложности на описание истинно случайной последовательности, означает, что несмотря на то, что почти всякая (по мере Лебега) точка единичного отрезка является типичной, ни про одну из них мы не можем утверждать этого с определенностью, в противном случае у нас бы имелось конструктивное описание случайности!

Такая ситуация характерна для систем с хаотическим поведением. Их траектории представляют собой сложнейшее сплетение нетипичных траекторий, некоторые из которых легко описать (например периодические), и типичных траекторий, местоположение которых описать принципиально невозможно, причем множества начальных точек траекторий и того и другого типа плотны в фазовом пространстве.

Вполне физическая проблема, кстати: вот мировая линия Солнечной системы или нашей Галактики -- она какова, типична или обладает какими-нибудь исключительными симметриями, из-за которых будущее Солнечной Системы или нашей Галактики окажется иным, нетипичным? Математика на этот вопрос ответить не может.

* * *

Вернемся теперь к свойствам нашего преобразователя случайности, заданного отображением Т. До сих пор мы обсуждали, что происходит, если мы выбираем начальную точку траектории случайно и равномерно на отрезке. А что, если изменить закон случайности, по которому совершается выбор? В конце концов, распределений вероятностей у нас много...

Разумеется, нужно исключить дурацкие ситуации, когда, например, мы выбираем лишь из конечного или счетного множества точек, например, если в качестве начальных точек брать только рациональные точки, то ничего интересного заведомо не выйдет.

Поэтому будем выбирать начальную точку по-прежнему случайно, в соответствии с некоторой плотностью распределения вероятностей на отрезке [0,1].

Напомню, что значения плотности вероятностей в каждой точке измеряет шанс, с которым эта точка окажется выбранной, по сравнению с другими точками. Например, если p(t_1)=3, p(t_2)=6 и p(t_3)=1, то шансы быть выбранной у точки t_1 вдвое меньше, чем у точки t_2 и втрое больше, чем у точки t_3.

Будем выбирать начальную точку нашей траектории в соответствии с этим новым законом и генерировать двоичные последовательности с помощью преобразования T. Каковы свойства этих последовательностей? С одной стороны, вероятность попасть на точку с нетипичной траекторией по-прежнему равна нулю. Тем самым, с вероятностью 1 каждая из сгенерированных последовательностей по-прежнему будет являться истинно случайной (и бесконечно сложной) двоичной последовательностью. С другой стороны, совместные распределения совокупности первых n знаков этих последовательностей больше не будут бернуллиевскими. Изменение вероятностного закона , по которому выбирается начальная точка траектории вводит корелляции между знаками случайных последовательностей.

Можно доказать, что в процессе построения последовательностей распределения их знаков со все большими и большими номерами будут все ближе и ближе к бернуллиевскому и в пределе, когда номер знака стремится к бесконечности, мы вновь получаем распределение Бернулли на множестве всех двоичных последовательностей. Это означает, что построенное нашим генератором распределение Бернулли не определялось тем, как именно мы выбирали начальную точку траектории, оно является внутренним свойством самого генератора и неважно, с какой плотности распределения мы начинаем, в конечном счете мы всегда приходим к распределению Бернулли на пространстве двоичных последовательностей (и к соответствующей ей мере Лебега на отрезке)!

В чем же дело? Как объяснить, что в детерминистском преобразовании, для которого траектория любой точки однозначно определяется заданием ее начального значения тем не менее явно сидит некоторая случайность? Ее непросто оттуда извлечь, этому, как мы видели, мешает теория сложности, но тем не менее случайность там сидит и она является свойством самой системы.

Для этого возьмем две очень близких друг к другу точки x_0 и y_0 и проследим, что происходит с их траекториями (x_n) и (y_n). При переходе от пары точек x_k, y_k к паре x_{k+1}, y_{k+1} расстояние между соответствующими точками траекторий каждый раз удваивается, однако они по-прежнему остаются близко друг от друга, до тех пор, пока расстояние между ними в некоторый момент N не станет порядка единицы, и точка 1/2 не окажется между ними. Это первый момент времени, в который знаки двоичных последовательностей (a_n) и (b_n), строящиеся с помощью траекторий (x_n) и (y_n), соответственно, окажутся различными. Можно сказать, что до этого времени траектории точек x_0 и y_0 имели общую историю, идя рядом, но последовательно разбегаясь с экспоненциальной скоростью. Начиная с момента времени N, когда точки x_N и y_N разошлись на расстояние порядка 1 и оказались по разные стороны точки 1/2 дальнейшее поведение их траекторий определяется свойствами отображения T в разных, вообще говоря, никак не связанных между собой, частях фазового пространства. Иными словами, на протяжении первых N моментов времени эти точки постепенно забывали свою общую историю и начиная с момента N каждая из них начала эволюционировать самостоятельно, не будучи никак связанной с другой.

Таким образом, рассмотренное нами экспоненциальное разбегание траекторий отвественно за "постепенную потерю памяти" траекторией и установления независимого режима эволюции для двух траекторий. А как мы помним, именно отсутствие функциональной связи между изменяющимися величинами в конечном счете привело к понятию независимости случайных величин. В нашем случае такая случайность возникает естественным образом вследствие экспоненциального затухания функциональной зависимости между двумя траекториями.

Описанное экспоненциальное разбегание траекторий приводит к тому, что отдельно взятая траектория не может задержаться ни в одной из частей фазового пространства и в процессе эволюции обходит все его уголки. В частности, если выбрать и зафиксировать произвольный интервал, то типичная траектория посещает его бесконечное число раз и несмотря на то, что моменты посещений этого интервала зависят от выбранной траектории, частота этих посещений за все время эволюции оказывается одинаковой для всех типичных траекторий (то есть для почти всех начальных данных) и равной длине интервала.

Столь подробно разобранный пример (несмотря на некоторую его вырожденность) позволяет проиллюстрировать многие хаотические свойства систем, некоторые из которых я перечислю.

Пусть нам дана некоторая динамическая система T с непрерывным фазовым пространством (поверхность или многообразие) и дискретным или непрерывным временем (отображение или поток). Выберем некоторую начальную точку x и рассмотрим ее траекторию. Для всякого множества (достаточно рассмотреть открытые множества) U подсчитаем число посещений k за время N нашей траекторией этого множества. Предел (если он существует) дроби k/N при N, стремяшемся к бесконечности назовем частотой посещения множества U. Совокупность всех частот посещений всевозможных открытых множеств нашей траекторией задает некоторую меру μ_x на фазовом пространстве, такую, что мера всего фазового пространства оказывается равной единице. Mера μ_x, вообще говоря, зависит от выбора точки x, но является одной и той же для всех точек, лежащих на одной траектории динамической системы:

  μ_x = μ_{Tx}

Иными словами, мера μ_x, задающая частоты посещений траекторией разных частей пространства, сохраняется преобразованием Т, то есть является его инвариантной мерой.

Среди инвариантных мер есть неинтересные; такова например дельта-функция, сидящая в некоторой неподвижной точке преобразования T. Она, очевидно, сохраняется нашим преобразованием T, поскольку траектория неподвижной точки не покидает эту точку вовсе.

По аналогичной причине неинтересна инвариантная мера, сосредоточенная на периодической траектории.

Интерес представляют инвариантные меры, совпадающие для большого числа точек, не лежащих на одной траектории -- меры, задающиеся с помощью плотностей на фазовом пространстве. Такие меры в математике называются абсолютно непрерывными.

* * *

Первым, самым слабым, свойством хаотичности системы (то есть ее типичных траекторий) является существование у нее единственной абсолютно непрерывной инвариатной меры. В этом случае распределения частот посещений открытых множеств траекториями оказывается одними и теми же для почти всех начальных точек (то есть для всех точек за исключением меры нуль), и распределение частот посещений типичной траекторией различных частей фазового пространства дается плотностью инвариантной меры.

В рассмотренном нами примере единственной абсолютно непрерывной инвариантной мерой преобразования T является мера Лебега на единичном отрезке.

Существуют примеры динамических систем, в которых инвариантная мера сосредоточена на множестве меньшей размерности. Такова например система обыкновенных дифференциальных уравнений, траектории которой притягиваются к некоторой поверхности, которая, в свою очередь, также состоит из траекторий данного дифференциального уравнения. В этом случае для изучения свойств такой системы достаточно рассмотреть ее ограничение на притягивающую поверхность (и тем самым понизить размерность задачи) поскольку все остальные траектории через конечное время окажутся вблизи этой поверхности и их поведение можно проанализировать по теории возмущений.

Более сложной технически является ситуация, когда множество, на котором сосредоточена инвариантная мера, имеет дробную размерность. Такая ситуация часто связана с наличием у системы странного аттрактора. Обсуждение этого случая увело бы нас далеко в сторону и поэтому здесь не приводится.

* * *

Следующим по степени хаотичности свойством динамической системы является эргодичность. Из двух эквивалентных формулировок я приведу формулировку с помощью функций, более популярную и удобную в физике, в которой размерность фазового пространства системы (например, газа в сосуде), может быть колоссальной и следить за эволюцией отдельной траектории системы просто невозможно из-за большого числа составляющих ее частиц. В этом случае удобно перейти к эквивалентному языку и изучать эволюцию наблюдаемых физических величин, за значениями которых можно следить с помощью непосредственных измерений. Классическими примерами таких величин являются температура и давление идеального газа. Эти величины представляют собой результаты измерений, усредненные во времени в процессе наблюдения за газом, то есть усредненные вдоль некоторой траектории нашей системы.

Система с инвариантной мерой μ называется эргодичной, если такие средние одинаковы для каждой типичной (то есть почти каждой по мере μ) траектории системы. В этом случае все эти временные средние с необходимостью равны среднему от функции по всему фазовому пространству, вычисленному по мере μ

В случае, когда мера μ имеет плотность, эргодичность можно пояснить следующим образом: плотность в точке x задает частоту посещения бесконечно малого объема вокруг точки x для типичной траектории, поэтому суммирование значений данной функции вдоль данной траектории можно, изменив порядок суммирования, заменить пространственным интегралом с данной плотностью.

* * *

Эргодичность сама по себе является довольно слабым хаотическим свойством.

В качестве примера рассмотрим поворот единичной окружности на угол α. Всякий такой поворот имеет меру Лебега в качестве своей абсолютно непрерывной инвариантной меры. Если угол α рационален и представляется несократимой дробью p/q, то фазовое пространство разбивается на периодические траектории периода q. Если же угол α иррационален, то траектория каждой точки всюду плотна на окружности, а сам поворот эргодичен. В частности, среднее любой непрерывной функции вдоль любой траектории поворота сходится к интегралу от этой функции по всей окружности по мере Лебега. Если в качестве подынтегральной функции взять функцию, тождественно равную 1 на некторой дуге окружности и 0 вне этой дуги, то среднее от этой функции вдоль траектории поворота даст частоту посещения дуги данной траектории. В силу эргодичности эта частота должна быть равна интегралу от указанной функции по окружности, то есть длине рассматриваемой дуги. В этом случае говорят, что каждая траектория поворота окружности на иррациональный угол равномерно распределена на единичной окружности. Подробная информация о том, как именно и с какой густотой индивидуальная траектория заполняет окружность содержится в коэффициентах разложения угла поворота α в цепную дробь. Чем медленнее растут эти коэффициенты, тем равномернее заполняется окружность. Самое лучшее, самое равномерное заполнение окружности дается траекториями поворота окружности на угол

  (1+√5)/2
все коэффициенты разложения которого в цепную дробь равны 1. В классической математике это число носит имя "золотого сечения".

Аналогичными свойствами обладает сдвиг на многомерном торе: в случае, когда углы поворота вдоль каждой образующей тора несоизмеримы в совокупности с единицей над полем рациональных чисел, то есть если никакая целочисленная комбинация этих углов не равна целому числу, всякая траектория сдвига на торе всюду плотна и равномерно распределена, а мера Лебега является инвариантной эргодической мерой сдвига.

* * *

Как я уже отмечал, поворот окружности на иррациональный угол и эргодический сдвиг на многомоерном тора обладают слабыми хаотическими свойствами. Несмотря на то, что траектории этих систем равномерно распределены по всему фазовому пространству, между членами одной траектории имеются сильные коррелляции и знание одной точки траектории с некоторой точностью позволяет установить положение любой точки траектории без потери точности.

Более сильным свойством хаотичности является перемешивание, при котором положение точки x_k траектории становится все менее и менее зависимым (в вероятностном смысле) от положения начальной точки траектории x_0, и корелляция их положения стремится к нулю при k стремящемся к бесконечности.

Существует целая шкала, описывающая степени перемешивания не только для пар, но и для троек и вообще для любого конечного семейства точек типичной траектории, а также скоростей убывания корелляций. Траектории перемешивающих систем обладают многими признаками случайных систем и в некотором смысле они уже имеют право называться источниками стохастичности.

Некоторую случайность можно усмотреть и в поведении траекторий эргодических систем, поскольку эргодичности можно эквивалентным образом описать как справедливость закона больших чисел для траекторных средних. Точно также можно характеризовать степень хаотичности системы по тому, какая часть результатов теории вероятностей переносится на поведение значений функций на точках типичной траектории системы. Такой характеристикой, например, является справедливость центральной предельной теоремы теории вероятностей на каждой типичной траектории.

* * *

Системы с самыми сильными хаотическими свойствами называются (в честь Колмогорова) K-системами. Эти системы имеют положительную энтропию и обладают всеми описанными выше свойствами. В некотором, строго определенном смысле, на таких системах можно задать соответствие точек фазового пространства с символическими последовательностями, такое, что действие K-системы в символическом представлении будет соответствовать сдвигу Бернулли в смысле, описанном выше. Таким образом, K-системы являются такими же источниками случайности, каким являлось отображение T в разобранном нами примере. Свойства и характер этой случайности является внутренним свойством K-системы и ее наличие обусловливает сложность устройства ее фазового пространства (в том же смысле, в каком сложность обсуждалась в разобранном примере).

В заключение обсуждения поговорим еще немного о причинах возникновения стохастичности в детерминистских системах. Как было видно уже в нашем карикатурном примере, ответственным за такое поведение является экспоненциальное разбегание траекторий. Малейшая неточность в задании начальных условиях за сравнительно небольшое время вырастает до характерных размеров системы и тем самым делает задачу долгосрочного прогноза неразрешимой. С точки зрения нашего обсуждения это свойство систем с хаотическим поведением естественно -- ведь по сути мы пытаемся прогнозировать поведение случайной последовательности.

Динамические системы, описывающие эволюцию физических систем как с малым, так и с большим числом степеней свободы, сохраняют фазовый объем. Отсюда ясно, что если экспоненциального разбегания траекторий по всем направлениям быть не может, должны быть направления, вдоль которых траектории сближаются с экспоненциальной скоростью. Динамические системы, в которых есть как направления экспоненциального разбегания траекторий, так и направления экспоненциального сближения траекторий, получили название гиперболических систем. При обращении времени направления сближения и разбегания траекторий меняются местами, и поэтому гиперболические системы описывают процессы не только с принципиально непредсказуемым будущим, но и с "непредсказуемым", а точнее невосстановимым прошлым.

Гиперболические системы являются K-системами и их сведение к символическому сдвигу Бернулли можно построить явно, разбив фазовое пространство специальным образом на конечное число областей и закодировав каждую область одним из символов. Такое разбиение называется марковским, в честь того самого Маркова, чье имя носят и марковские цепи. Построенный таким образом сдвиг Бернулли имеет ту же энтропию, что и исходная система (на самом деле именно так понятие энтропии и было распространено на динамические системы).

Вероятно, самым разрекламированным гиперболическим преобразованием является cat map. Для этого отображения можно построить марковское разбиение тора, состоящее из двух параллелограммов.


замечания

Следовало бы говорить о физике, в том смысле как ее понимают математики: как некоторый класс моделей, отражающих наши представления о природе. Я бы сказал, что математика не претендует на объяснение причинно-следственных связей физического мира, для этого у нее нет ни средств, ни методов, да и целей она таких никогда перед собой не ставит.

Давайте я консервативнее скажу: хаотичность, естественным образом возникающая в некоторых динамических системах, всегда оказывается связана со сложностью устройства фазового пространства системы в том смысле, который я пытался проиллюстрировать. Никакого другого источника создания случайности пока не открыто. Я склонен считать, что тому есть глубокие основания.

Аргумент о случайных флуктуациях физических параметров или законов взаимодействия очень интересен, но я явно не уделял ему достаточно внимания. Правда у меня есть некоторое формальное оправдание, поскольку с математической точки зрения вопрос о природе случайности в детерминистских системах при этом сильно упрощается и становится не столь содержателен.

Во-первых, случайные вариации параметров уже сами вводят случайность в поведение системы и тем самым основная трудность, вопрос о природе и источнике этой случайности заметается под ковер.

Во-вторых, рассмотрение систем, в которой случайным образом варьируются параметр или законы взаимодействия, или в которые добавлен случайный шум, с математической точки зрения становится проще.

Например, данная траектория с вероятностью 1 будет иметь типичное поведение, со всеми присущими ей хаотическими свойствами, если в системе есть перемешивание, то в типичном случае, для типичного значения параметров мы его будем наблюдать и т.п.

Иными словами, вся сложность устройства фазового пространства при этом отображается в пространство параметров, и именно при описании устройства пространства параметров (конечномерного или бесконечномерного), от которых зависит система, нас ждут особенности и трудности, аналогичные тем, с которыми мы сталкивались при рассмотрении индивидуальных систем. Можно сказать, что вся история повторяется, и задача описания параметров, при которых поведение системы будет хаотическим, становится бесконечно сложным.

>> "Not knowing creates a loophole for pure randomness"

Совершенно согласен

>> "that randomness is not the property of reality but of models of reality"

Кажется, это называется the Bayesian interpretation of probability. Ханс (и некоторые другие) считает главной причиной путаницы с "интерпретацией квантовой механики" именно неразличение частоты (которая есть характеристика физической Вселенной) и вероятности (которая есть некоторое высказывание о физической Вселенной).

Мало было почему-то помянуто следующее занятное явление: классические траектории, конечно же, расходятся экспоненциально в хаотической системе, а вот добавление малой поправки к начальной волновой функции какой угодно системы гарантировано мало скажется на волновой функции через большое время (из-за унитарности оператора эволюции). Как про это правильно думать я не совсем понимаю, в каком-то смысле дело в том, что волновые функции содержат вклад от всех траекторий, в том числе и от убегающих, и малое изменение волновой функции поэтому не очень существенно. То, что остается от классического хаоса в волновых функциях, это, насколько я понимаю, "шрамы" волновй функции, т.е. особенности волновых функций вблизи классических нестабильных траекторий.

Слово "типичный" часто употребляется в ситуации, когда некоторое множество можно разделить на две части -- "большое", которое содержит "почти все", и остаток, который пренебрежимо мал в некотором смысле. Например, в пространстве с мерой множество полной меры и его дополнение, множество нулевой меры. Элемент большого множества в этом случае часто называют "типичным". Такое словоупотребление удобно в том случае, когда нужно не просто сделать утверждение о некотором элементе, а использовать его в некоторой дальнейшей конструкции. Например, всякие свойства знаков в разложении вещественных чисел. Одно из них такое: для почти всякой точки из единичного отрезка частота нулей и единиц в ее двоичном разложении одна и та же и равна 1/2. Можно поставить вопрос, как для таких точек ведут себя длины последовательных серий нулей и единиц их двоичного разложения. Понятно, что при изучении этого вопроса я хочу ограничиться точками из указанного множества полной меры и не рассматривать точки с "неправильной" статистикой нулей и единиц. Но не могу же я сказать "возьмем почти любую точку x". Это как-то вообще не по-русски звучит. Лучше сказать "пусть x - типичная точка (в указанном выше смысле), тогда..." или "возьмем типичную точку x и введем следующие обозначения". Таким образом, когда речь идет о типичной (в метрическом смысле) точке, то мы всегда подразумеваем, что она взята из описанного нами множества полной меры, то есть не принадлежит исключительному множеству нулевой меры. Иногда в процессе рассуждений или в процессе конструкции множества меры нуль приходится выбрасывать несколько раз, или даже счетное число раз. При этом понятие "типичный" по ходу дела меняется: каждый раз, когда мы выбросили очередное множество меры нуль, мы неявно добавляем предположение, что выбранный нами элемент в это множество не входит. Таким образом, он "типичен", то есть для него выполнены все сделанные нами предположения, которые, как мы знаем, выполняются на множестве полной меры.

Рассмотрим теперь бесконечную серию бросаний монеты. До того, как монета брошена, мы не знаем, какую последовательность мы получим. Пространство исходов этого эксперимента есть пространство двоичных последовательностей {0,1}^\naturals. Бросая монету счетное число раз, мы получаем некоторую конкретную двоичную последовательность, элемент нашего пространства {0,1}^\naturals, или, говоря вероятностным языком, конкретную реализацию испытаний Бернулли. Некоторые из реализаций испытаний Бернулли - периодические, некоторые - нет. Если на пространстве реализаций задать меру, являющуюся прямым произведением равномерных нормированных мер на сомножителях, множествах {0,1}, то, как несложно понять, периодические последовательности образуют множество нулевой меры. Тем самым можно сказать, что почти всякая реализация испытаний Бернулли апериодична. Иными словами, типичная реализация испытаний Бернулли апериодична. Более того, я, говоря о типичной реализации подразумеваю, что она удовлетворяет счетному числу куда более сильных условий, говоря, что в типичной последовтельности не только нули и единицы, но и их всевозможные конечные группы имеют "правильную" статистику.

Частотное определение случайности дать несложно. Бесконечная двоичная последовательность называется статистически случайной, если всякая конечная двоичная последовательность a_1, a_2, ... a_k встречается в ней с частотой 1/2^k. Если на пространстве всех двоичных последовательностей рассмотреть меру Бернулли, описанную выше, то типичная (почти всякая по этой мере) последовательность оказывается статистически случайной.