Информационные технологии и вероятностный мир

А. Н. Колмогоров (1903—1987)

Для современных пользователей ПК мышление на основе оценки вероятности какого-либо события совершенно не характерно. Именно поэтому они все чаще заявляют, что «система работает со стопроцентной надежностью» или, ничтоже сумняшеся, меряют вероятности в тех же процентах. Но так было не всегда. Об этом хотелось бы напомнить — не только для того, чтобы заполнить возможные пробелы в знаниях по истории ИТ, но и в связи с юбилеем одного из крупнейших математиков прошлого века, внесшего выдающийся вклад в становление теории информации, что способствовало современному успеху технологий. Речь об Андрее Николаевиче Колмогорове, 100 лет со дня рождения которого исполнилось 25 апреля.

Информационные технологии

На протяжении всего одного века человечество овладело самыми разнообразными технологиями обработки информации. Телефон у многих в кармане или на поясе, радио и телевидение доступны каждому, по национальной программе развивается киберпочта, Сеть опутала континенты, связав их через океаны и космос, появились интеллектуальные дома, умные бытовые приборы — информационное пространство превратилось в среду обитания человека. Но с первых же шагов средства информационных технологий эксплуатировались в условиях воздействия на них помех, а пользователи нуждались в устойчивом функционировании систем и отдельных устройств. Важнейшей заботой разработчиков стала доставка получателю информации, максимально приближенной к той, какую передали из источника. Так, одной из самых распространенных проблем в информационных технологиях уже в середине прошлого века была надежность связи в больших системах, помехозащищенность реальных систем связи. Работа в этом направлении отца теории информации Клода Шеннона привела его в конце сороковых годов к созданию общей модели, в которой местом действия шума является канал, где и сказывается влияние помех на передаваемую информацию.

Надежность, или помехозащищенность, превратилась в одну из важнейших характеристик информационных систем, а ее количественная оценка потребовала серьезного развития методов теории вероятностей. Со временем надежность всякой системы стали рассматривать как функцию, зависящую не только от канальных ошибок в информации, но и от сбоев практически во всех компонентах ее аппаратной части. Переход в конце прошлого века на цифровые технологии в значительной мере связан с возможностью построения на их основе высоконадежных информационных систем. Теперь трудно представить себе сколько-нибудь сложную информационную или управляющую систему, в которой не использовалась бы структурная и информационная избыточность как способ обеспечения необходимой надежности.

Вероятности и информация

С информацией, требующей оценки ее правдоподобия, люди столкнулись довольно давно. Формирование различных количественных способов такой оценки, собственно, и стимулировало создание теории вероятностей. К тридцатым годам математики развили так называемый аксиоматический подход к пониманию вероятности. Ученым, сделавшим в этом направлении завершающий шаг, стал московский математик Андрей Николаевич Колмогоров. В его замечательной книге «Основные понятия теории вероятностей» описано, какие события А рассматривает теория вероятностей и что следует понимать под вероятностью их наступления Р(А). Понимание вероятности как меры случайности события приняло строгие формы и послужило бурному развитию математической теории вероятностей, но не только. Сфера ее применения огромна — от систем массового обслуживания до статистической физики. Так появились различные вероятностные модели шумовых явлений, связанных с процессами, происходящими в электронных приборах, телефонных или других системах связи. Дальнейшие работы А. Н. Колмогорова, посвященные стационарным последовательностям случайных величин, послужили не только для теоретических исследований соответствующего класса процессов, но и для создания важнейших методов их интерполяции и прогнозирования. Эти работы составили весьма важный вклад в развитие теории информации на начальном этапе, а параллельно и в становление кибернетики. Холодная война определила в основном оборонный характер разработки информационных и управляющих систем, поэтому активное подключение ученых к исследованиям по теории информации в нашей стране произошло в первой половине 50-х годов. Практически параллельно с работами А. Я. Хинчина, также замечательного московского математика, А. Н. Колмогоров выполнил ряд исследований по обобщению результатов К. Шеннона, что позволило, опираясь на аксиоматический подход, принятый в теории вероятностей, ввести понятие количества информации в одном событии или процессе относительно другого. Более того, изучение А. Н. Колмогоровым различных способов определения количества информации — комбинаторного, вероятностного и алгоритмического — позволило приступить к логическому анализу самого понятия информации, в частности заключенной в тексте. Под его руководством были выполнены исследования по вычислениям энтропии русской речи для оценки ее «гибкости», т. е. «показателя разветвленности возможностей продолжения речи при заданном словаре и правилах построения фраз».

Примерно в эти же годы под впечатлением бурно развивающейся теории информации А. Н. Колмогоров предпринял пересмотр частотной концепции понятия вероятности, выбрав в качестве объекта таблицы случайных чисел, которые были тогда в широком научном и практическом употреблении. От того, как выбрана длина последовательности случайных чисел или размеры таблицы, зависело качество различных датчиков и даже систем, например криптографических. Предложенное строгое объяснение подходящего выбора таблицы случайных чисел привело в дальнейшем к пониманию алгоритмической сложности и к глубокому толкованию понятия информации и вероятности. Основываясь на том, что «случайность состоит в отсутствии закономерности», А. Н. Колмогорову с помощью понятия сложности конечного объекта удалось строго объяснить выбор случайной последовательности для вычисления вероятности через частоту.

Логический анализ основных понятий теории вероятностей и, разумеется, теории информации привел А. Н. Колмогорова к необходимости формального рассмотрения понятия алгоритма и структур множеств в функциональных пространствах. В частности, были введены оказавшиеся очень полезными во многих разделах математики и приложений понятия e-энтропии и e-емкости множеств, что позволило исследователям изучать наряду со структурой пространств и динамические системы.

Феномен А. Н. Колмогорова

Разумеется, в этой публикации творческий портрет юбиляра представлен далеко не в полный рост, потому что как ученый и человек А. Н. Колмогоров сыграл, несомненно, выдающуюся роль. Его работы, собранные в три тома прижизненного издания, — лишь часть сделанного им. Немногие разделы математики остались незатронуты его вниманием. Будучи активным членом «Лузитании» — студенческого кружка, руководимого академиком Н. Н. Лузиным, он окончил Московский государственный университет, где и проработал до конца своих дней, воспитав плеяду замечательных учеников, посвятивших себя теории вероятностей и другим областям математики. На его кафедре появились первые выпускники, специализировавшиеся на теории информации; многие из них успешно трудились в прикладных областях. Значительные силы А. Н. Колмогоров отдал Академии наук СССР, действительным членом которой он состоял еще с довоенных времен. Он был удостоен многих наград, в том числе Ленинской премии, полученной вместе с В. И. Арнольдом за решение одной из проблем Д. Гильберта, а также премии Бальцано (аналог Нобелевской премии для математиков) за выдающиеся достижения в решении задачи трех тел. Кроме того, мировое научное сообщество почтило его избранием в члены ряда крупнейших академий.

В заключение заметим, что в июне под эгидой РАН и МГУ в Москве состоялась юбилейная конференция, посвященная памяти А. Н. Колмогорова.