Многим сегодня очень хочется качественных изменений в ИТ-индустрии, создающих новые степени свободы, однако рисковать соответствующим образом никто не хочет и получается: «Да здравствует любая инноватика, но в рамках наших стандартов и наших представлений о том, что возможно!». Те, кто по каким-то причинам готов рискнуть, никак не могут решить, каким именно еще неизвестным способом это сделать. Наверное, Роберт Шекли здесь помог бы.
Что же мешает сделать нечто новое? Призыв «Не будем думать по-старому!» мало поможет — мысль, даже хорошенько разболтанная очередным мозговым штурмом, привычно скатывается к уже имеющемуся. В лучшем случае, к новой комбинации старых функций, к новому набору кнопок и опций, которые не выходят за рамки уже сложившихся подходов в системе человек/компьютер. А ведь для того, чтобы сделать качественный скачок, надо сначала сильно удивиться и обнаружить в привычном порядке вещей нечто противоречивое и непонятное — многие крупные открытия в науке и технике делались именно так. И самый простой способ удивиться — найти противоречие, обнаружить пропасть там, где все кажется гладким и накатанным. Следующая Большая Штука — это то, что закрывает разрыв. Самолет стал решением противоречия: машина должна быть тяжелее воздуха и не падать. Винт Архимеда — передача движения в каком-то направлении без перемещения передатчика в этом направлении. Давайте попробуем найти хотя бы несколько противоречий в сложившейся системе «человек — компьютер — Сеть».
Два типа автоматизации
Первый тип автоматизации выражен в идее искусственного интеллекта как автономного мыслящего робота.
Речь идет о замещении человека. Современная шахматная компьютерная программа обыгрывает чемпиона мира — на стороне программы колоссальные объем памяти и быстродействие, а разработчиками заложены в нее образцы ведения партий и эвристики, «скопированные» со множества поединков реальных шахматистов.
Такие философские понятия, как «объективация», «перенос» и «отчуждение», очень активно использовалась разного рода идеологами, для того чтобы показать суть отношений между работниками и хозяевами, трудом и капиталом. Можно использовать эти термины и для обсуждения взаимодействия человека и компьютера. Интеллектуальное творчество человека (шахматистов, военачальников, конструкторов, менеджеров, аналитиков и т.д.) находит свое внешнее, «объективированное» выражение в вариантах принятых ими решений и действий. Эти варианты, а также все возможные их сочетания, как готовое дерево возможностей переносится разработчиками в варианты алгоритмических действий роботов. Именно в виде алгоритмов и их комбинаций происходит «отчуждение» человеческого интеллекта от автомата. Отдельный человек ограничен в своих возможностях: ему трудно за время своей жизни обогатиться «…знанием всех тех богатств, которые выработало человечество...», и в реальной ситуации в сжатые сроки предусмотреть и все просчитать, а ИТ предоставляет практически неограниченный резервуар, в который можно «закачивать» отчужденный интеллект многих людей, например, всех шахматных чемпионов за всю историю шахмат. Не вызывает сомнений, что в конечном счете этот «аккумулятор интеллекта» пересилит даже самого одаренного, традиционно подготовленного шахматного мастера, который, правда, заведомо не будет делать «глупых» ходов.
У Шекли есть рассказ о войне землян с космической флотилией жителей другой галактики. Все варианты боевых взаимодействий просчитывались боевыми машинами с обеих сторон, и уже на исходной позиции было вроде ясно, что земляне обречены на поражение. Но прилетевший с Земли представитель власти, отнюдь не военный, отстранил военачальников, начал бой абсурдными действиями и выиграл сражение. Когда земляне уже уничтожили 80% флота противника, боевая счетная машина инопланетян все еще тщетно пыталась подвести возникшую комбинацию под любую из хранящихся в ее памяти.
Имеется тенденция считать, что абсурд и спонтанность — чуть ли не единственный отличительный признак мышления человека, в отличие от алгоритмической, шаблонной работы машины. Таковы по своей сути рассуждения, например, физика Роджера Пенроуза, написавшего много книг про интеллект и компьютер. Идея о том, что наш интеллект порождает принципиально новое только за счет «спонтанности или абсурда» — это логичный итог, к которому приходит человек при встрече с механизированным интеллектуальным трудом. Человек «отчуждает» свой интеллект в машину и смотрится в этот объект, как в зеркало, но, конечно же, не хочет себя там узнавать. В мысленном споре с этим чуждым «Големом» (так называл кибернетические системы отец кибернетики Норберт Винер) человек замечает, что Голем действует по шаблону и не может выйти за пределы алгоритма. Тогда человек приписывает своему мышлению противоположные качества — спонтанность и абсурдность.
Это довольно странный эффект взаимодействия человека и ИТ. Во всей истории логики и философии лишь некоторые мыслители считали, что суть творческого, не алгоритмизированного, мышления состоит в абсурде и спонтанности. Да и сам компьютер создавался мышлением явно не шаблонным и вовсе не абсурдным.
Но все это лишь только «метафизика», загадки мышления. На практике же часто выясняется, что человек просто не может доверять автомату, который по набору алгоритмов и объему данных во много раз мощнее самого человека. Из бесед, например, с брокерами о том, какая автоматизация им нужна, выяснилось, что вроде бы нужна мощная поисково-аналитическая экспертная система, строящая максимально полную и достоверную картину ситуации на рынке. Однако именно такая компьютерная программа брокеру и не нужна?— человек не сможет контролировать, как именно ведется поиск информации и как строятся аналитические выводы. Для принятия ответственных решений человеку нужен абсолютно подконтрольный, прозрачный процесс обработки информации. С этой точки зрения простые поисковые машины, вроде «Яндекса» или Google, логика которых понятна даже школьнику, предпочтительнее любого семантического поиска. Человеку нужны средства усиления его интеллекта, нужна мощная экспертная система, но принцип работы именно такой системы будет неясным для пользователя. Как шутят разработчики экспертных систем, «надо продавать две системы: одна будет делать работу, а вторая готовить правдоподобные пояснения к результатам работы первой». С точки зрения системного разрешения противоречия, это решение самого низкого уровня.
Итак, первый набор противоречий таков:
-
Для повышения эффективности решения интеллектуальных задач человеку выгодно отчуждать интеллект в виде огромного набора алгоритмов, сложных правил обработки и использовать автоматы, но человек не может допустить отчуждение интеллектуальных функций при принятии ответственных решений, где ему как раз и нужна помощь.
-
Машина должна работать сложно, иначе человек и сам может все сделать. Машина не должна работать сложно, иначе человек ей не доверяет.
-
Человеку нужен одновременно и максимально и минимально интеллектуальный робот.
-
Машина должна работать сама, но ответственный человек ни в коем случае не согласится, чтобы она работала сама.
Второй тип автоматизации связан с использованием ИТ в качестве удобного носителя знаков. При этом компьютер не заменяет человека, а является лишь орудием. Сотрудник МТИ Джозеф Вейценбаум когда-то ввел термин «машина-протез» — когда человек едет на велосипеде, его мускульное усилие трансформируется в движение колес, и при этом человек так сливается со своим «конем», что перестает его замечать. Будучи посредником между человеком и производимым эффектом, машина становится как бы прозрачной, незаметной, и человек как будто действует сам. Например, компьютер с принтером — удобный посредник потому, что не отчуждает от человека само производство текста. Однако всем очевидно, что при этом мы имеем огромную дельту, «довесок», принципиально меняющий качество труда: возможности редактирования, копирования, печати в любом числе экземпляров, хранения, автоматической обработки, пересылки по почте и т.п.
Мышление человека движется в знаках, причем любой природы: текстах, схемах, звуках, операциях и действиях. А цифровая электроника стала уникальным и универсальным носителем любых знаков, всеобщей «знаковой подложкой», «знаковой средой». Электронные системы берут на себя роль только материального носителя знаков, оставляя их смысл и интерпретацию человеку. Тем самым в этом типе автоматизации мышление не отчуждается от человека, а лишь оснащается удобным инструментом. По-видимому, предыдущий парадокс «машина должна работать сама, и нельзя, чтобы она работала сама» здесь разрешен: человек полностью контролирует процесс, а машина только делает более мощными действия человека.
Но здесь мы быстро попадаем в другой разрыв! Ведь не все операции со знаками требуют семантики. Компьютер будет прекрасно хранить, передавать, сортировать, сравнивать друг с другом слова в качестве элементов, не придавая им смысла. Из-за того, что машина может быстро формально работать со знаками, возник лавинообразный рост информации в системе «человек — компьютер— Сеть». Соответственно выросло и число тех моментов, когда без семантики знаков, без осмысления хотя бы части бит информации интеллектом не обойтись. Норберт Винер говорил, что сила, но и страшная слабость кибернетического Голема в том, что он все понимает буквально, то есть не по смыслу. Основатель кибернетики считал, что в системе «человек–машина» ни в коем случае нельзя отдавать на откуп машине те решения, где потенциально может понадобится работа со смыслом элемента, где может проявиться новый, дополнительный смысл.
Так действительно ли компьютеры служат нам службу, предоставляя удобный носитель знаков? Все наоборот! Это человек восполняет во вездесущих нынче ИТ их маленький недостаток — неспособность понимать знаки по смыслу. И вот сидит какой-то индус и зарабатывает свой хлеб тем, что вбивает на сайтах кодовые слова, изображение которых не может быть распознано автоматически. Всего лишь для того, чтобы открыть дорогу роботу, который проникнет на сайт. А русский дизайнер вручную перекрашивает тысячи костюмов и платьев на фотографиях для электронного каталога дома моделей, потому что программа это сделает не так аккуратно и, возможно даже, не так дешево, как человек. Набирающие популярность социальные сети, и очень перспективная технология семантических сетей столкнутся с проблемой того, что огромный, лавинообразно растущий объем знаков в Сети потребует автоматической обработки. Но без восстановления смысла этих знаков такая обработка невозможна.
С этим связан второй набор противоречий.
-
Компьютеры должны быть только удобным материалом-носителем знаков, полностью отдавая на откуп человеку смысл этих знаков и полноценную работу. Именно в качестве «знаковой подложки» компьютеры обеспечивают всю сферу интеллектуальной деятельности человека. Это приводит к такому росту информации, что невозможно обойтись без автоматической ее обработки. А подобная обработка требует восстановления смысла знаков, на что машина не способна.
-
Компьютер должен помогать чисто технически в работе с массивами информации. И наоборот, человек оказывается техническим придатком программы в деле обработки информации.
Суперпозиция базовых типов
Имеющиеся на ИТ-рынке системы можно рассматривать как определенную суперпозицию выделенных типов автоматизации — с замещением человека и с «усилением» человека. Например, CRM. Смысл работы менеджера остается за менеджером, а ИТ-система задает определенный формальный шаблон, внутри которого, по замыслу разработчиков, удобно упакована менеджерская работа.
Проблема в том, что деятельность в таких системах редуцируется до выполнения процедур, прописанных в системе. Менеджер при работе собственно с системой, уже не столько решает задачу, исходя из своего видения обстановки и цели, сколько выполняет процедуры, предписанные формализмом системы! Это хорошо видно на простейшем примере автоматизации работы в жилищно-коммунальной конторе. Здесь работник уже не взаимодействует с реальной ситуацией жильцов, а четко выполняет алгоритмы, заложенные программистом в автоматизацию его деятельности. Казалось бы, эти программные системы не брали на себя функцию заменить людей роботами, а были предназначены стать только инструментом, оптимизирующим человеческую деятельность. На деле оказалось, что программы, задавая определенный замкнутый набор вариантов и процедур, вводят самих людей в то состояние роботов, над которым иронизировал Шекли!
Не по шаблону машина работать не сможет. Но эти шаблоны самим фактом своего существования уже заранее задают рамки действий человека, детерминируя круг задач, которые человек может ставить, и варианты решений, которые он может реализовать. Решения же, получаемые без помощи машины, вне внедренной в деятельность автоматизации, не усиливаются, а иногда даже «зарубаются» ИТ-системой.
Сформулируем третье противоречие: человек пользуется машиной, чтобы усилить свой интеллект, однако чтобы усилить свой интеллект машиной, он должен свести его к стандарту машины, который заведомо слабее человеческого интеллекта.
Что же делать?
Напомним, что парадоксы автоматизации нам нужны не сами по себе, а как средство для поиска функций следующей Большой Штуки. Мы понимаем, что выделенные здесь противоречия совершенно ничего не значат для директора фирмы, в которой внедрена автоматизация бизнес-процессов. Директору менее всего интересно думать о том, что сама эта автоматизация несет в себе внутренние противоречия. Рынок ИТ уже сформировал определенные потребности, и пользователи/заказчики думают о том, что они могут хотеть, в рамках уже заложенных стандартов. Причем чем более продвинут пользователь, тем более адекватен он существующему программному обеспечению. А программист адекватен существующей парадигме ИТ по определению.
Может быть, именно поэтому западные корпорации и выискивают фантастов для проектирования принципиально нового функционала и нового интерфейса будущих программных систем?
В истории открытий часто бывает, что когда следующая Большая Штука готова и демонстрируется, ее не замечают. Чтобы оценить только что появившееся изобретение, надо пройти через точку удивления, иначе совсем неясно, что эта «штука» решает и каким образом. Так, попытка запатентовать лазер провалилась в 1951 году, поскольку его идею сочли неосуществимой; решение было пересмотрено только в 1964 году. В 1875 году человека, пытавшегося взять в банке кредит на реализацию идеи телефона, сочли аферистом и арестовали: идея передачи голоса по проводу была признана невозможной, а если и возможной, то полностью бесполезной. Телефон был запатентован через год.
Мы полагаем, что критерий для оценки новой «штуки» таков — будучи построена как решение какого-то парадокса в деятельности, она должна быть чрезвычайно практична.
Так в чем же будет состоять следующий шаг? Какой-то совершенно иной тип отчуждения знаний, мышления? Не передача алгоритмов машине? Совместное с машиной порождение вариантов решения задач? Особый диалоговый режим, идущий не по шаблонам, заложенным заранее программистом, а формируемый самим пользователем с помощью данных, имеющихся в машине? Может быть, нужен просто принципиально новый интерфейс, чтобы человек удобно работал с семантикой огромных объемов информации? Но какой? Должна ли Большая Штука быть большой по размеру и функционалу? Или решение может выглядеть внешне совсем неприметно, — например, всего лишь новая карточка в уже существующий компьютер? Чтобы увидеть решение, нужно еще поискать противоречия в существующей системе «человек-компьютер-Сеть». Мы ведь далеко не все разобрали, например, осталась за кадром такая огромная «священная корова» Сети, как коммуникация. Мы предлагаем читателю самому поискать аргументы в пользу двух совершенно противоположных, но одновременно бытующих в Сети точек зрения:
Коммуникации в сети нет, есть только пустая болтовня или краткий обмен информацией по уже хорошо известным собеседникам вопросам, обсужденным оффлайн.
Вся сеть уже полна продуктивной коммуникацией, а внедрение видеоконференций вообще сотрет все границы для организации совместной деятельности коллективов людей.
***
Вряд ли мы сообщили читателю что-то новое об ИТ. Однако мы постарались по-новому расставить акценты, подчеркнув то, что нужно для дальнейшего исследования. Надеемся, что, вскрыв максимально полный набор существующих разрывов и противоречий в системе «человек — компьютер— Сеть», мы организованно, а не спонтанно перестанем думать по-старому и перейдем к конструктивному формулированию ответа на вопрос «Какова будет следующая Большая Штука?».
Анна Елашкина (elashkina@noolab.ru) , Александр Нечипоренко (theor@noolab.ru ) — сотрудники компании «НооЛаб» (Новосибирск).
