Big Data 2014: Быстрые Данные

Ринат Гимранов: «Бизнес требует управления в реальном времени»

Если участников первого форума волновал вопрос «Что такое Большие Данные?», то через год им хотелось знать, как на практике реализовать проект. Сейчас же, по мнению участников форума «Big Data 2014: Взгляните на данные как на большие», прошедшего 20 марта, компании все больше интересуются появившимся опытом, чтобы избежать собственных ошибок.

Основной темой практически всех выступлений на форуме стал анализ данных в реальном времени. Это отнюдь не случайно: именно данная концепция является актуальной для многих отраслей, позволяя решить массу задач – от взаимодействия с клиентами до повышения операционной эффективности.

«Представьте себе, что через лобовое стекло машины вы видите дорожную ситуацию, актуальную несколько часов назад. Страшно? А ведь именно так мы привыкли управлять бизнесом», — подчеркнул Ринат Гимранов, начальник управления ИТ «Сургутнефтегаза». Как известно, в традиционных СУБД существует узкое место: обмен между приложением и базой данных. Именно на этом этапе возникают проблемы, связанные с производительностью управленческих систем. Обойтись без этого этапа позволяют технологии обработки данных в оперативной памяти. Не случайно нефтяники из Сургута в 2012 году одними из первых рискнули перейти на новую платформу SAP HANA.

В «Сургутнефтегазе» данные из ERP в реальном времени передаются в СУБД HANA. Это стало реальной инновацией, благодаря которой удалось на порядки сократить основные параметры обработки информации и попутно упростить архитектуру информационных систем. Как уточнил Гимранов, в компании функционирует 29 приложений SAP, и появление резидентных технологий позволило обслуживать их с помощью единой СУБД.

«В обозримом будущем системы, работающие с Большими Данными, будут сосуществовать в корпоративном ландшафте с традиционными решениями», — констатировал Илья Гершанов, руководитель направления «Большие Данные» компании Informatica. Таким образом, отказываться от созданной инфраструктуры и делать ставку только на Большие Данные не стоит.

Технологии, собирающиеся под брендом Big Data, переживают этапы жизненного цикла, традиционные для всех ИТ-решений. Уже есть многочисленные поставщики и первые успешные проекты. В ближайшем же будущем ожидается консолидация рынка, появление разочарованных заказчиков и негативных публикаций; при этом технология будет внедрена у 5% потенциальных пользователей. Лишь за этим пойдет планомерное развитие рынка. Основные проблемы будущих проектов, по мнению Гершанова, будут связаны с недооценкой рисков.

«Зачем нужна аналитика в реальном времени? В первую очередь это сокращение рисков в условиях быстро меняющегося рынка и повышение адекватности принимаемых решений», — заявил Сергей Знаменский, ведущий консультант по продуктам HP. Он отметил, что в ряде случаев платформа HP Vertica выигрывает в производительности по сравнению с более раскрученной SAP HANA.

Сейчас уже успело накопиться довольно много примеров эффективного использования заказчиками таких систем. Например, разработчик сетевых игр Zynga анализирует буквально каждый клик, сделанный клиентами, выясняя их предпочтения, BitBank использует систему обнаружения мошенничества, а Yota анализирует использование сетевых ресурсов.

Про обработку данных в реальном времени говорил и Шон Оуэн, директор по Data Science компании Cloudera. Для успеха подобных проектов крайне важно интегрировать технологии Больших Данных в операционную деятельность компаний. По мнению Оуэна, уже в 2014 году в реализуемых проектах произойдет переход «от лабораторий к заводам». Анализ данных станет осуществляться в промышленных масштабах, и операционная аналитика будет вплетена в деятельность организаций.

Разумеется, при встраивании процессов аналитики в повседневную деятельность компаний крайне важен отраслевой опыт интегратора. «Придя к заказчику, мы стараемся показать свою экспертизу в предметной области, а по возможности – и уже имеющиеся наработки, например, отраслевые модели», — рассказал Сергей Кузнецов, директор по технологиям Дивизиона данных IBS. Справедливости ради следует уточнить, что в большинстве случаев отраслевая модель для конкретной компании не подходит. На рынке по-прежнему доминируют уникальные разработки.

Изменение парадигмы

Как отметил Сергей Лихарев, руководитель по развитию бизнеса IBM Big Data, практически во всех отраслях наблюдается смещение парадигмы работы с данными. Данных становится больше, чем человек способен обработать, они требуют различных подходов, не известных заранее и зависящих от типа данных. Наконец, пользователи не желают ждать и требуют мгновенного ответа на свои запросы.

Когда ценность данных неочевидна, необходимость их обработки, очистки и хранения тоже вызывает сомнения. Поэтому особую важность приобретает обработка данных в реальном времени, в момент их поступления. И именно она помогает решить многие проблемы, связанные со взаимодействием.

Александр Ермаков, ведущий консультант EMC Pivotal, рассказал о возможностях обработки Больших Данных на мощностях внешнего поставщика облачных сервисов с помощью платформы Cloud Foundry. По его мнению, рано или поздно при развитии инфраструктуры Больших Данных инфраструктура становится весьма сложной. Облако представляет собой яркий пример ухода от сложной инфраструктуры, порождая модель BigData-as-a-Service.

«Сейчас к Большим Данным наблюдается скорее интерес, если не сказать 'любопытство', чем реальная востребованность», — признала Ольга Горчинская, директор по исследовательским проектам компании ФОРС. В частности в компании реализовали далеко не все внутренние возможности по использованию корпоративных данных, чтобы заниматься внешними источниками.

Большие Данные – это в первую очередь тенденция развития ИТ-отрасли; именно потому раздаются голоса скептиков, утверждающих, что все технологии, позиционируемые как «новые», существовали и прежде. Тем не менее компании начинают анализировать данные, которыми они раньше просто не занимались. Типовым проектом «новой аналитики» становится совместный анализ текстов и реляционных данных. Например, такое расширение состава клиентской аналитики особенно популярно в банках.

О более экзотическом использовании технологий Больших Данных рассказал Иван Гуз, руководитель направления аналитики Avito. Компания использует их для автоматической модерации размещаемых на площадке Avito.ru объявлений. По статистике, примерно 35% из многомиллионного числа публикуемых объявлений блокируется из-за недопустимого контента. Решить эту проблему вручную просто невозможно.

Задача автоматического анализа содержания решается с помощью хранилища данных HP Vertica, куда собирается информация обо всех действиях пользователей (а это 450 млн событий в день), и построенной над ним c использованием инструментария компании Tableu системы бизнес-аналитики. Задержка попадания транзакционных данных в хранилище составляет не более 20 минут: для эффективной работы необходимо, чтобы данные были «горячими».

Стратегия Real-Time Enterprise, заключающаяся в ускорении бизнеса, была принята в Gartner еще в 2002 году. Тогда сами аналитики признавали, что управление на основе информации, получаемой в реальном времени, было недостижимым – к нему можно было лишь стремиться, и то лишь в наиболее ключевых процессах. Сейчас ситуация радикально изменилась, и пришло время Real-Time Enterprise 2.0, позволяющего полностью устранить задержки в обработке информации, причем не только в бизнес-критичных системах. Принцип «сохрани и обработай» изменяется на «обработай и думай, надо ли хранить».

Наибольшее значение для бизнеса эти изменения будут иметь в сегменте систем поддержки принятия решений, где некоторое время наблюдалось затишье. Радикальное ускорение обработки данных позволит реализовывать в системах управления бизнесом принципиально новые модели.