Искусственный интеллект, технологии Интернета вещей, программные и аппаратные роботы в сочетании с другими современными средствами автоматизации открыли путь к созданию автономных процессов — полностью автоматических, подолгу работающих без вмешательства человека. Такие процессы можно выстроить и в офисах, и на производствах. О рисках, с которыми приходится сталкиваться в ходе создания, внедрения и использования автономных процессов, рассказывают эксперты, планирующие участвовать в конференции «Автоматизация процессов».

По мнению опрошенных нами коллег, основными рисками перехода к автономным процессам являются различные иллюзии и неверные, а потому напрасные ожидания.

Сергей Редько: «Главный риск — иллюзия автономности. Нейросети и ИИ-сервисы пока не способны полностью заменить человеческое суждение в нестандартных ситуациях»

Так, Сергей Редько, коммерческий директор компании «Айсорс», отмечает, что устойчивый результат в цифровой трансформации достигается при разумном балансе между технологиями и человеческой экспертизой. «Интеллектуальные сервисы уже сегодня способны существенно “усиливать” операционные процессы, особенно в задачах с высокой повторяемостью. Однако в нестандартных ситуациях именно человеческое суждение остается ключевым фактором принятия решений. Поэтому важно не противопоставлять технологии и людей, а выстраивать синергию, чтобы специалисты работали в связке с современными системами, “усиливая” друг друга, — поясняет он. — Такой подход позволяет не только сохранять управляемость в сложных условиях, но и формировать устойчивые команды, способные адаптироваться к быстро меняющимся требованиям бизнеса».

Игорь Клопотов: «Есть риск напрасных ожиданий, когда ИИ-агенты не смогут стать по-настоящему массовыми»

Игорь Клопотов, менеджер компании «Хоулмонт» по продукту OpenBPM Platform, продолжает: «Идея независимости от имеющихся трудовых ресурсов при переходе к автономным процессам выглядит весьма заманчивой. Ровно такой же заманчивой, какой в свое время выглядела идея перехода к микросервисной архитектуре и использования контейнерных сред исполнения. Но все имеет свою цену, и экономический эффект достигается не просто в результате применения технологий, а благодаря их удачному сочетанию с правильно выбранным масштабом применения, качеством данных, уровнем развития интеграционного слоя, способностью к дальнейшему развитию и адаптации под меняющиеся требования. Следовательно, есть риск напрасных ожиданий, когда ИИ-агенты не смогут стать по-настоящему массовыми, а доля автономных процессов будет расти достаточно медленно. Кроме того, вызывает опасения зрелось технологий для ИИ-агентов — у нас пока еще очень мало полностью российских моделей, их буквально единицы. И здесь в полной мере проявляются риски технологического суверенитета».

Светлана Кузнецова: «Считаю наиболее актуальным риском переоценку возможностей технологий»

Светлана Кузнецова, руководитель направления бизнес-автоматизации компании SimbirSoft, в качестве наиболее актуального риска выделяет переоценку возможностей технологий: «Некоторые руководители ждут, что автономность решит все проблемы, но забывают, что даже самые продвинутые технологии — это лишь инструмент. Важен человеческий фундамент, важно, чтобы были продуманы процессы и обучены команды. Мы как-то были свидетелями ситуации, когда на автоматизированном складе одной из компаний сотрудники продолжали вручную пересчитывать товары — просто потому, что не доверяли внедренным инструментам. Технологии решают проблемы только в тандеме с людьми».

Игорь Простоквашин: «Среди наиболее критичных рисков — противодействие со стороны сотрудников»

Игорь Простоквашин, ведущий аналитик компании Comindware, видит целый комплекс рисков: «Среди наиболее критичных — противодействие со стороны сотрудников, которые воспринимают автоматизацию как угрозу своим рабочим местам. Это может проявляться в затягивании предоставления информации о процессах, намеренном усложнении правил или даже саботаже. Другой серьезный риск — неполное или некорректное описание процессов при их моделировании. В большинстве организаций значительная часть знаний о тонкостях выполнения процессов никак не формализована. При автоматизации эти аспекты могут быть утрачены, что приведет к снижению качества или полной неработоспособности процесса, особенно это касается обработки исключений. Также нельзя сбрасывать со счетов технологические риски, вызванные интеграционными проблемами, отсутствием единых стандартов данных, недостаточной производительностью инфраструктуры, проблемы с масштабированием и пр. Есть и финансовые риски: классическая проблема превышения бюджета и сроков внедрения, недостаточно корректная оценка совокупной стоимости владения решением (TCO), риск не выйти на прогнозируемый экономический эффект из-за неполной автоматизации или сохранения дублирующих ручных операций. Отдельно стоит выделить риск чрезмерной жесткости автоматизированных процессов: стремление зафиксировать все варианты и исключения может привести к созданию негибких, громоздких, трудно поддерживаемых систем. Нельзя не упомянуть и о рисках, связанных с управлением изменениями: недостаточное обучение персонала, отсутствие информирования о целях автоматизации, проблемы с поддержкой пользователей на начальном этапе — все это может привести к отторжению даже технически совершенного решения. Опыт показывает, что на программы обучения и адаптации следует закладывать не менее 15–20% бюджета проекта автоматизации. Особое внимание следует обратить на риск фрагментарности автоматизации и слабого межпроцессного взаимодействия. В этом случае эффективность локальных операций повышается, но общая производительность бизнеса растет незначительно. Для минимизации этого риска необходимо изначально проектировать выстраивание сквозных бизнес-процессов. Также критически важно учитывать регуляторные риски, особенно в финансовом и телекоммуникационном секторах и здравоохранении. Управление рисками требует комплексного подхода, включающего тщательное планирование, поэтапное внедрение, регулярный мониторинг и готовность оперативно корректировать курс».

Константин Артемьев: «Рекомендуем обратить особое внимание на ошибки людей в технических заданиях на создание роботов»

Константин Артемьев, генеральный директор Sherpa Robotics, предлагает сделать особый акцент на ошибки, допускаемые людьми в технических заданиях на создание роботов, а также на сопротивление нововведениям со стороны сотрудников. Кроме того, важно учесть риски, связанные с появлением новых типов сбоев, с которыми компании ранее не сталкивались, и на сложности с юридической квалификацией ответственности за сбои и причинение вреда. «Но все эти риски при правильном управлении проектом внедрения можно скорректировать еще на этапе планирования», — добавляет Артемьев.

Иван Макеенков: «Один из самых важных вопросов — это оценка экономической эффективности автономных процессов»

Иван Макеенков, заместитель генерального директора компании CSBI, и некоторые другие его коллеги особо отмечают риски экономического характера: «Один из самых важных вопросов — это оценка экономической эффективности автономных процессов. Сложность в том, что нужно учесть не только прямые и косвенные затраты на внедрение и эксплуатацию, но и потенциальные риски, связанные с быстрыми изменениями в бизнесе, которые могут привести к неожиданным результатам. Необходимо учитывать различные сценарии и разработать планы действий на случай непредвиденных ситуаций. Еще один серьезный риск связан с выбором решения — оно может оказаться недостаточно масштабируемым или негибким, слабо адаптируемым к меняющимся потребностям бизнеса».

Александр Бочкин: «Прежде чем внедрять любые изменения, нужно изучить имеющиеся процессы и выяснить, как они работают»

Александр Бочкин, генеральный директор компании «Инфомаксимум», перечисляет следующие ключевые риски: «Во-первых, затраты на автоматизацию могут превысить ожидаемый экономический эффект. Во-вторых, автономные процессы могут работать с погрешностями. Тем не менее, при правильной настройке ИИ-моделей и механизмов их уровень может быть ниже, чем у человека. Поэтому прежде чем внедрять любые изменения, нужно внимательно изучить и проанализировать имеющиеся процессы и выяснить, как они реально работают».

Сергей Киселев: «Если процессы критичны для бизнеса и цена ошибки в них весьма высока, автономные системы необходимо внедрять особенно осторожно»

Сергей Киселев, генеральный директор компании «Лаборатория ПИИ», тщательно рассматривают и риски, связанные с технологиями: «Если процессы критичны для бизнеса и цена ошибки в них весьма высока, внедрение автономных систем необходимо проводить особенно осторожно. Также следует избегать “лоскутной”, разрозненной автоматизации, поскольку не охваченные единой стратегией проектные инициативы могут породить “зоопарк” решений, который не позволит увидеть целостную картину и не даст быстро адаптироваться к изменениям на рынке. Важно помнить, что проекты внедрения автономных систем не должны ставить целью сокращение персонала, их задача — способствовать повышению производительности труда через грамотное внедрение и переподготовку. И, конечно, необходимо учесть, что процессы могут меняться довольно быстро, ручная формализация и модификация их моделей могут не поспевать за этими изменениями, поэтому необходимо предусмотреть автоматический мониторинг и адаптацию автономных процессов».

Светлана Козлова: «Необходимо учитывать риски, связанные с ошибками алгоритмов и непрозрачностью ИИ-моделей»

Светлана Козлова, руководитель проектов компании «Градум», на первое место ставит риски, связанные с ошибками алгоритмов и непрозрачностью ИИ-моделей, результатом чего становятся некорректные решения, возникающие в первую очередь из-за плохо обученных моделей и смещенных данных. Еще один серьезный риск касается потери контроля над процессами, поскольку сильная автономия систем усложняет вмешательство в процессы со стороны людей и ограничивает гибкость. Ситуация осложняется тем, что системные ошибки в цепочках взаимосвязанных процессов имеют свойство накапливаться. Нельзя также упускать из виду риски кибербезопасности и утечек данных, особенно высокие при использовании внешних сервисов для работы с данными и наличии уязвимостей интеграционных стыковках систем посредством API. Наконец, существенным риском может стать сопротивление персонала, вызванное как опасениями со стороны сотрудников, что руководство заменит людей ИИ-системами, так и банальной неготовностью работать с новыми инструментами. Нельзя исключать и возможность конфликта между традиционными и автономными процессами.

Николай Сосиков: «ИИ-агент выполняет задачи без четкого алгоритма, принимая решения на основе накопленных данных. Это может привести к реализации определенных рисков»

Николай Сосиков, руководитель департамента «Бит.Цифра» компании «Первый бит», предлагает в ходе анализа рисков разобраться, чем ИИ-агенты отличаются от автономных процессов без использования ИИ: «Практически любой процесс можно автоматизировать классическими способами с использованием сложных алгоритмов. (Например, орбитальный корабль “Буран” совершил посадку полностью автономно, используя сложный жесткий алгоритм.) ИИ-агент выполняет задачи без четкого алгоритма, а решения принимает на основе большого объема накопленных данных. Это может привести к реализации двух рисков. Первый — “предвзятость” данных, когда модель обучилась на основе данных, содержащих какие-либо стереотипы и ошибки, в этом случае ИИ-агенты могут принимать неправильные решения. Второй — непрозрачность модели, на базе которой ИИ-агентом принимает решения, этот фактор существенно осложняет исправление ошибок».

Елена Мурашкина: «Сегодня особенно остро встают вопросы кибербезопасности и зависимости от внешних поставщиков технологий»

По наблюдениям Елены Мурашкиной, процессного архитектора «Юникон Бизнес Солюшнс», в проектах перехода к автономным процессам особенно остро встают вопросы кибербезопасности и зависимости от внешних поставщиков технологий: «Неопределенность внешней среды, включая экономическую нестабильность и санкционное давление, повышает риски кибератак и сбоев в цепочках поставок. Дополнительные сложности создает организационное сопротивление изменениям — оно может замедлить реакцию на внешние вызовы или даже парализовать бизнес-процессы. Немаловажен и фактор ненадежных данных — их использование может привести к сбоям алгоритмов и искажению результатов. В совокупности эти риски способны вызвать серьезные финансовые потери и подорвать доверие к внедряемым технологиям».

Рисков, способных существенно повлиять на успех проектов автономизации, действительно, много. Это в очередной раз говорит о важности их анализа и принятия мер для минимизации их воздействия.