Развитие сетей 5G и 6G делает возможным создание обширных киберфизических систем благодаря массовому подключению к Сети всех устройств в мире, имеющих на борту даже самый слабый микропроцессор. При этом каждая фабрика, каждый беспилотный автомобиль действительно смогут «поумнеть» при подключении к облаку. Однако кроме широко обсуждаемых преимуществ всеобщих высокоскоростных коммуникаций: «умный» дом, беспилотные авто, Метавселенная и пр. они открыли для общества ящик Пандоры с новыми проблемами.
Собираемые сенсорами данные размещаются в облаке, что открывает обширное пространство для их намеренного или случайного искажения — реальностью станут ситуации, когда, например, хозяева не смогут впустить гостей в дом, включить свет или закрыть окно. Мало того что весь контроль, обслуживание и эксплуатация киберфизических систем также переезжают в облако. Кроме того, новые изделия или модификации уже существующих перед выводом на рынок тестируются на цифровых двойниках, создаваемых с помощью ИИ, что привело к появлению новой разновидности киберпреступлений — вмешательству в работу систем ИИ с целью проведения манипуляций с наборами обучающих данных. Подобные действия представляют непосредственную угрозу для людей и предприятий, особенно там, где данные — ключевая характеристика цепочек поставок, например, при производстве продуктов питания или лекарств, изменение состава ингредиентов которых может нанести ущерб здоровью, вплоть до гибели пациента, когда речь идет о нарушении работы инсулиновой помпы, влияющей на работоспособность многих зависящих от нее сервисов и устройств.
Незащищенные облачные приложения — главная причина компрометации конфиденциальных данных в условиях постоянного усложнения и увеличения разнообразия ИТ-ландшафта. Для устранения первопричины необходимо предусматривать средства безопасности приложения уже на этапах проектирования его архитектуры, однако здесь имеется немало трудностей и безуспешны любые попытки преодолеть их за счет лишь слегка гибких решений.
Традиционная система программирования почти не оставляет разработчикам времени на обеспечение безопасности, да зачастую они и не обладают нужными знаниями и навыками. Масштабная цифровизация требует молниеносного вывода на рынок новых релизов — в итоге многие приложения и решения часто выходят в продукт в «сыром» небезопасном виде. Проблема усугубляется тем, что для ускорения выпуска очередной версии во многие облачные приложения инкапсулируется открытый код из готовых стандартных модулей — в некоторых случаях доля такого заимствования может достигать 80% всей кодовой базы приложения. Далеко не всегда надежность подобных вставок проверяется должным образом: статический и динамический анализ, тестирование на проникновение и т. п., хотя уже имеются методы обнаружения и анализа уязвимостей на основе машинного обучения, позволяющие освободить программиста для выполнения более творческой работы. Тем не менее до сих пор очень мало исследований, касающихся безопасности облачных приложений.
Метавселенная — гипотетическая итерация развития Сети, поддерживающая работающие в онлайн многомерные виртуальные среды, преподносится сегодня как гибрид онлайн-социального опыта, спроецированного в физический мир. С одной стороны, Метавселенная может стать Интернетом с эффектом погружения в режиме реального времени в проблему или проект — своеобразной «нирваной» для бизнеса, коммерции и розничной торговли, местом получения ими прибыли. С другой стороны, Метавселенная будет существовать не только на экранах и в гаджетах, а начнет «вплетаться» в реальную жизнь. Появятся точки соприкосновения виртуального и физического миров, что потенциально может привести к Метатоксичности, заменяющей человеческие отношения и опыт выводами и рекомендациями, сделанными искусственной нейронной сетью. Сложная человеческая жизнь сведется к потоку красиво упакованных данных, согласованных галлюцинаций, выдаваемых за «расширение возможностей человека». Иначе говоря, речь может идти о заблуждениях и злоупотреблениях на несколько порядков масштабнее, чем присутствующие в современных социальных сетях. Взять хотя бы онлайн-знакомства, построенные на идее алгоритмического подбора потенциальных партнеров на основе заданных атрибутов (рост, возраст, образование, доход и пр.) и сулящие подбор «идеальных» кандидатов для «успешного» свидания или последующих отношений, но на деле, в большинстве случаев, рассыпающихся за секунды реального знакомства.
Картинки мира в Метавселенной генерируются алгоритмами — алгоритмическая оптимизация постепенно становится ключевой технологией в борьбе за умы и симпатии подключенных к Сети жителей Земли. Тем более что благодатная почва для такой оптимизации уже подготовлена — современное образование все больше нацелено на обработку уже имеющихся, а не на приобретение новых знаний — катастрофически снижается уровень объективной грамотности и критического мышления.
Конечно, с точки зрения технологий — все это весьма увлекательно, и, безусловно, подобные новшества будут экспоненциально развиваться, независимо от тревог на их счет. Однако в ящике Пандоры имеется еще много серьезных редукционистских «инноваций», сопровождаемых новыми реальными проблемами для человечества в виде смешения с реальной жизнью причудливых симуляций (в том числе в виде фальшивых мультимедиа) и хитроумного алгоритмического контента, а пристрастие к мобильным устройствам и сервисам в реальном времени будет лишь экспоненциально усиливать влияние Метавселенной.
.jpg)
Да, мир изменился с тех пор, как все вокруг стало цифровым, — сегодня мы действительно находимся в точке поворота экспоненциальных изменений. Однако технологии экспоненциальны, а вот люди — нет. Из Метавселенной счастье не скачаешь. Принимая технологии, не следует ими становиться, заселяя мир «искусственными людьми».
Дмитрий Волков
DOI: 10.51793/OS.2022.33.39.001
