Британская исследовательская организация Say No To Disinfo в сотрудничестве со специалистом по коммуникациям Фенимором Харпером смоделировала дезинформационную кампанию, управляемую искусственным интеллектом. В ее рамках 500 клиентов различных банков в Великобритании столкнулись с порожденными ИИ «слухами» о проблемах своего финансового учреждения.

Цель моделирования заключалась в том, чтобы выяснить, может ли распространение фейковых новостей с помощью генеративного ИИ, спровоцировать в будущем массовое изъятие денег вкладчиками, как это произошло с банком Silicon Valley Bank в США. Результаты исследования свидетельствуют о потенциальной угрозе, исходящей от искусственного интеллекта в этой области.

—

— Чуть более 33% респондентов оценили эти действия как «очень вероятные», а еще 27% – как «вероятные».

— Вложения 10 фунтов стерлингов (около 13 долл.) в создание искусственным интеллектом соответствующего контента может оказаться достаточно для «перемещения» активов стоимостью в миллион фунтов стерлингов.

Распространение дезинформации авторы исследования осуществляли прежде всего через X (Twitter). С учетом того, насколько быстро, легко и недорого могут быть организованы кампании подобного рода, финансовый сектор должен быть готов к такому развитию событий. Но нужные специалисты в банках зачастую оказываются в дефиците. Определением уровня доверия клиентов, выявлением мошеннических действий и проведением соответствующих учений финансовые учреждения занимаются скорее в рамках реакции на происходящее, чем в целях профилактики. По мнению авторов исследования, банки, концентрирующиеся на киберугрозах и пренебрегающие «рисками, связанными с операциями влияния», создают критическую брешь в общей системе безопасности.