В финансовой и ряде других отраслей принят механизм, получивший название «знай своего клиента» (KYC). Он предусматривает подтверждение личности клиента при открытии счета и периодическую проверку в дальнейшем. При этом клиент обычно предоставляет различные документы, подтверждающие, что он тот, за кого себя выдает. Но из-за способности генеративного искусственного интеллекта, использующего большие языковые модели (LLM), создавать весьма убедительные поддельные электронные копии документов, руководители служб безопасности уже начинают задумываться над тем, как механизм KYC должен действовать мире генеративного ИИ. Единственным способом проверки представленных в электронном виде документов остается сверка с официальными базами данных, что требует взаимодействия с государственными системами или обмена данными между компаниями. Во многих случаях это затруднено или противоречит законам о защите личных данных.

Еще опаснее то, что генеративный ИИ способен создавать подделки быстро и в большом количестве; а кроме того, он может создавать целые фальшивые личности со страницами в социальных сетях.

Процедуры KYC должны будут основываться на более сложных процессах проверки личности на основе искусственного интеллекта с использованием систем обнаружения подделок. К сожалению, даже лучшие из современных систем не полностью надежны.

Способы аутентификации с использованием биометрии с проверкой реальности личности и анализа поведения могут применяться для борьбы с мошенничеством с использованием LLM. Однако большинство из них ориентировано на проверку совпадения личности пользователя с уже известным клиентом и их нельзя применить при работе с новыми клиентами. Впрочем, существуют также методы анализа поведения, не опирающиеся на прошлые данные — например, использующие особенности набора текста на клавиатуре.

Еще одной проблемой является отсутствие в современных бизнес-моделях стимулов для тщательного выявления обхода средств KYC, отмечают эксперты. Они ориентированы на быстрое проведение операций с клиентами, несмотря на опасность мошенничества.