Специалисты по безопасности выражают опасения в связи с тем, что злоумышленники могут начать пользоваться чатботом ChatGPT для фишинга, поскольку тот способен создавать сообщения, неотличимые от написанных людьми. При этом качество текста будет гораздо выше, чем у многих фишинговых писем, ведь те часто составляются выходцами из стран третьего мира с недостаточным знанием английского языка и пишут с характерными ошибками, по которым легко отличить фальшивое письмо.

Если напрямую попросить ChatGPT предложить варианты фишинговых сообщений, такой запрос будет отклонен, так как в сервисе предусмотрена защита от попыток неправомерного использования чатбота. Но можно задать вопрос о том, как составить деловое письмо с настоятельной просьбой ознакомиться с вложенным файлом или перейти по ссылке, и бот предложит варианты в разных стилях, например, в формальном или более дружелюбном. Возможен также автоматизированный синтез сообщений адресного фишинга, например, имитирующих стиль конкретного отправителя.

Эксперты по безопасности выражают опасения и в связи со способностью ChatGPT синтезировать код по запросу — высказывается мнение о том, что лица, даже не владеющие нужными навыками, смогут пользоваться чатботом для создания вредоносных программ. Бесплатная версия ограничивает объем выдачи, так что получить код большого объема не удастся, но злоумышленники могут регистрировать платные аккаунты с помощью краденых данных банковских карт.

ChatGPT недоступен в ряде стран, включая Россию, причем фильтрация происходит не только по IP-адресу и телефонному коду страны, но и по косвенным признакам, однако эти ограничения научились обходить. При этом разработчики ChatGPT подчеркивают, что бот является полиглотом и умеет общаться в том числе на русском языке. Судя по отзывам, пока что ответы ChatGPT на русском формируются медленнее, чем на английском, и в них встречаются ошибки, характерные для систем машинного перевода.

ChatGPT, напомним, был запущен компанией OpenAI в конце ноября и всего за пять дней набрал миллион пользователей. Для сравнения, у Twitter на то же самое ушел целый год, а у Facebook — десять месяцев. Обучение чатбота непрерывно продолжается, и в этом году ожидается улучшенная версия. Параллельно в игру вступают конкуренты, например, бот You.com, который, в отличие от ChatGPT, не требует регистрации, а также имеет доступ к Интернету и может отвечать на вопросы, касающиеся актуальных новостей.