Большие языковые модели позволяют разработчикам дать своим собственным программам возможность понимать запросы и команды пользователя на естественном языке. Но модели тоже отвечают на запросы на естественном языке, и программе нужно каким-то образом разбирать эти ответы и извлекать из них данные, пригодные для дальнейшей обработки. Конструируя запросы к модели определенным образом, можно получить ответ в более строгом виде — даже в виде структуры данных на языке JSON. Именно такие запросы умеет конструировать библиотека TypeChat для языка JavaScript (и основанном на нем TypeScript), разработанная в компании Microsoft.

Вместо конструирования запроса программист описывает в своей программе типы данных — шаблоны, которые большая языковая модель должна заполнить, проанализировав введенную пользователем фразу. Запрос к модели составляется автоматически на основе описания типа. После получения ответа от модели TypeChat проверяет, соответствует ли он описанию типа (для этого ответ от модели пропускается через компилятор TypeScript) и, в случае несоответствия, просит модель скорректировать ответ. Надежность работы TypeChat очень высока, утверждают авторы.