Компании Ampere Computing и Qualcomm планируют создать платформу для работы больших языковых моделей на основе процессоров Ampere и ускорителей Qualcomm Cloud AI 100 Ultra. Эта платформа не предназначается для обучения моделей искусственного интеллекта, для чего требуется гораздо большая вычислительная мощность. Обучение моделей обычно проводится с использованием процессоров Nvidia. Платформа Ampere и Qualcomm будет обеспечивать эффективную работу уже обученных моделей.
Ampere Computing была основана бывшим президентом Intel Рене Джеймс и разрабатывает процессоры на основе архитектуры Arm, главным преимуществом которых в компании считают высокую эффективность по отношению к потреблению энергии. На днях Ampere представила новую модель с 256 процессорными ядрами вместо нынешних 192. Новые процессоры будут производиться на заводах TSMC с использованием техпроцесса на 3 нм.
Qualcomm пытается выйти на рынок процессоров для задач искусственного интеллекта с 2019 года. В ноябре 2023 года компания представила специализированный процессор Qualcomm Cloud AI 100 Ultra, способный, как утверждают в компании, поддерживать работу моделей со 100 млрд параметров.