В компании «Скала^р», выпускающей модульную платформу для высоконагруженной ИТ-инфраструктуры, представили программно-аппаратный комплекс МБД.ИИ. По информации компании, ПАК предназначен для создания, обучения и исполнения различных типов моделей ИИ, включая большие языковые модели, приложения машинного обучения и компьютерного зрения.
«Скала^р МБД.ИИ», которая является функциональным аналогом Nvidia DGX SuperPOD и Huawei Atlas 900 PoD, может автономно использоваться на площадках заказчиков, а также входить в состав частных и гетерогенных облачных систем.
Предусмотрены такие решения для распределенных вычислений, как высокоскоростное межсоединение NVLink с поддержкой до 8 графических процессоров, удаленный прямой доступ к памяти RDMA, технология GPUDirect, протокол NVMe-oF, поддержка популярных фреймворков машинного обучения, включая TensorFlow, PyTorch, Keras и ряд других.
Межсоединение на основе топологий Fat-tree, HyperCube, DragonFly или классической архитектуры Leaf-Spine позволяет более эффективно масштабировать вычислительные кластеры.
В компании сообщают о подтверждении работы МБД.ИИ с различными платформами машинного обучения и ИИ-платфомами, включая большую языковую модель для бизнеса MTS AI Cotype Pro, аналитическую платформу машинного обучения «T1 Сайбокс», смарт-платформу лаборатрии Neuraldeep.tech компании Red_Mad_Robot, платформу WaveAccess ValueAI, нейросеть DeepSeek, а также большие языковые модели LLaMA.
ПАК может также взаимодействовать с YandexGPT и GigaChat, а для повышения производительности при обработке значительных объемов и потоков данных предусмотрена интеграция с другими комплексами серии «Скала^р».
В «Скала^р» считают, что новая машина с подтвержденной производительностью до 1,5 PFLOPS обладает высоким потенциалом применения в различных отраслях экономики, где ИИ способен существенно повысить эффективность бизнес-процессов, включая промышленность и финансовый сектор.