Первым серийно выпускающимся сервером с ускорителем для задач искусственного интеллекта разработки AMD будет сервер Dell PowerEdge XE9680. Он будет оснащен ускорителем Instinct MI300X.
AMD подготовила к выпуску две модели ускорителей Instinct — MI300X и MI300A. Первый из них ориентирован на обучение и работу больших языковых моделей, а второй — на решение общих задач высокопроизводительных вычислений и искусственного интеллекта. MI300X построен по архитектуре CDNA 3 и оборудован 192 Гбайт памяти HBM3 (в 2,4 раза больше, чем у ускорителя Nvidia H100). Производительность MI300X может достигать 163,4 TFLOPS при операциях с матрицами двойной точности и 81,7 TFLOPS для векторных операций с 64-битными значениями.
Ускоритель MI300A построен на тех же ядрах Zen 4, что и серверные процессоры AMD EPYC. Эти ядра объединены с графическими ядрами и совместно используют 128 Гбайт памяти HBM3. Пропускная способность памяти такая же, как у MI300X, и составляет 5,3 Тбит/с, но минимальная потребляемая мощность составляет 550 Вт, в отличие от 750 Вт у MI300X. Производительность MI300A может достигать 122,6 TFLOPS как для матричных, так и для векторных операций.