На конференции Intel Vision генеральный директор Intel Патрик Гелсингер обрисовал новую масштабную стратегию компании, целиком ориентированную на технологии генеративного искусственного интеллекта. Лидером в создании процессоров для задач генеративного ИИ остается Nvidia — она контролирует примерно 90% рынка графических процессоров для центров обработки данных и 80% всего рынка процессоров для ИИ. Intel намеревается конкурировать с Nvidia за счет двух факторов: процессоры Intel будут стоить дешевле и экосистема для них лучше, чем у Nvidia.
В первую очередь стратегия Intel строится на новом графическом процессоре Gaudi 3, который был специально создан для обучения и запуска больших языковых моделей (LLM). Как утверждают в компании, Gaudi 3 в среднем на 50% лучше осуществляет вывод при работе с нейросетями и обеспечивает на 40% большую энергоэффективность по сравнению с Nvidia H100, при гораздо меньшей стоимости. Кроме того, Intel предлагает процессоры Xeon 6 со встроенными нейронными процессорами (NPU или «ускорителями искусственного интеллекта») для использования на рабочих станциях, ПК и периферийных устройствах. В компании утверждают, что Xeon 6 способны успешно работать со специализированными LLM меньшего размера, популярность которых растет.
Задачи ИИ делятся на два типа: обучение моделей и запуск уже обученных моделей. Современные графические процессоры в первую очередь ориентированы на обучение крупных моделей, отмечают в Gartner. Но в будущем компаниям понадобятся генеративные модели меньшего размера, обученные на собственных наборах данных. Nvidia сейчас может продавать свою продукцию, хорошо подходящую для обучения моделей, по высоким ценам, но у конкурентов остается возможность пошатнуть ее лидирующее положение на рынке, считают аналитики.
Поэтому Гелсингер особо подчеркивает возможности процессоров Intel Xeon 6 в работе с так называемой технологией «генерации с дополнительно найденной информацией» (RAG). Технология RAG оптимизирует результаты работы LLM, извлекая дополнительную информацию из баз знаний, не входивших в набор, на котором обучалась LLM. Это позволяет использовать корпоративные данные, не опасаясь их утечки.
В шестое поколение процессоров Xeon входит процессор Sierra Forest, первый процессор Xeon 6 с энергоэффективными E-ядрами. Во втором квартале Intel планирует выпустить процессор Granite Rapid Он будет изготавливаться по технологическому процессу масштаба на нм и обладать производительностью, достаточной для работы с моделями Llama-2, имеющими до 70 миллиардов параметров, утверждают в компании.