Если вы привыкли к тому, что центральные и графические процессоры легко умещаются на ладони, включайте воображение – компания Cerebras Systems объявила о создании самого крупного чипа за всю историю – чипа размером с клавиатуру.
Его презентация состоялась на конференции Hot Chips в Стэнфордском университете. Если самые мощные графические процессоры включают в себя 21,1 млрд транзисторов, а площадь их составляет 815 кв. мм, то чип Cerebras Systems содержит 1,2 трлн транзисторов и размещается на площади в 46 225 кв. мм. Он имеет прямоугольную форму со сторонами примерно 20 x 23 см.
Нет, чип Cerebras не предназначен для ПК. А работает ли он вообще в реальных системах? В Cerebras заявили, что да, определенные задачи с его помощью уже решаются. Но многие важные параметры чипа (количество ядер, объем памяти, а также стоимость производства) по-прежнему держатся в секрете. Интересно, что изготавливается он по относительно старой 16-нанометровой технологии TSMC.
Cerebras проектировала новый чип для глубинного обучения – серьезной и постоянно растущей сегодня рабочей нагрузки ЦОДов. В компании его называют построением нейронной сети «на цельной кремниевой пластине». Все логические блоки, соединения и память размещаются на единой части кремния. И хотя такое производство обходится довольно дорого, реализация всех компонентов на одном чипе все равно обеспечивает более высокую производительность и стоит дешевле, чем выпуск и объединение дискретных ядер.
При этом сногсшибательные размеры чипа не могут не вызывать удивление. Сравните сами: первый процессор Itanium, представленный компанией Intel в 2002 году под кодовым наименованием McKinley, имел 221 млн транзисторов. По числу транзисторов чип Cerebras превосходит McKinley в 5 тыс. раз, а по своим размерам – в 109 раз! Даже очередная версия IBM Power9, также анонсированная на Hot Chips, имеет только 8 млрд транзисторов.
Изготовление такого огромного чипа сопряжено с целым рядом сложностей, как чисто производственных, так и связанных с охлаждением. При этом полностью исключить все производственные дефекты фактически невозможно – они есть у любого производителя, и определенное число «плохих» чипов с каждой кремниевой пластины приходится отбраковывать. Чтобы избежать этого, в Cerebras решили использовать избыточное число ядер, предполагая, что из-за дефектов некоторые из них задействованы не будут. Схема ввода-вывода, соединяющая соседние ядра, позволяет обходить дефектные.
Для охлаждения такого масштабного чипа одного лишь радиатора и вентилятора оказывается недостаточно. К кремниевой пластине прикрепляется «холодная пластина», а для непосредственного охлаждения чипа используется множество вертикальных трубок, наполненных жидкостью. Специальным коннектором они прикрепляются к пластине охлаждения.
На конференции Hot Chips дебютировало много невиданных доселе чипов. И чип Cerebras определенно относится именно к этой категории – вы никогда не увидите ничего подобного в ПК да и, пожалуй, в серверном пространстве даже в долгосрочной перспективе. Особенностью Hot Chips является то, что никогда не известно точно, что именно здесь будет представлено, а процессор Cerebras – это нечто поистине потрясающее.