Čipy Graphcore nasazeny do provozu na ČVUT

23. 11. 2022

Realizovali jsme v regionu první instalaci s IPU čipy Graphcore, které přímo konkurují profesionálním akcelerátorům Nvidia. Do provozu ho uvádí ČVUT, konkrétně Research Center for Informatics (RCI) spadající pod Fakultu elektrotechnickou a Fakultu informačních technologií. Očekávání jsou velká.

Graphcore Intelligence Processing Unit (IPU)

Graphcore je mladá britská společnost, která vyvíjí takzvaná IPU (Intelligence Processing Unit), tedy čipy s architekturou MIMD schopné akcelerovat operace spojené s prvky umělé inteligence a strojovým učením. Základem nabídky Graphcore je IPU čip MK2 GC200. Ten je vyroben 7nm procesem u TSMC.

IPU čip MK2 GC200 obsahuje

59,4 miliardy tranzistorů
a 1472 procesorových jader

AI výkon v FP16 má dosahovat na 250 teraflops.

Tyto čipy dále Graphcore skládá do hotových serverů o několika konfiguracích. Graphcore k tomu dodává i vlastní framework Poplar. Od investorů jako Microsoft, Dell, Sequoia Capital, Samsung nebo BMW posbírala firma Graphcore 692 milionů dolarů na vývoj a rozvoj společnosti a patří k velkým nadějím britského polovodičového průmyslu. Očekávání jsou vysoká, neboť je přímou konkurencí pro podobné akcelerátory od firmy Nvidia. Britské IPU jsou také dostupné v některých cloudech, takže lze rovněž mluvit jako o alternativě k čipům TPU (Tensor Processing Unit) běžících v Google Cloudu.

Instalace na ČVUT

První instalace Graphcore čipů v regionu byla uvedena do provozu na ČVUT, kde si pořídili jednotku POD4 obsahující server MI2000 se čtyřmi IPU akcelerátory. Jde o nejmenší možnou konfiguraci, jež by měla zvládat až jeden petaflop. Aktuálně probíhá na ČVUT testování. Mimo jiné si chtějí ověřit, jak na tom Graphcore bude ve srovnání s používanými prvky od Nvidie, tedy kartami V100 a A100 a minisuperpočítačem DGX A100, kterých škola pořídila deset.