Intel chwali się swoim nowym akceleratorem AI Gaudi 3

Intel jest świadom tego, że pod kątem wydajności jego tworowi jest daleko nie tylko do układu H200 Nvidii, ale i do jego starszej odsłony, czyli H100. Produkt niebieskich stawia więc na coś innego – na cenę. Ta oczywiście i tak do niskich nie należy, ale zdecydowanie prezentuje się bardziej przystępnie niż ta charakteryzująca twory konkurencji.

Gaudi 3 Intela oferuje maksymalnie 1856 TFLOPS mocy obliczeniowej przy jednoczesnym poborze około 600 W mocy. Układ złożony jest łącznie z 64 rdzeni procesorowych Tensor oraz 128 GB pamięci HBM2E o przepustowości sięgającej 3,67 TB/s. Uzupełnieniem konstrukcji jest 96 MB pamięci SRAM (wyjaśnienie dla śmieszków – jest to Static Random Access Memory, czyli statyczna pamięć o dostępie swobodnym) o przepustowości 19,2 TB/s oraz 8 silników mnożenia macierzy (Matrix Multiplication Engines).

Źródło: Intel

Intel chwali się wydajnością Gaudi 3 w dużym modelu językowym LLaMA 3 autorstwa Mety. Wedle opublikowanych przez korporację danych, w przypadku tego modelu AI Gaudi 3 bije H100 Nvidii o około 9%. W przypadku LLaMA 2 różnica ta jeszcze się pogłębia i tym samym sięga pułapu 19%.

Jak już zostało wspomniane, gdzie produkt Intela ustępuje konkurencji na polu wydajności, tam stara się uzupełnić swoje braki ceną. Intel wycenił swój akcelerator AI na 15 600 dolarów amerykańskich, co po przeliczeniu daje około 59 454,41 zł. Dla porównania, przytoczony w poprzednim akapicie układ H100 ze stajni zielonych wyceniony został na prawie dwa razy tyle, a dokładniej – 30 000 dolarów (ok. 114 387,06 zł). Dużo więcej informacji, w tym ogrom szczegółów, na temat Gaudi 3 możecie znaleźć w opublikowanym przez Intela 30-stronicowym dokumencie dostępnym pod tym adresem.