英特爾近日正式推出用于AI工作負(fù)載的Gaudi3加速器。
9月28日消息，英特爾近日正式推出用于AI工作負(fù)載的Gaudi3加速器。新芯片的速度比英偉達廣受歡迎的H100和H200 GPU（用于AI和HPC）要慢，因此英特爾將其Gaudi3的成功押注于其較低的價格和較低的總擁有成本(TCO)。
英特爾的Gaudi3處理器使用兩個芯片，包含64個張量處理器核心（TPC，帶有FP32累加器的256x256 MAC結(jié)構(gòu)）、8個矩陣乘法引擎（MME，256位寬矢量處理器）和96MB片上SRAM緩存，帶寬為19.2TB/s。此外，Gaudi3集成24個200GbE網(wǎng)絡(luò)接口和14個媒體引擎，后者能夠處理H.265、H.264、JPEG和VP9，以支持視覺處理。該處理器配備128GB HBM2E內(nèi)存，分為八個內(nèi)存堆棧，可提供3.67TB/s的巨量帶寬。
在性能方面，英特爾表示，Gaudi3可以提供高達1856 BF16/FP8矩陣TFLOPS以及高達28.7 BF16矢量TFLOPS，TDP約為600W。與英偉達的H100相比，至少在明面上，Gaudi3的BF16矩陣性能略低（1,856 vs 1,979 TFLOPS），F(xiàn)P8矩陣性能低兩倍（1,856 vs 3,958 TFLOPS），BF16矢量性能明顯較低（28.7 vs 1,979 TFLOPS）。
比原始規(guī)格更重要的是Gaudi3的實際性能。它需要與AMD的Instinct MI300系列以及英偉達的H100和B100/B200芯片競爭。這還有待觀察，因為很大程度上取決于軟件和其他因素。目前，英特爾展示了一些幻燈片，聲稱與英偉達的H100相比，Gaudi3可以提供顯著的性價比優(yōu)勢。
電話咨詢：86-755-83294757
企業(yè)QQ：1668527835/ 2850151598/?2850151584/ 2850151585
服務(wù)時間：9:00-18:00
聯(lián)系郵箱：chen13410018555@163.com/sales@hkmjd.com
公司地址：廣東省深圳市福田區(qū)振中路新亞洲國利大廈1239-1241室
CopyRight?2022 版權(quán)歸明佳達電子公司所有 粵ICP備05062024號-12
官方二維碼
友情鏈接:
最新資訊
