Heterogeneous Computing | 異質運算

  • 異質運算是什麼?
    一般來說,異質運算是指系統使用不同種類的計算單元,例如CPU、GPU、DPU、VPU、FPGA或ASIC。不同運算工作交由符合需求的專用處理器來執行,大幅提升運算效能、改善能源使用效率,計算單元之間透過高流量、低延遲的通道互相串聯,就如一個大型處理器。

    近年來,異質運算的定義變得更廣泛,包含使用不同架構的處理器,例如Arm架構處理器,其運算核心數量較多、功耗較低,也比較容易與Arm架構行動裝置互相「溝通」。使用不同處理器架構的伺服器解決方案,有可能更快解決特殊的工作負載。

  • 為何需要?
    如果您的伺服器解決方案使用CPU以外的協同處理器,例如GPU或是DPU,這就是所謂的異質運算,使用協同處理器大幅提升運算效能,減少完成運算所需的時間。尤其是運用機器視覺或深度學習開發人工智慧(AI),伺服器必須處理大量的視覺資訊,適合用頻率較低、核心數量較多的GPU產品,輔助CPU快速完成運算工作。

    使用不同的處理器架構,等於是進階版的異質運算,最近的趨勢是找尋x86架構以外的替代方案,例如Arm架構處理器,可開發新的運算產品,充分發揮異質運算的潛能。如果您目前使用的處理器和協同處理器不足以滿足您的運算需求,那使用不同處理器架構的異質運算解決方案,可能就是您所需要的產品。

  • 技嘉的特色
    技嘉科技旗下的伺服器解決方案,幾乎都能實現狹義的異質運算,就是將CPU與GPGPU等協同處理器結合,進行平行運算機器學習等特殊運算工作。主要的處理器可採用最新的Intel® Xeon® 可擴充處理器或AMD EPYC™處理器,並透過新一代的PCIe Gen 4.0連接顯示卡、儲存裝置、高速網路卡等零組件,PCIe Gen 4.0最高頻寬64GB/s,是PCIe Gen 3.0的兩倍快。

    技嘉長年開發Arm架構系統,推出一系列支援Ampere® Altra®處理器的Arm架構伺服器,適合高效能運算(HPC)雲端運算邊緣運算,所提供的高擴充性能協助使用者滿足各種運算需求。NVIDIA®發表 NVIDIA® Arm HPC 開發套件,包含支援單顆Ampere® Altra®處理器的技嘉G242伺服器、兩張NVIDIA A100 Tensor核心運算卡、一張NVIDIA® BlueField® 2資料處理器以及NVIDIA® HPC軟體開發套件,為高效能運算和AI應用開發者提供另類的開發平台選項,運用最適當的異質運算方案解決困難的運算問題。

  • WE RECOMMEND
    G242-P31

    Product

    G242-P31
    H261-Z60

    Product

    H261-Z60
    R182-M80

    Product

    R182-M80
    RELATED ARTICLES
    What is a Server? A Tech Guide by GIGABYTE
    In the modern age, we enjoy an incredible amount of computing power—not because of any device that we own, but because of the servers we are connected to. They handle all our myriad requests, whether it is to send an email, play a game, or find a restaurant. They are the inventions that make our intrinsically connected age of digital information possible. But what, exactly, is a server? GIGABYTE Technology, an industry leader in high-performance servers, presents our latest Tech Guide. We delve into what a server is, how it works, and what exciting new breakthroughs GIGABYTE has made in the field of server solutions.
    Back to top