服務器是生產算力的關鍵基礎設施,傳統服務器主要由CPU提供算力,采用串行架構,擅長邏輯計算,算力提升主要依靠堆核實現。 隨著云計算、大數據、AI等新技術應用,數據量呈指數級增長,算力需求持續釋放帶動算力基礎設施產業迎來增長新周期,CPU服務器處理能力已接近極限,AI服務器應運而生。 根據IDC數據,2022年全球服務器出貨量突破1516萬臺,同比增長12%,產值達1216億美元;預計2026年全球服務器出貨量將達1885萬臺,5年CAGR 6.8%,產值將達1665億美元,5年CAGR 10.2%。#服務器##人工智能##AI服務器# ![]() 關注樂晴,洞悉產業格局! 服務器行業概覽服務器是算力的基本載體和硬件根基,通常是指那些具有較高計算能力,能夠提供給多個用戶使用的計算機。 服務器的邏輯架構和普通計算機類似。但是由于需要提供高性能計算,因此在處理能力、穩定性、可靠性、 安全性、可擴展性、可管理性等方面要求較高。 服務器核心硬件包括CPU、以GPU為代表的加速卡、內存、硬盤、網卡、電源、主板等。 主要硬件包括處理器、內存、芯片組、I/O (RAID卡、網卡、HBA卡) 、硬盤、機箱 (電源、風 扇)。以一臺普通的服務器生產成本為例,CPU及芯片組大致占比50% 左右,內存大致占比 15% 左右,外部存儲大致占比10%左右,其他硬件占比25%左右。 ![]() 服務器與主機不同,主機是通過終端給用戶使用的,服務器是通過網絡給客戶端用戶使用的,所以除了要擁有終端設備,還要利用網絡才能使用服務器電腦,但用戶連上線后就能使用服務器上的特定服務了。 隨著大數據、云計算不斷發展,服務器的種類形式也益加多樣化,并不斷演化出新的功能。 從機箱結構來看,服務器經歷了從塔式、機架式、刀片式到整機柜的發展歷程。 整機柜服務器作為面向大型數據中心的定制化產品在近年興起。 ![]() 資料來源:sevethehome AI服務器行業概覽AI服務器是一種能夠提供人工智能(AI)計算的服務器。 它既可以用來支持本地應用程序和網頁,也可以為云和本地服務器提供復雜的AI模型和服務。 行行查 | 行業研究數據庫 資料顯示,服務器產業鏈上游為電子元件及軟件提供商,中游為服務器廠商向上游采購核心零部件后,根據客戶需求設計主板、管理軟件等,并完成整機組裝測試后向下游客戶出貨交付,下游客戶覆蓋運營商、互聯網、政府機構等各類企業。 服務器產業鏈結構圖: ![]() 資料來源:行行查 AI服務器按應用場景可分為訓練和推理兩種,其中訓練對芯片算力要求更高,推理對算力的要求偏低。 目前AI服務器通常選用CPU和加速芯片組來滿足其龐大算力需求,其中加速芯片包括GPU、FPGA、ASIC等邏輯芯片,其中GPU由于其具有最強的計算能力同時具備深度學習等能力,目前成為服務器中加速芯片的首選。 英偉達DGX A100服務器: ![]() 從硬件架構上看,AI服務器是指采用異構形式的服務器,通常為CPU+GPU、CPU+FPGA、CPU+TPU、CPU+ASIC或CPU+多種加速卡;GPU采用并行計算模式,擅長處理密集型運算,如圖形渲染、機器學習等。 根據IDC數據,2022年國內AI服務器市場規模達67億美元,同比增長24%,其中GPU服務器占據主導地位,市場份額達89%;預計到2027年國內AI服務器市場將達164億美元,CAGR 16.1%,其中非GPU服務器市場份額超13%。 ![]() AI服務器芯片根據IDC數據用于運算和存儲的芯片占服務器成本結構約70%,其中在機器學習型服務器中GPU成本占比達72.8%。 ![]() 資料來源:ARK、華經情報網、行行查 AI芯片是算力的核心。AI芯片也被稱為AI加速器或計算卡,即專門用于處理人工智能應用中的大量計算任務的模塊(其他非計算任務仍由C P U負責)。 伴隨數據海量增長,算法模型趨向復雜,處理對象異構,計算性能要求高,A 芯片在人工智能的算法和應用上做針對性設計,可高效處理人工智能應用中日漸多樣繁雜的計算任務。 不同類型的服務器成本結構存在差異,以CPU和GPU為代表的算力芯片是服務器主要成本項,占比隨著服務器性能的提高而逐漸上升。 GPU架構為主流加速架構,是服務器核心成本構成。 ![]() |
|
來自: mrjiangkai > 《我的圖書館》