【覓跡尋蹤潛力股】AI推論架構典範轉移下的儲存分層革命從NVIDIA B200之KV快取卸載測試,WD UltraSMR技術價值與銘異供應鏈連動?
《覓跡尋蹤潛力股"銘異"系列》AI推論架構典範轉移下的儲存分層革命從NVIDIA B200之KV快取卸載測試,WD UltraSMR技術價值與銘異供應鏈連動? 根據威騰(WD)官方 https://documents.westerndigital.com/content/dam/doc-library/en_us/assets/public/western-digital/collateral/tech-brief/technical-brief-kv-cache-offload-across-storage-tiers-wd.pdf ㊀ 專案核心解碼:WD 8倍 B200(跨儲存層級KV快取卸載)白皮書深度剖析= ⓵ AI推論的核心痛點:KV快取記憶體牆(KV Cache Memory Wall)在基於Transformer架構的龐大語言模型(如超長上下文達128K~1M+ tokens的推論模型及多輪 Agent)運作時,模型需為每組Token運算並保留Key與Value向量。隨著並行處理量與對話長度暴增,昂貴且容量受限的GPU高頻寬記憶體(HBM)迅速被佔滿。過去業界的主流假設是:卸載KV快取只能走向昂貴的全快閃(All-Flash NVMe SSD/QLC)甚至CXL記憶體架構」,這直接導致AI推論資料中心的總持有成本(TCO)高漲。⓶ WD控制基準測試的關鍵顛覆點:威騰(WD)於8倍 NVIDIA B200主機上進行的受控基準測試,提出了一個兼顧性價比的分層架構(Flash-plus-HDD Tiering),核心數據與技術內涵如下:➊ 破除AI推論非全快閃不可的迷思:在測試中,前端配置30 GiB DRAM作為高速寫入緩衝層(Buffer Tier),後端介接高容量Ultrastar近線硬碟(HDD/UltraSMR)。➋ 效能統計幾乎無損:在144次基準測試中,該架構達成92.0~92.4 tokens/sec 的解碼吞吐量,且實現零故障運行。在Concurrency 32下,它完全達到了71.7%的前綴重用上限,與全快閃配置(如Solidigm QLC或本地 NVMe)的效能差異僅在0.5 tokens/sec以內,首字延遲差異僅 0.11 秒。➌ 寫入瓶頸與讀取優勢的精準互補:GPU驅逐串流(Eviction Stream)的同步寫入需求約為0.7 GB/s,傳統HDD陣列無法單獨承接隨機同步寫入;但只要透過DRAM/Flash 緩衝吸收寫入,HDD陣列本身具備高達6.34 GB/s 的持續讀取頻寬,足以完美承接後續的快取讀取(Cache Hit & Reuse)。➍ 策略意涵:這項測試證明了大容量近線HDD不需要被逐出AI伺服器機房,而是可以藉由DRAM/SSD快取 + 大容量 HDD資料庫的分層配置,大幅降低每單位KV快取的儲存建置成本(Capacity-per-Dollar)。㊁ 威騰(WD)UltraSMR技術與銘異的深層關聯性= ⓵ WD UltraSMR是什麼? ➊ UltraSMR是WD近年拉開與對手差距的旗艦技術,結合了能量輔助垂直磁記錄(ePMR/ePMR2)、OptiNAND嵌入式快閃晶片、三階微致動器(Triple-Stage Actuator, TSA)以及疊瓦式磁記錄(SMR)。➋ 相較於傳統CMR,UltraSMR透過物理重疊相鄰磁軌,硬碟容量可大幅提升約20%,目前WD商業出貨已達32TB(Ultrastar DC HC690)並朝40TB+ 推進。⓶ 銘異在UltraSMR技術與生態鏈中的戰略定位:銘異科技長年為全球硬碟機械零件的領先代工廠,與WD具有極高度的共生關係:➊ 營收高度集中與直接連動:威騰(WD)長年佔銘異整體營收高達70%~5%,是絕對的第一大客戶;銘異約有近八成營收來自硬碟(HDD)精密零件音圈馬達占約45%~49%、硬碟機上蓋占約20%~21%。WD 的出貨消長與產品升級,直接牽動銘異的產能利用率與獲利能力。➋ 技術規格升級對銘異的ASP與毛利推力:ⓐ 極限磁軌定位推動音圈馬達(VCM)精密化:UltraSMR的磁軌間距極度狹窄,磁頭漂移容許度極低,WD必須導入三階致動器(TSA)。銘異生產的VCM(音圈馬達)模組與懸臂零組件,必須達到奈米級的加工精度、超低熱膨脹與高抗振性,高階組件單價(ASP)與毛利率遠優於傳統消費型產品。ⓑ 充氦多碟片(11片~14片)推升硬碟上蓋(Cover)與底座技術門檻:32TB以上的UltraSMR採用了全球首創的11碟片甚至邁向14碟片極限堆疊架構。在極端狹窄的腔體內,充滿氦氣以降低氣流阻力,銘異供應的高階封裝上蓋及精密沖壓件,需要具備極高的結構平整度、密封氣密性及抗震阻尼能力,阻絕了低階製造商的競爭。➌ 結構性估值修復:過去市場普遍認定AI時代只剩HBM與eSSD,傳統硬碟將加速消亡,導致硬碟零組件供應鏈長期承受低本益比折價。WD這份B200測試報告正式為(大容量 Nearline HDD搶進AI推論層)提供了架構支撐。雲端服務供應商(CSP)為壓低推論TCO而採用Flash+HDD分層方案,WD的UltraSMR出貨動能將從純冷儲存擴展至推論快取層,銘異將是這波硬體擴張週期中最直接受惠的台系受惠者。⓷ 分層儲存帶來的潛在增量:NVIDIA B200所驗證的DRAM/Flash Buffer + Nearline HDD分層卸載架構獲得微軟、Meta等巨頭標準化採納,將使原本被視為純冷/溫存儲的Nearline HDD跨足進推論伺服器架構,為近線HDD市場帶來額外數十億美元的TAM增量空間。㊂ 結論= ⓵ 技術轉折重塑產業地位:WD發布的8倍 B200基準測試報告是一項重要的產業風向球。它在工程實務上粉碎了AI時代HDD將死的論點,證明只要架構得當,近線 HDD(特別是高密度的UltraSMR)能夠以極具吸引力的TCO提供與全快閃相當的KV快取擴展能力。⓶ 銘異具備強烈槓桿效益:銘異作為WD長期最緊密的機構件後盾,業績本質是WD高階硬碟出貨量的槓桿放大器。隨著WD全面轉向28TB~32TB UltraSMR以及40TB+ 世代,精密VCM與充氦上蓋的製程難度大幅提升,不僅保護其毛利率維持在15%以上水準,亦直接享有單價提高與產能利用率回升之雙重紅利。也就是說,WD B200 KV Cache Offload報告是AI推論正式驗證HDD作為容量層的證據。而這恰好替UltraSMR找到了一個非常重要的應用場景:DRAM / QLC負責速度,UltraSMR HDD負責容量與成本。因此銘異的關聯屬於:AI儲存架構 → WD大容量硬碟HDD → UltraSMR進階疊瓦式磁記錄技術 → HDD機構材物料清單(BOM) → 銘異。AI推論架構典範轉移下的儲存分層革命從NVIDIA B200之KV快取卸載測試WD UltraSMR技術價值與銘異供應鏈連動(示意圖) https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEiJt4UK-lYFvezKZN-XmVcjBWJTGorSzu-zTbyknWoNJMFMifqVrs2IU-B2MPiWjwHorkHDKiYn8VgYdF1k-VfJ5dctg6Jm_Eo6O_SRjG102Dtgl12EAdZVAUnk4Ss5WMe7IoV6vNfUkoCGFlw9hev5Lsu9u3yNlH35TqCUxvsvBYBElaR4UCbsZU9VDg/ 關於威騰(Western Digital)集團 https://www.westerndigital.com/ 是全球最大純硬碟(Pure-Play HDD)製造商,核心業務高度集中於為AI資料中心、雲端服務商提供高容量的企業級近線硬碟(Nearline HDD)。市佔率:在全球HDD市場中,威騰與希捷形成高度集中的雙占格局。目前威騰掌握全球45%HDD市佔率,在最關鍵的AI企業級大容量硬碟領域,威騰擁有極強的市佔優勢與話語權。 關於銘異Min Aik Technology 馬來西亞廠 https://www.minaik.com.my/ 關於銘異MATC Technology 馬來西亞廠 https://www.matc-tech.com.my/ 【免責聲明:本報告所載資料與分析僅供研究參考,不構成任何形式的證券買賣要約或投資決策承諾。投資人應獨立評估市場風險,自負投資盈虧。】