NVIDIA 發表 Volta 架構與 Tesla V100：首度引入專用 Tensor Core 張量核心，開啟現代 AI 運算紀元

2017 年 5 月 10 日，在加州聖荷西舉辦的 GTC 年度大會上，NVIDIA 執行長黃仁勳發表了半導體史上最具顛覆性、耗資超過 30 億美元研發的全新運算架構 —— Volta，以及基於該架構的極致運算晶片 Tesla V100 GPU。這場演講被視為現代人工智慧算力演進的「寒武紀大爆發」：NVIDIA 在晶片矽晶層面正式引入了劃時代的專用硬體運算單元 —— Tensor Core（張量核心），將深度學習的矩陣運算效率提升了整整一個數量級。

815 mm² 物理極限：半導體光罩極限下的工藝奇蹟

Tesla V100 是台積電專屬 12nm FFN 製程下的極致結晶，晶片晶片面積高達 815 mm²，幾乎完全觸及了現代半導體光刻設備的「光罩尺寸極限（Reticle Limit）」：

• 211 億個電晶體：在單一矽片上整合了 5120 個 CUDA 核心與 640 個專用 Tensor Core。
• 首度引進第二代高頻寬記憶體（HBM2）：透過台積電 CoWoS 2.5D 先進封裝技術，將 16GB（後續擴增至 32GB）HBM2 顆粒與 GPU 核心封裝在同一塊中介層上，提供突破性的 900 GB/s 記憶體頻寬。
• 第二代 NVLink 互聯架構：互聯頻寬激增至 300 GB/s，比 PCIe Gen3 快上近 10 倍，允許 8 顆甚至 16 顆 V100 組成完全無阻抗的超算網絡。

Tensor Core：為深度學習矩陣乘法量身打造的專用火箭

Volta 架構最深遠的遺產，莫過於首創的 Tensor Core。傳統 GPU 的 CUDA 核心一次只能執行單個標量運算（如 A × B + C），而深度學習的本質是海量的矩陣乘加運算（GEMM）：

• 每個 Tensor Core 每個時脈週期可執行一次 4×4×4 的矩陣乘加運算（$D = A \times B + C$），輸入為 FP16 半精度、累加為 FP32 單精度以確保數值穩定性。
• 整顆 Tesla V100 晶片可提供高達 125 TFLOPS 的混合精度 Tensor 運算力，相當於前代 Pascal 架構的 5 倍，相當於 100 顆傳統伺服器 CPU 的運算吞吐！
• Google 隨即將 Tesla V100 大規模部署於 Google Cloud，微軟、亞馬遜 AWS 等雲端巨頭紛紛以 V100 作為其頂級 AI 基礎設施的核心主力。

獨立整數與浮點管線（Independent Thread Scheduling）

除了 Tensor Core，Volta 還重構了底層執行緒調度架構，導入獨立的整數（INT32）與浮點（FP32）運算管線。這使得 GPU 能夠在同一時脈週期內同時執行複雜的陣列位址計算與科學浮點計算，解決了困擾並行程式設計多年的分支發散（Branch Divergence）效率折損問題。

歷史回顧：確立 NVIDIA 在 AI 算力市場的絕對壟斷

Volta 架構與 Tesla V100 的問世，是 NVIDIA 從「用圖形晶片做計算」徹底蛻變為「專為 AI 打造專用計算巨獸」的決定性里程碑。Tensor Core 的確立，讓全球各大深度學習研究機構、科技巨頭的演算法設計全面向混合精度矩陣運算收斂。從這一天起，NVIDIA 在全球人工智慧訓練算力市場的統治級霸權，正式鑄造成型。