Articles in Turing Academy cover three major themes: ESG Net Zero Laboratory, AI Laboratory and Lean Management Laboratory. We will share articles on related topics from time to time. We also welcome students who are interested in the above topics to submit articles and share them with you. Insights (I want to contribute)

光電混合運算架構:AI 時代的算力革命與技術轉型


 


圖靈學院編輯部
2026-5-4

 

前言:摩爾定律的瓶頸與算力新曙光


    在過去數十年間,半導體產業始終遵循著「摩爾定律」(Moore's Law),透過不斷縮小電晶體尺寸來提升計算性能。然而,隨著物理極限的逼近,電子晶片的功耗、散熱與傳輸延遲問題日益凸顯。特別是在生成式 AI(如 ChatGPT)、自動駕駛與藥物研發等領域,全球對矩陣運算的算力需求呈現指數級增長,單純依賴「電」的處理器(CPU/GPU)已逐漸難以應對。

 

    在此背景下,「光電混合運算架構」應運而生。這項技術試圖將「光」的高頻頻寬、低延遲、低功耗特性與「電」的邏輯控制、存儲能力相結合,被視為打破 AI 算力瓶頸的關鍵。2025年4月,曦智科技(Lightelligence)在《自然》(Nature)期刊上發表的成果,標誌著這一領域從理論走向了商業落地的大規模整合階段。

 

一、 什麼是光電混合運算架構?

 

1. 核心概念:以光載訊,以電控光


    光電混合運算(Photonic-Electronic Hybrid Computing)是一種將光子計算處理器(Photonic Processing Unit, PPU)與傳統電子數位處理器(如 FPGA、ASIC、GPU)深度整合的運算架構。

  • 光子部分(運算核心): 利用光在矽基光路中的物理行為(如干涉、繞射或非線性效應)來執行特定的數學運算。其最擅長的是矩陣乘法(Matrix-Vector Multiplication, MVM),這是深度學習模型中佔比最高的運算類型。

  • 電子部分(控制與存儲): 負責數據的輸入輸出、指令調度、非線性激活函數處理以及高速存取記憶體。電子晶片就像「大腦」的指揮官,而光子晶片則是負責繁重計算任務的「超級加速器」。

 

2. 技術原理:PACE 與 oMAC


    以曦智科技開發的 PACE(Photonic Arithmetic Computing Engine)架構為例,其核心原理在於:

  • 超低延遲: 光以光速傳播,當訊號通過光學網路時,計算幾乎是即時完成的。
  • 光子矩陣計算(oMAC): 透過光子的非相干或相干干涉技術,PACE 能夠在單個時鐘週期內完成大規模的矩陣運算,且熱損耗遠低於傳統電路。
  • 緊密回環(Closed Loop): 為了處理複雜的組合優化問題(如 Ising 模型、Max-cut 問題),架構中引入了受控噪聲與光電反饋回環,顯著提升了尋找最優解的速度。


二、 技術演進:從實驗室到商業板卡

 

    光子計算的理念由來已久,但其實現路徑經歷了幾個重要階段:

 

1.  概念驗證(2017年前後): 沈亦晨博士在《Nature Photonics》發表封面論文,證明了利用奈米光學迴路進行深度學習的可行性。

 

2.  原型開發(2019年): 第一款光子計算原型板卡問世,成功運行卷積神經網路(CNN)模型處理解碼。

 

3.  大規模整合(2021-2025年): 隨著 PACE 與 天樞(Tianshu) 等產品的發布,矩陣規模從早期的 4x4、16x16 擴展到 128x128 甚至更高。

  • 3D TSV 封裝: 這是技術的分水嶺。透過三維矽穿孔技術,光子晶片與電子晶片被緊密堆疊在一起,大幅縮短了光電轉換的距離,解決了訊號衰減問題。
  • 光源小型化: 將原本體積龐大的外部雷射光源整合到 PCIe 板卡內,使其能像普通顯卡一樣直接插入標準伺服器。

 

三、 光電混合架構帶來的重大影響

 

    光電混合架構不僅是技術的升級,更是對整個資訊技術產業鏈的重塑。

 

1. 算力效能的飛躍:超越 GPU 的潛力


    在處理特定算法(如遞迴神經網路或大規模組合優化)時,光電混合系統展現出優於商用 GPU 的延遲優勢。

  • 計算能效比(TOPS/W): 由於光子在傳輸過程中幾乎不產生焦耳熱,其能效比有望比純電架構提升 10 到 100 倍。
  • 解決「儲存牆」問題: 透過光學互連技術,數據可以在處理單元之間以極高頻寬傳輸,打破了傳統架構中 CPU 與記憶體之間的傳輸瓶頸。

 

2. 綠色數據中心的未來


    全球 AI 模型訓練帶來的電力消耗已成為環保挑戰。光電混合架構能顯著降低數據中心的能耗與冷卻需求,符合全球「碳中和」的發展趨勢。

 

3. 加速複雜問題的解決

 

  • 組合優化: 在物流調度、電網優化、金融風控等領域,光電架構能快速處理 Max-cut 或 Min-cut 問題。
  • 生物醫藥: 在蛋白質結構預測與藥物分子篩選中,大規模矩陣運算的速度直接決定了研發週期,光電混合架構將縮短新藥上市的時間。

 

4. 半導體供應鏈的變革


    光電混合架構的興起,帶動了矽光子(Silicon Photonics)產業的發展。

  • 製造工藝: 利用現有的 CMOS 生產線製造光子元件,實現了成本控制。
  • 封裝技術: 催生了先進的光電共封裝(CPO, Co-Packaged Optics)技術,這將成為未來高性能運算(HPC)的標準配備。

 

四、 面臨的挑戰與未來展望

 

    儘管前景廣闊,光電混合運算仍面臨一些挑戰:

  • 精度問題: 光學計算在模擬運算中存在雜訊干擾,如何保持高精度的數位運算效果仍需持續研發。
  • 軟體生態: 傳統 AI 框架(如 PyTorch, TensorFlow)主要針對 GPU 優化,光子晶片需要專屬的編譯器與工具鏈。
  • 產業規模化: 儘管曦智科技已實現產品化,但整個生態系統(包括設計自動化工具 EDA、標準化協議等)仍需全球廠商共同建設。

 

結語:開啟「光的時代」

 

    光電混合運算架構的成熟,意味著我們正站在計算技術新紀元的門口。正如 20 世紀中葉晶體管取代電子管一樣,光子技術與電子技術的深度融合,將為 AI 2.0 時代提供強大的動力。當光子矩陣的規模持續擴大,且封裝技術日趨成熟,我們有理由相信,未來的伺服器內運行的將不再僅僅是流動的電子,還有閃爍的光束。這場「光電融合」的革命,將徹底重定義人類處理數據與探索未來的能力。


參考文獻: