☎️元大投顧 張智彥
元大投資論壇 即時Memo
2024全球矽光子技術與應用發展趨勢
2023/12/5
1.重點摘要
● AI需要的能源成本遠高於其他應用，未來趨勢更像是指數增長。
● 目前規劃將部分數據運算移出晶片的挑戰在於:1)對傳輸速度要求高，且將部分計
算放入記憶體中，不過目前仍有運算速度與記憶體單元數之限制。2)需要採用chiplet
封裝在一起，需要新的基板來防止翹曲問題。
● SiPh 比傳統光學器件具有更高的可靠性，目前普及之重點在於與現有裝置與接口
的可匹配性
● Intel採用玻璃基板CPO解決方案，其中玻璃具有絕緣性好 、不易翹曲、 更薄的
優點。
2.產業概況
● 2023年的大趨勢
→運算技術的興起，人工智慧是另一個“iPhone”時刻
→全球經濟權力的轉移
→氣候變化與資源稀缺
● DARPA是美國最重要的專案。
→該項目衍生出自動駕駛或GPS等技術。
→這次重點介紹3D異質整合。
● AI的爆炸性增長伴隨著可觀的能源成本。
→AI需要的能源成本遠高於其他應用，並不是線性增長，更像指數增長。
● 新的 AI 數據中心：PPA 將達到 48 倍。
→新處理技術：2x。
→新封裝技術：8 倍。
→新型光學 I/O 小晶片：2x （SiPh）。
→晶背供電Backside power delivery (BPD)。
→散熱: 液冷或3D。
→針對新數據類型、轉換器（如引擎或 HBM）的架構改進：3 倍
→一般情況下，AI產品採用8位或16位浮點運算。
● 將數據運算移出晶片的挑戰在於:
→對傳輸速度要求高，將部分計算放入記憶體中。
→需要採用chiplet封裝在一起，需要新的基板來防止翹曲問題。
● 一個大型數據中心有 1mn 根光纖。
→SiPh傳輸距離遠至10km。
→SiPh具有功耗低、傳輸距離遠等優點。
● SiPh 的特點
→對溫度不太敏感
→CMOS工藝
→在單個晶圓上與高良率的整合
→非密封封裝
→封裝、測試和組裝佔BOM的80%。
● SiPh平台
→支持56-128Gb/s串列速率的被動和主動組件的共集成
→可傳輸10^11信號。
● SiPh 比傳統光學器件具有更高的可靠性。
→800G 需要8個雷射晶片。
→可生產 8Tbps SiPh 模組。
●將更多晶片放在同一基板上是趨勢。
●監督學習的最大困難是它無法分辨它從未見過的東西。
→如今，零樣本學習可以解決這個問題。
●目前是部分分散式 AI，未來會遷移至完全分散式AI。
●除了設備學習，聯盟式學習(federated learning)也是現在的趨勢。
→聯盟式學習將在裝置端上實現，並發送到聯盟伺服器。
●目前雲/邊緣佔80/20%，但未來將變為20/80%。
● Marvell 已於 2023 年推出 800G 解決方案。
● Intel採用玻璃基板CPO解決方案
→玻璃具有絕緣性好 、不易翹曲、 更薄的優點。
● 3D封裝是空間概念，而非平面。
●從設計方面來看，市場正在等待晶圓代工廠PDK的推出。
→最優越的PDK是台積電，但它還沒有對外公開。
→Fabless 需要使用自己的設計在台積電進行SiPh晶圓制版
●可靠性並不是SiPh的最大問題。
→但可配置性是最重要的問題。
● Chiplet趨勢仍在繼續。
→距離越小，功耗越低。
------------------------僅供內部參考，請勿外傳