在 2025 年 AWS re:Invent 大會上，AWS 副總裁暨傑出工程師、Annapurna Labs 共同創辦人 Nafea Bshara 接受了台灣媒體採訪。Annapurna Labs 2015 年被 Amazon 收購，目前是 AWS 旗下的子公司，專注於設計客製化晶片與矽晶片解決方案，並將其與 AWS 的雲端基礎設施進行垂直整合。透過設計專為雲端運算需求打造的硬體，來突破市售標準晶片的侷限性。
作為 AWS 自制晶片的掌舵者，Nafea Bshara 不僅暢談了 AWS 當家 AI 晶片 Trainium 的發展路徑路，也公開說明了 AWS 與台灣供應鏈的深厚關係，以及與 NVIDIA 之間的微妙平衡。以下對話由 INSIDE 精簡、整理。
Nafea Bshara 開場：我是 Nafea，Annapurna Labs 的共同創辦人。我一開始在 Galileo 和 Marvell 打造晶片。現在我負責 Amazon 所有的客製化硬體業務。我也貢獻了台灣 GDP 很大的一部分（笑）。我們是台積電（TSMC）的前五到前十大客戶之一。還有廣達（Quanta）、鴻海（Foxconn）、智邦（Accton）。智邦是個大客戶，以及緯創（Wistron），貢獻非常巨大。我們非常感謝台灣。
Q：所有雲端供應商都在大力投資客製化晶片。但 AWS 似乎擁有最全面的客製化晶片陣容。您是否將此視為你們的主要競爭優勢？
A：這的確是 AWS 一個巨大的競爭優勢，雖然不是「唯一」。AWS 擁有深厚的客製化晶片產品組合才是關鍵。我們有七代的 Nitro、五代的 Graviton、四代的 Trainium。每一代產品銷量至少百萬起跳，有些甚至達到一千萬、兩千萬。能跨多個世代持續交付產品、提升產量並穩定運作，這才是最重要的。
Q：為什麼「擁有自己的晶片堆疊（silicon stack）」對當雲端供應商如此關鍵？
A：這不是到了現在才重要，在十年、十五年前就很重要了！只是有些人今天才意識到它的重要性。但我們在 2011 年就意識到了，所以你今天看到的，是一段長達十四年的旅程。
至於為什麼重要，原則跟其他垂直整合產業一樣。你能更快得到客戶反饋、更快打造晶片、更快部署，產品更安全、功能更強、更具成本效益。你可以量身打造產品。透過我們的晶片，我們能更安全、更快速，並節省 12 到 24 個月的上市時間。以我們的規模來看，這價值數百億美元。
Q：AWS 和 Nvidia 的關係如何？因為有些人說 Trainium 是 Nvidia 的競爭對手之一。
A：我們的關係超級好。我們的哲學是「選擇」，讓客戶自己選擇。我們也是合作夥伴，你知道 Nvidia 的 GPU 也有使用 Nitro 晶片嗎？這就好比你去 Amazon 網站，你可以買紅襯衫、藍襯衫或白襯衫。你上 AWS，你可以用 Nvidia GPU，也可以用 Trainium。這些都是選擇，每個客戶可以做出他們自己的決定。
如果客戶會來說「我想要這個 X」，另一位說「我想要 Y」，我們就去製造晶片。我們擁有市場上最強的供應鏈，所以我們知道如何快速反應。
Photo Credit: INSIDE 攝影
Q：關於客製化晶片，您對 ASIC 晶片有什麼看法？因為有些合作夥伴認為 ASIC 是未來的趨勢。
A：你有看今天 Decart 的 demo 嗎？ASIC 是沒辦法執行 Decart 的。但我們的晶片是完全可編程的，就像 GPU 是可編程的一樣，Decart 才能做到即時視訊生成。當初我們設計 Trainium 時，我們根本沒想過它能做即時視訊。Anthropic 用它做大型語言模型（LLM），Decart 也可以用它做即時視訊。
Q：您認為台灣能維持晶片製造的優勢多久？
A：我不知道，這很難預測。（記者問怎麼看 Intel 正在追趕）。更多選擇對大家都是好事，但要對台積電表示敬意，他們非常優秀。我跟魏哲家見面時總是會擁抱。CC 是一位非常好的領導者，台灣和台積電擁有他非常幸運。台積電在美國製造晶片也非常好。
Q：能談談與 Apple 的合作夥伴關係嗎？
A：Apple 是 Graviton 的大客戶，這是第一點。第二他們也測試過 Trainium。我們是代表一家喜歡提供多元方案的公司。當你來 AWS 運行 CPU 時，你知道你可以用 Graviton，可以用 Intel，可以用 AMD。你也可以用 Apple Mac。你可以來 AWS 租用 Apple Mac。我們有從 M1 到 M4 的 Mac，你都可以在 AWS 找到。
我想我們是唯一擁有 Apple Mac 的雲端服務。Apple Mac 非常安全、非常強大、效能很高，而且與 Nitro 運作良好。如果沒有 Nitro，我們做不到這一點。
Q：Inferentia 未來還會有發展嗎？
A：Inferentia 是一個非常好的產品。首先，我們有 Trainium 和 Inferentia。在過去大家做小型語言模型 SLM 的時候，Inferentia 是最棒的。我們現在仍有很多新客戶使用 Inferentia。但如果你是在做「非常、非常大」的 LLM，Trainium 是同時適合訓練和推論的最佳晶片。我們找不到其他更好的方式。所以對於 LLM，我們仍然使用 Trainium 進行推論。
Q：現代的生成式 AI 主流是建立在 Transformer 架構上。您怎麼從晶片設計的角度看新的 AI 結構技術？像是 Mamba？
A：雖然許多 LLM 是 Transformer，但不是唯一的技術。順帶一提，Decart 影片生成就不是 Transformer，那是擴散模型（Diffusion），不是 Transformer。這再次證明了 Trainium 可以處理所有任務。
你問是否有替代 Transformer 的 LLM 架構？比如 Mamba 或是通稱為 SSM（狀態空間模型）。我們已經在支援了，也有客戶正在使用。我的團隊專注提供基礎設施，讓所有 AI 實驗室去開發他們能想出的最佳模型。
Q：模型正在快速演化，對吧？這會不會讓硬體更難跟上軟體的變化？
A：不，實際上更簡單了，只要你有「對的硬體」的話。Trainium 3 是為所有工作負載打造的。因為硬體非常靈活。只要你支援 PyTorch 裡的所有功能，每個模型都可以使用。我們從第一天設計時就是為了相容軟體，我們在了解晶片之前，就先了解軟體了。
INSIDE 年度旗艦論壇 INSIDE Future Day 2025 即將來臨！敬邀所有讀者一同見證人機共築未來新紀元。
【活動資訊】
- 論壇名稱：INSIDE Future Day 2025 —人機共築未來新紀元：Next-Gen AI Agents
- 活動日期：2025年12月9日
- 活動地點：台北市福華國際文教會館（106台北市大安區新生南路三段30號）
- INSIDE 好友票登記：https://www.accupass.com/event/2511250626334550105160 (即刻報名，享優先審核)
- 更多活動資訊，請參考活動官網：https://www.inside.com.tw/insidefutureday/2025/
延伸閱讀：
-
AWS 發表自研最新 CPU Graviton 5！3 奈米製程效能增 25%
-
AWS 推出最新 AI 晶片 Trainium 4，採用 NVLink Fusion 技術
-
AWS 推出自家模型「Amazon Nova 2」，Bedrock 同步新增 18 款新模型
-
Amazon AGI 掌舵者 Eshan Bhatnagar：比起拚分 AWS 更專注「解決需求」
-
AWS 強攻 AI Agent！推出「Frontier agents」寫 code、資安、營運一手包
您可能也會喜歡
羅技Ergo Lift人體工學垂直滑鼠、Wave Keys人體工學鍵盤新添迷霧灰色，鎖定女性市場與插畫家包大山共推聯名限定周邊
GMGN 教學：聰明錢跟單怎麼用？手續費、下載、風險一次搞懂（2026 更新）
