Meta 與 AWS 宣佈簽署協議,大規模部署 AWS Graviton 處理器,以支援 Meta 新一代 AI 系統的建設。本次部署初期規模達數千萬個 Graviton 核心,並具備隨 Meta AI 發展需求持續擴展的龐大潛力。這項合作反映了當前 AI 基建架構的發展趨勢,雖然 GPU 仍是大型模型訓練的主力,但隨著 Agentic AI 應用的急速增加,市場對 CPU 密集型工作負載的需求亦大幅上升。這類工作負載涵蓋即時推理、程式碼生成、搜尋及多步驟任務協調,而 Graviton 晶片正是專門針對此類運算所設計,為 Meta 處理數十億次互動及協調複雜工作流程提供了高效能的基礎設施。Meta 現已成為全球最大的 Graviton 客戶之一,進一步深化了雙方在 Amazon Bedrock 應用上的長期合作基礎。
隨著愈來愈多機構採用能夠自主推理、規劃和完成複雜任務的 Agentic AI 系統,業界對高效能與節能運算基礎設施的需求達到前所未有的高度。最新一代 AWS Graviton5 晶片配備 192 個核心,其快取記憶體容量為上一代的 5 倍,核心之間的通訊延遲最高可減少達 33%。這項技術突破意味著系統能實現更快速的資料處理與更大的頻寬,精準滿足 Agentic AI 持續推理的嚴苛要求。在架構整合上,Graviton 建基於 AWS Nitro System,透過專屬硬件和軟件實現高效能與高安全性。該系統支援裸機執行個體,提供一致的 Elastic Network Adapter 及 Amazon Elastic Block Store 裝置,讓 Meta 能夠在不影響效能的前提下順暢運行自身的虛擬機器。同時,系統支援 Elastic Fabric Adapter 以實現執行個體間的低延遲與高頻寬通訊,確保大規模任務能精準分配至眾多處理器上協調運作。
除了卓越的運算能力,能源效率亦是此次合作的核心考量。AWS Graviton5 採用 3 納米晶片技術,透過掌控從晶片設計到伺服器架構的完整流程,AWS 成功將效能較上一代提升高達 25%,同時保持領先業界的能源效率。這種客製化優勢是傳統現成處理器無法比擬的。Amazon 副總裁兼傑出工程師 Nafea Bshara 指出,提供專門設計的晶片與完整的 AI 技術堆疊,是構建能擴展至全球數十億用戶的基石。
