思科與NVIDIA擴展Secure AI Factory架構

思科正式宣佈擴展與 NVIDIA 攜手打造的 Secure AI Factory 架構,為客戶提供一個能夠在整體生態中部署 AI 的強大框架。這項擴展讓 AI 應用場景得以從傳統的大型中央數據中心,無縫延伸至醫院、貨倉及自動化工廠等需要即時決策的本地邊緣站點。透過這套聯合開發的架構,企業與服務供應商無需再依賴零散的分散系統,即可將 AI 從試點階段快速推進至大規模生產階段,整體部署時間大幅從數月縮短至數週,並將安全防護貫徹整個流程。 隨著 AI 推理逐漸轉移至數據產生的源頭,極低延遲的決策能力變得至關重要。為支援邊緣推理的嚴苛需求,思科統一計算系統及思科統一邊緣產品組合現已全面支援 NVIDIA RTX PRO 4500 Blackwell 伺服器版本 GPU。這讓企業能在邊緣場景流暢運行關鍵的 AI 工作負載,而無需承擔數據中心級硬體的龐大能源成本與空間。針對服務供應商,思科亦推出了搭載 NVIDIA 參考設計的思科 AI 網格,結合思科企業行動服務平台與 NVIDIA 晶片的強大算力,助力營運商透過現有網絡提供具備主權及極高可靠度的邊緣 AI 應用託管服務。 在推升大規模 AI 工廠的運算效能方面,思科延續了由 Silicon One G300 和 P200 驅動系統所帶來的橫向與跨域擴展優勢,進一步突破網速上限。思科最新推出了搭載 NVIDIA Spectrum-6 乙太網絡交換晶片的 102.4Tbps 思科 N9100 交換器,以應對最嚴苛的 AI 工作負載,該產品將與現有搭載 Spectrum-4 晶片的 800G N9100 交換器共同建構頂級網絡生態。此外,思科 Nexus Hyperfabric 現已納入思科 Nexus One 體系,透過全端解決方案簡化多廠商整合的複雜度,大幅減輕 IT 部門的部署負擔。 在 AI 代理日益自主化的時代,安全防護不能僅是事後補救。思科將混合網狀防火牆的政策執行能力,直接延伸至內建於 NVIDIA GPU 伺服器的 BlueField DPU 上,確保威脅在抵達企業數據前,即於伺服器硬體層面被即時攔截,實現不影響效能的零信任防護。同時,思科 AI Defense 透過與 NVIDIA NeMo Guardrails 整合,為邊緣 AI 代理及其互動提供專用防護。思科更進一步宣佈 AI Defense 將全面支援並保護 NVIDIA Agent Toolkit 中的 OpenShell…

繼續閱讀

【TechWhale導航】錯的時間 對的人  

英特爾(Intel)標誌人物 Pat Gelsinger 在回朝不足 4 年後,早前宣布辭任行政總裁,董事會兼決定完全退休。一代半導體傳奇人物職涯竟以此形式落幕,當然絕不光彩,也引來外界甚是社交網站上的冷嘲熱諷,認為他是英特爾在過去一段時間,完全被 AMD、NVIDIA 以至 arm 比下去的關鍵。

繼續閱讀

【TechWhale導航】AI下一個難關:物理層

當人工智能(AI)能為企業達到天馬行空的目標,大型語言模型(LLMs)更為地球數十億人每天解決無數難題同時,2024 年或之後這項科技,再向前進的最大難關是甚麼?這無關演算法、編程工作以至數據中心框架的問題,而是回歸兩項最「物理層」的基本步:半導體與電源限制。

繼續閱讀