IDC:落實可信賴AI助提升ROI

SAS 發布由 IDC 進行的《Data and AI Impact Report: The New Economics of Trust》研究報告。結果顯示,採取可信賴人工智能(AI)措施的機構,從相關投資中獲得高投資回報率的機會較其他機構高出 15 倍,比例為 62% 對比 4%。具備管治機制、數據質素及可審計能力的機構,在系統部署中錄得較高的投資回報,而在相關發展方面相對落後的機構,錄得同等成效的比例不足二十分之一。在積極推動可信賴 AI 實務的機構當中,85% 表示將相關投資增加逾 10%。

報告指出,缺乏可解釋性的系統會對業務構成風險。調查顯示,97.2% 的受訪者表示曾在某些情況下推翻人工智能生成的建議。無論輸出結果是否準確,員工選擇推翻建議的首要原因,均在於系統無法解釋其作出相關決策的依據。隨著系統自主性提升,用戶對相關技術的信任度由生成式 AI 的 76% 下降至代理式 AI 的 66%。若員工因缺乏信任而頻繁以人手修正決策,將影響機構的營運效率與生產力。

研究發現,僅 17.5% 的企業已建立足以應對代理式 AI 需求的優化數據基礎設施。具備優化數據基礎的機構,預期從相關項目中取得高投資回報率的機會高出 4 倍,而成功建立品質及可解釋性管控措施的機會則高出 6 倍。在可信賴實務方面較成熟的機構,於收入增長、成本節省及客戶體驗等 13 項業務成果指標上取得的成效,較其他機構高出 1.85 倍。

SAS 首席技術總監 Bryan Harris 表示,先進的代理系統在處理複雜任務時的錯誤率可超過 25%,機構需將領域專業知識融入工作流程,並確保有效的管治及監督。IDC 副總裁 Chris Marshall 指出,完善的監督機制、可解釋性及穩健的數據基礎是實現技術規模化應用的先決條件。是次調查涵蓋 2,699 名決策者,涉及 28 個國家。在行業應用方面,85% 領先銀行的機構已建立管治框架;23% 的生命科學機構已在企業各層面推展人工智能應用。

其他人也看