01 各種類型和規模的組織都有意識在 AI 技術和解決方案的採用方面下工夫。
雖然 90% 的受訪者表示 AI 是其組織的優先要務,但仍有大量工作需要完成。這一技術領域尚未成熟的特質,代表它缺乏策略性最佳做法和既定護欄,甚至是參考架構。許多組織仍在釐清哪種 IT 環境最適合執行其 AI 流程和
工作負載的不同部分,或哪種類型的 AI 應用程式最適用於其產業或業務。
02 如今,資料安全和治理是企業 AI 決策的優先重點,而不是成本。
在受訪者中,資料安全性、資料品質、可擴展性和開發速度是運行他們的 AI 工作負載相關的主要考量。此外,超過 90% 的受訪者表示,安全性和可靠性是他們 AI 策略中的重要考量。受訪者還不斷指出,資料安全和治理(包括資料品質和資料保護)對於支援 AI 技術和服務至關重要。由於新編列且不斷上調的 AI 技術預算分配給這些重要功能,可能會為相關 IT 基礎架構市場(特別是資料儲存、安全性、治理和保護)帶來意外之財。
03 企業正在尋求加速 AI 部署選項,這可能是由於嚴重的技能短缺,再加上維持競爭優勢的需求。
所有受調查的組織(100%)都表示,他們需要額外的 AI 技能來支援未來 12 個月內的相關計畫。短期來看,許多組織可能會在 AI 模型和應用程式開發中遇到技能差距和短缺。技能短缺與資源最佳化可能是主因,使絕大多數企業(90%)正在計畫利用現有(無論是商業還是開放原始碼)的普遍化大語言模型。絕大多數組織可能會試圖利用現有的預先訓練模型,這些模型可以進行微調以支援特定使用,以大幅提高資源並加快新 AI 應用程式的上市時間。
04 採用 AI 技術將推動 IT 基礎架構現代化的新浪潮,跨核心和邊緣環境的無縫資料移動性是其重點。
幾乎所有(99%)受訪者表示計畫升級 AI 應用程式或基礎架構,而超過一半的受訪者表示需要改善雲端、資料中心和邊緣環境之間的資料傳輸,以支援 AI 資料計畫。然而,許多人正在努力找出最有效的方法,來現代化基礎架構,以支援 AI 工作負載。如今,私人、混合雲端和多雲端部署已成熟,並且是現代 IT 基礎架構工作負載的代名詞。AI 技術,以及對速度和規模不斷增長的需求,可能將邊緣策略和核心基礎架構部署帶入 IT 現代化的前線。
將 AI 視為優先事項
同意他們的 IT 基礎架構需要改善以支援 AI
計畫增加邊緣策略的投資以支援 AI
未來就是現在
企業對 AI 解決方案在未來的重要性,已經有廣泛的理解。事實上,90% 的受訪者同意他們的組織將 AI 視為優先事項。然後,問題變成:這些優先事項將如何顯示在真實世界的商業計畫和專案中?實施時有哪些挑戰/障礙?也許最重要的是,新的 AI 程式和應用程式將如何影響人、流程和預算?
如今,企業主要透過 AI 生成影片、文字和圖像應用程式,以及虛擬助理和客戶支援解決方案(圖 1)。基於 AI 的詐騙偵測和網路安全解決方案,以及一系列影像識別、語音識別和運算視覺的解決方案也在目前/計畫的使用案例清單中名列前茅。
生成式 AI ,包括影片、文字和圖像。
虛擬助理和客戶支援(即聊天機器人)
詐騙偵測和網路安全
圖像識別和運算視覺
語音識別和自然語言理解
推薦系統
大型語言模型(LLM)
自然語言處理
自動化系統
語音助理
遊戲和娛樂應用程式
醫療保健和醫療診斷
臉部辨識
圖 1:現在已部署或計畫在未來 12 個月內部署的 AI 應用程式/工作負載
在部署環境方面,受訪者表示,AI 推論過程主要在私有雲和/或邊緣位置執行(圖 2)。除了效能/延遲需求之外,這可能是受到資料本地化和所分析資料的法規要求限制。例如,對於利用敏感、專有或個人可識別資料的組織而言,這些專用基礎架構環境可以更好的管控。
本地端資料中心或私有雲
託管資料中心或私有雲
邊緣/遠端站點
單一公有雲
多個公有雲
圖 2:你的組織在哪些環境中執行或計畫執行 AI 推論工作負載?
當談到微調 AI 模型的頻率時,60% 的組織表示,他們計畫每月或每季度更新一次他們的 AI 模型(圖 3)。如果我們想像企業資料可存取性橫跨從「熱」到「冷」的範圍,人們可能會認為,每季到每月的存取頻率接近該範圍的中間值(即「溫暖」)。調查結果指出,大多數組織將需要對其 AI 模型和資料集擁有相對一致的存取等級。
每月一次或更頻繁
每季一次
每年兩次
每年一次或更少
我們還沒有計畫多久更新一次模型
圖 3:你的組織期望多久更新一次 AI 模型?
最後,為了制定 AI 技術基線,我們向受訪者詢問了他們部署應用程式的運算環境:63% 的組織表示,他們目前在虛擬機(VM)上部署 AI 應用程式,而 62% 的組織表示,他們當前在容器上部署 AI 應用程式(圖 4)。令人印象深刻的是,AI 應用程式部署在運算環境中的分布相對均勻,顯示了 AI 技術在企業 IT 環境各個方面(包括虛擬化和雲端原生)的廣泛應用性。
我們目前在此
部署 AI 應用程式
我們計畫在此
部署 AI 應用程式
我們不打算在此
部署 AI 應用程式
虛擬機
容器
圖 4:你目前是否在以下環境中部署或計畫部署 AI 應用程式
資料來源:Nutanix ECI AI 報告
對 IT 現代化和無縫資料移動性的需求日益增長
AI 應用程式和工作負載需要能自由存取資料,才能生成有意義的成果。也就是說,每個成功的 AI 驅動應用程式或流程都有一個同樣重要且一致的資料策略,確保程序和工作流程維持安全、高效能的資料存取。我們的調查結果顯示,AI 應用程式和工作負載不斷擴展的資料需求,正在以兩種關鍵方式重塑企業對資料基礎架構的想法:
01 要滿足 AI 工作負載需求,需要對 IT 基礎架構現代化進行長期投資。
大多數受訪者(91%)同意其組織的 IT 基礎架構需要改善,以便更輕鬆地支援和擴充 AI 工作負載。當今企業面臨的主要挑戰包括資料安全性、彈性復原力和可擴充性(圖 5)。幸運的是,在許多情況下,會有預算投資來滿足這種需求:85% 的受訪者表示,他們的組織計畫在未來 1 至 3 年內增加對 IT 基礎架構現代化的投資,以支援 AI 工作負載。
02 要滿足 AI 工作負載需求,需要跨資料中心、雲端和邊緣環境的無縫資料移動性。
對於許多組織而言,由於相關的成本和複雜性,邊緣基礎架構部署和策略仍然是次要的 IT 計畫。相反,許多組織已經實施了混合和/或多雲端的 IT 架構,但這些架構往往不包含分散式或「邊緣」組件。AI 技術實施可能會顯著改變這種動態,因為組織可能會在公有雲中訓練模型,在私有雲中對模型進行微調,然後在接近需要處理資料的邊緣進行部署,同時提高了在資料中心、雲端和邊緣位置之間無縫移動和保護資料的需求。我們的調查表示,93% 的受訪者同意,制定邊緣策略以支援 AI 計畫對其專案的成功至關重要。此外,受訪者再次表示願意在支援 AI 的邊緣計畫上投入資金:83% 的受訪者表示,他們的組織計畫在未來 1 至 3 年內增加對邊緣策略的投資,以支援 AI 工作負載。
整體而言,這些調查結果對早期採用者展現了積極的面貌。企業瞭解進行 IT 基礎架構現代化的必要性,以及將邊緣部署作為該策略的核心原則的重要性,這一切都是為了支援 AI。也許最重要的是,企業願意為實現這一目標而投資。
鑑於企業認識到現代化基礎架構以支援 AI 的必要性,並且也願意為此撥款,我們可以得出結論,挑戰主要在於有效的設計和實施。調查結果從設計角度,對推動 AI 基礎架構和應用程式升級的特定領域提供進一步的洞察。對資料安全性、基礎架構彈性復原力和正常運行時間、大規模的基礎架構管理以及基礎架構自動化的種種改善,將是支援 AI 應用程式的首要任務(圖 5)。
資料安全性
提高技術彈性復原力和正常運行時間
大規模改善管理
透過自動化降低員工的工作負荷
GPU (圖形處理器)支援
資料洞察
成本
圖 5:AI 應用程式和基礎架構升級的主要驅動因素
對 AI 人才進行策略性投資以加快上市時程
組織計畫在未來 1-3 年內增加對支援 AI 解決方案開發和部署的所有主要領域的投資,包括部署和支援這些新技術和服務所需的人員和技能:84% 的受訪者表示,他們計畫在未來幾年增加投資,以擴展其資料科學和工程團隊。許多組織似乎意識到需要投資於支援 AI 計畫所需的人員和技能。事實上,生成式 AI 和提示工程,以及資料科學/資料分析被認為是未來一年需要更多 AI 技能的前兩大領域(圖 5)。
生成式 AI 和提示工程
資料科學/資料分析
環境、社會及治理(ESG)報告
開發維運
研究與開發
產品開發
物流/供應鏈規畫
策略性決策
平台工程
業務範圍
圖 6:你認為在未來 12 個月內,下列哪些組織領域將需要更多 AI 技能?
調查受訪者將 ESG 報告列為未來 12 個月內需要發展 AI 技能的關鍵領域。這個選擇的排名比其他選項都高,包括研發和產品開發,這有點令人驚訝。
然而,事實是,在過去的 12 至 24 個月中,永續發展和 ESG 計畫已被提升到許多企業和領導者優先事項清單的首位。促成這樣的排名爬升有多種原因,包括在經濟不確定性和通貨膨脹期間需要最佳化 IT 營運和成本。但更重要的是,新的管制和合規性要求正在推動許多組織提高其永續發展報告和 ESG 測量的能力。
有項美國證券交易委員會(SEC)的規則提案便是個重要的例子,該提案要求上市組織披露有關其直接和間接溫室氣體排放的資訊,包括範疇 1、範疇 2 和範疇 3 的排放報告。
這可能就是為什麼在我們的結果清單中,我們看到對 AI 相關 ESG 報告的需求排名如此靠前的關鍵原因。企業瞭解,運行對運算和 GPU 資源要求高的 AI 演算法和工作負載需要消耗大量能源。調查結果也指出,企業已經考慮到這將對其 ESG 計畫和任何相關排放報告造成影響。
就新興技術而言,識別出技能短缺問題並加以補救是一項持續的挑戰,而且這通常是預料之中的事情。然而,往往更難以預測的是,這些人員和技能短缺將如何影響新興科技市場的發展方向。在 AI 解決方案和服務方面,我們的調查發現了一些有趣的結果。我們發現 85% 的受訪者計畫購買現有的 AI 模型或利用現有的開源 AI 模型,來建構他們的 AI 應用程式。相比之下,只有 10% 的受訪者表示他們計畫建置自己的模型(圖 7)。大量組織表示他們將利用現有預訓練的大型語言模型,這可能指出,組織需要透過利用現有模型與組織的專屬資料進行微調來最佳化可用資源,以更好地支援其需求。
我們計畫購買現有
模型來建構 AI 應用程式
我們計畫利用開源
模型來建構 AI 應用程式
我們計畫建置自己的
模型來建構 AI 應用程式
我們計畫使用
這幾種方式的組合
圖 7:你的組織目前計畫利用現有 AI 模型,還是建立自己的 AI 模型?
*注意:由於四捨五入,總和並不等於 100%。
我們相信,這些發現提供了一個重要的假設:在「建置還是購買」兩種 IT 解決方案的背景下,企業會從值得信賴的供應商購買或採購現有模型,以滿足其 AI 應用程式開發需求,而不是自己開發。這種趨勢似乎出於 2 個主要原因:(1)組織希望加快新 AI 應用程式的上市時間並維持競爭優勢,以及(2)組織將尋找最大化現有資源的方法。
此外,我們預期這種趨勢將影響企業做出 AI 基礎架構投資和決策。建立和訓練各種 AI 模型(例如大型語言模型)所需的基礎架構,與推論、微調和運行依賴於 AI 模型的高等應用程式所需的基礎架構相比,具有極大不同的效能特性。當我們要求受訪者對未來 1 至 2 年 AI 面臨的最大挑戰進行排名時,資料建模排名第五,排在資料安全、具經濟效益的基礎架構交付、確保關鍵任務彈性和管理工作負載規模之後。我們的調查資料指出,許多企業將重點關注基礎架構需求,以支援 AI 模型的實施,從而最大化投資報酬。
資料安全、資料品質與資料治理
AI 應用程式和服務與其底層資料集、模型和基礎架構有共生關係。企業敏銳地意識到這種關係,以及制定資料安全和品質策略的重要性,可使他們的 AI 技術更加可靠和有彈性。我們的調查結果清楚地表現出這種趨勢,受訪者在運行或計畫運行 AI 工作負載時,將資料安全和資料品質排列為其第一和第二最重要的考慮因素,遠超出回應集中的其他選擇(圖 8)。
資料安全性
資料品質
擴充性
部署速度
資料主權
資料重力
整合到現有系統
GPU (圖形處理器)支援
資料延遲
成本
資料本地化
圖 8:運行或計畫運行 AI 工作負載時最重要的考慮因素
媒體炒作以及 AI 工具和服務的商業可用性,將企業對 AI 技術的興趣在 2023 年推向新的高度。有部分由於這種炒作,在運行或計畫運行 AI 工作負載時,成本被列為第二低的考慮因素。此外,超過 90% 的受訪者同意,他們的 IT 成本和雲端支出都會因 AI 應用程式而增加。
早期採用者肯定會受益於這種對 AI 解決方案支出的自由化態度,在項目和技術評估或實施方面,發現少有與成本和預算相關的障礙。
但是,這個蜜月期並不會永久持續下去。我們也要求受訪者識別出他們的組織在未來 1 至 2 年內將面臨的 AI 挑戰。在這個前瞻性的問題中,以經濟效益的方式提供必要的基礎架構被選為資料安全背後最重要的第二大挑戰。對 AI 專案和技術的預算和支出預期,終究將與 IT 產品組合的其他部分保持一致。當今的 AI 專案應考慮長期預算和營運效率,而不是預期在未來幾年內維持無限制的支出。
除了資料安全性和品質之外,我們的調查結果表示,AI 技術將推動實施增強資料治理的實踐,包括實施針對關鍵基礎資料集的資料保護實踐:51% 的受訪者表示他們計畫新增任務關鍵/生產級資料保護和災難復原(DR)解決方案,來支援 AI 資料治理。此外,有一半的組織表示他們計畫在邊緣環境中定義資料保護和治理策略,以支援 AI。在許多新興技術領域中,隨著企業競相開發前端應用程式和服務,想到資料治理時已成事後諸葛。我們的調查結果指出 AI 技術可能不是這種情況。由於 AI 解決方案嚴重依賴一致的資料存取、品質和可擴展性才能有效運行,因此保護和保障這些資料對於任何 AI 工作負載都至關重要。
希望增加投資現代化
IT 基礎架構以支援 AI
預計 IT 成本
因 AI 而增加
預計雲端成本
因 AI 而增加
在 2023 年,AI 進入了主流,但就企業內部的 AI 解決方案應用程式而言,我們仍處於早期階段。組織仍在識別正確的工作負載和使用案例,確定最合適的方案並瞭解預算影響。早期採用者將透過加速解決方案部署,尋求獲得短期競爭優勢。同時,其他企業將採取長期策略,累積必要的人員和技能,並制定包括基礎架構現代化以及內部 AI 建模和應用程式開發在內的發展策略。現在猜測哪種方法會產生最佳結果還為時過早,但根據我們的調查結果,我們提供以下建議:
01 為基礎架構的資料現代化和移動性做好準備。
AI 技術和解決方案的有效實施,需要跨資料中心、雲端和邊緣環境的資料移動性和管理。每個環境都在支援端到端 AI 工作流程中發揮關鍵作用。例如,可以支援在邊緣的本地化資料清理/處理需求,然後再傳輸到專用或雲端資料中心以進行訓練、推論和大量儲存。對於 IT 和基礎架構專業人員來說,這不是小任務。在某些情況下,將需要重大的重新配置、培訓和支援,來建立支援 AI 技術的現代基礎架構解決方案。許多企業可能會尋找解決方案,來幫助他們簡化這項工作。
02 投資 AI 技能發展,並規畫員工短缺的解決方案。
所有受調查的組織表示,在未來 12 個月內,他們在一系列相關領域中需要更多 AI 技能。這也就是說,對生成式 AI、資料科學和分析、研發、平台工程和提示工程等解決方案,有限的支援和開發資源將面臨激烈的競爭。如果組織選擇建立自己的 AI 模型和應用程式,可能會受到短缺的影響最大。
03 將資料安全、資料品質和資料保護成為 AI 策略的核心原則。
實施 AI 技術和解決方案的需求,正在推動組織重新思考相關的資料安全和保護策略。如果不能存取資料,許多基於 AI 的應用程式和解決方案都將無法運行。預計資料安全和保護解決方案,將在塑造企業 AI 技術生態系統和策略方面發揮關鍵作用。
04 立即規畫減少未來基礎架構成本的任務。
開發 AI 模型、應用程式和相關業務成果的淘金熱心態,將導致短期內接受 AI 計畫的超額預算和超支。但是,這將是暫時性的。組織應計畫在未來 1 至 2 年內快速改善(並衡量)基礎架構的成本效益,以支援 AI。
受訪者表示哪些團隊/部門正在關注組織內的 AI 實施和採用。IT 是第一選擇,而開發維運和資訊安全團隊則在第二選擇中不分軒輊。這三個團隊將對企業 AI 技術決策、策略和實施產生重大影響。然而,我們的調查發現了 IT 決策者和開發維運決策者,在考慮 AI 策略和優先事項時,存在一些有趣的細微差別:
開發維運推動開放原始碼模型開發:
33% 的 ITDM 表示,他們計畫利用開源模型來構建 AI 應用程式。相比之下,開發維運決策者表示計畫利用開源模型來構建 AI 應用程式的有 48%。
決策者在可持續發展和 ESG 方面的差異:
開發維運決策者將 ESG 報告評為他們在未來 12 個月內提高 AI 相關技能的第二最重要領域,高於資料科學/資料分析和研發。當我們查看 ITDM 的相同排名時,ESG 報告降至第五。
機器學習作業(MLOP):
只有 14% 的 ITDM 預期 AI 模型應每月或更頻繁更新。相比於開發維運決策者,這個比例增加到 25%。這顯示了 AI 資料集和 MLOP 需求中一個重大的不一致性。
AI 技術挑戰:
ITDM 表示,資料安全是未來 1 至 2 年與 AI 相關的第一大挑戰。相比之下,開發維運決策者則將確保關鍵任務的彈性和滿足業務服務等級協議,列為他們面臨的兩大挑戰,兩者差距微乎其微。
容器與虛擬機(VM)相比:
59% 的 ITDM 表示他們目前在容器上部署 AI 應用程式。但是,在開發維運決策者方面,這個比例高達 66%。顯然,開發維運更喜歡基於容器的 AI 應用程式部署。有趣的是,在查看虛擬機(VM)的 AI 應用程式部署時,沒有觀察到這種趨勢。這兩方決策者表示了相似的比例(ITDM 是 62%,開發維運則是 63%)。
為了制定這份報告,Nutanix 委外進行了一項全球研究,以瞭解全球企業人工智慧(AI)部署的狀況。在 2023 年 7 月、8 月和 9 月,英國研究人員 Vanson Bourne 對全球 650 位 IT 以及開發維運和平台工程決策者進行了調查,瞭解他們的企業 AI 技術策略和採用的各種元素。該研究要旨在於了解目前企業 AI 部署和趨勢,以及計畫的實施將如何影響 IT 和雲端支出和預算。該研究還探討組織在開發 AI 策略和實施解決方案時,面臨的一些關鍵技術、基礎架構和技能相關的挑戰。
這份報告證實,大多數企業對於探索 AI 技術和解決方案以保持競爭優勢的必要性,都有著基本的認知。更重要的是,這項調查揭示了採用 AI 解決方案的企業者中的一個重要主題:跨資料中心、雲端和邊緣基礎架構環境,對資料移動性和資料保護的需求不斷增長。這個主題貫穿整個研究,讓我們得出這樣的結論:採用企業 AI 應用程式和工作負載,將會催化新一波以資料移動性、安全性和保護為重點的 IT 基礎架構現代化計畫。這份報告詳細討論了這些主題,並以支持的調查結果為佐。
本報告的受訪者遍及多個產業、企業規模和地理位置。其中包括北美和南美組織中受僱的 IT、開發維運和平台工程決策者;歐洲、中東和非洲(EMEA);以及亞太和日本(APJ)地區。