Nutanix Enterprise AI(NAI)解決方案為領先的 LLM 供應商(包含 NVIDIA NIM 和 Hugging Face)提供端點 API,使組織能夠在地端或公有雲中輕鬆且安全地部署各種 GenAI 模型。NAI 包含了簡單的 UI、基於角色的權限控制(RBAC)以及不受限制的特性(暗網或實體隔離部署),以簡化 AI 模型(LLM)的維運、監視和調整,並提供企業級彈性復原力、日常維運功能和合規性。
關鍵效益
- 透過精簡 LLM 部署、確保 API 工作流程和縮短學習曲線來簡化 AI 採用
- 透過使用者友善的指標、控制介面和企業級 API 交付,來支援可擴充的 GenAI 應用程式開發
- 透過直覺的介面來部署、監控和保護 LLM 和 API,以簡化 AI 維運
- 透過無縫整合、經過驗證的 LLM 和客製模型選項(包括私人上傳),來加速 GenAI 開發
- 透過支援任何 CNCF 認證的 Kubernetes® 環境達成靈活性,包含 Nutanix Kubernetes 平台、Rancher、Docker、Amazon EKS、Azure AKS 和 Google Cloud GKE
使 IT 資源成為 AI 資源
Nutanix Enterprise AI 將 IT 資源轉變為 AI 資源,並簡化工作流程,使你可以快速找到、部署、管理和測試生成式 AI 大型語言模型(LLM)。透過內建的安全 API,你的企業級 AI 應用程式可實現無縫運作。當組織在通往實現 AI 的道路上加大維運力度時,關鍵指標和監控可讓你清楚瞭解缺口或問題。
簡單而優雅的使用者介面可幫助你輕鬆建立、管理和保護 LLM 和 API,並透過基於角色的權限控制,以及安全又有效率的方式,來支援跨團隊的擴充。這種組合創造了一個精簡的企業級 AI 環境。Nutanix Enterprise AI 也與 NVIDIA NIM 和 Hugging Face 進行了整合,讓你能夠部署經過驗證的 LLM。你也可以上傳自己的模型以獲得全面 LLM 控制。
Nutanix Enterprise AI 讓你能夠快速適應不斷變化的 GenAI 環境,為你的組織提供多樣性的機會,以實施最新的 AI 模型、Kubernetes 架構和基礎架構;並可部署在任何 CNCF 認證的 Kubernetes 環境上,包括 Nutanix Kubernetes Platform、軟體合作夥伴(Rancher、Docker 等)、裸機或超大規模容器實例(目前包括 AWS、Azure 和 Google Cloud)。
關鍵特色:
LLM 價值
- 優雅的企業級使用者介面
- 自由選擇來自 Hugging Face 或 NVIDIA NIM 的 AI 模型(LLM)
- 上傳自己的 AI 模型(LLM)
AI 端點管理
- API Token 的建立與管理
- 適用於 Hugging Face 和 NVIDIA NIM 的合作夥伴 API Token 管理
- API 程式碼範例
安全性和稽核控制
- 基於角色的權限控制(RBAC)
- AI 模型預先測試
- AI 模型和 API 監控
- Kubernetes 資源監控
- GPU 使用情況監控/事件稽核
- 整合 Nutanix Pulse 報告
資源與入門
隨著企業級 AI 成為企業技術堆疊的核心部分,將 IT 資源轉變為 AI 資源、實現簡單的 AI 日常維運(LLMOP),並保持對 GenAI 重大進展的適應能力,不僅令人嚮往,且必不可少。
如欲進一步瞭解 Nutanix Enterprise AI,請前往 https://www.nutanix.com/products/nutanix-enterprise-ai,或造訪 nutanix.com/testdrive 以進行產品試用。
瞭解如何設定 Nutanix Enterprise AI:https://portal.nutanix.com/page/documents/details?targetId=Nutanix-Enterprise-AI-v1_0:Nutanix-Enterprise-AI-v1_0
瞭解 Nutanix Enterprise AI 的授權方式:https://www.nutanix.com/products/cloud-platform/software-options#nai
欲瞭解更多相關資訊,請造訪 www.nutanix.com
©2024 Nutanix, Inc.保留所有權利。Nutanix、Nutanix 標誌和本文件所提及的所有 Nutanix 產品及服務名稱,均屬於 Nutanix 公司在美國和其他國家的註冊商標或商標。Kubernetes ® 是 Linux Foundation 在美國和其他國家的註冊商標。此處提及的所有其他品牌名稱均僅供識別參考,並且可能為其各自擁有者所屬商標。