人工知能のビジネス利用が理論から実践へと移行するにつれ、企業は古くからのジレンマと向き合うことになります - 構築するか、購入するか ?
Nutanix はその両方を提供しています。これは、 Nutanix のハイブリッドマルチクラウドソフトウェアを IT 運用に使用する際の、難しくて複雑な質問に答えるためのチャットボットであり、 SupportGPT として有名になったものを構築する決断を後押ししました。市場で提供されている GenAI を分析した後、 Nutanix 社内のチームは自社で使用するアプリを開発するのが最善だと判断しました。
Nutanix のサポート・レディネス担当バイス・プレジデント、Chad Singleton 氏は「やってみましょう。失敗するのは目に見えています。失敗したら、私たちに電話をください。私たちはここで待っています」 と語ってくれました。
自社製の SupportGPT がヒットしたため、そのような判定が下されることはありませんでした。それはすぐに実現しました。このアイデアは、 2023 年 4 月に開催されたNutanix のハッカソンで、社員が新しいビジネス・アプリケーションのアイデアを共有したことから生まれました。概念実証が承認され、 5 月に作業が開始されました。 SupportGPT は 2024 年 4 月に本番稼動が可能になり、それ以来使用されています。
「かつては調査に何時間もかかっていたものが、今では 1 分もかかりません」 と Singleton 氏は、 SupportGPT を使用してお客様を支援した後、チームの System Reliability Engineer (SRE) の 1 人からフィードバックを受けたことを思い出しながら、このように述べました。
SRE は以前、質問やお客様からの要望をキーワードに Nutanix のデータベースを検索していました。関連する項目を見つけたら、それを読み、お客様が必要としている内容を探します。今では、自然言語処理（NLP）を使って SupportGPT で検索するだけで、数秒で回答が得られます。
戦略的なスタートライン
SupportGPT のアイデアから実装までには、緊密に連携したチームワークが必要でした。プロジェクトの指揮を執ったのは、 Nutanix の SaaS エンジニアリング担当シニアバイスプレジデントである Kathy Chou 氏です。彼女のチームは、 Nutanix の顧客、パートナー、従業員に優れたエクスペリエンスを提供するために、データ駆動型のイノベーションを採用しています。 Chou 氏のチームは、ビジネス・スポンサーのSingleton 氏と、指導とデータ・サイエンティストを提供した Nutanix のエンジニアリングおよび AI 担当バイス・プレジデントの Debojyoti Debo Dutta 氏と協力しました。
サポートチームは、すぐに展開できるものを求めていたが、不安もありました。
「必要なものが得られると確信できるまでは、サンドボックスでツールを試験的に使ったり、テストしたりすることはしたくなかった」と Singleton 氏は The Forecast に語っています。
カスタマーサポートにチャットボットを使うことは一般的になってきましたが、 Singleton 氏のチームは、金融やコンシューマ向けサービスの多くで使われているチャットボットには満足していませんでした。チャットボットは、顧客が複雑な IT システムの問題に対処するのを支援するもので、技術的な詳細を明確かつ簡潔に説明し、正しく診断して解決しなければなりません。
「サポート・エンジニアに正確な情報を提供し、お客様からのリクエストをエスカレーションすることなく迅速に処理できる、ワールドクラスのツールが必要でした」 と Singleton 氏は述べています。.
Singleton 氏らは、 GPT の利点と、 GPT が作成した不正確なアドバイスをお客様に提供することのリスクを熱心に研究しました。その結果、次の重要なステップとして、人間のサポート・エンジニアに正確な情報を検証し、お客様に提示することを義務づけることになりました。
「人間が検証するサポート・システムは、 GPT の回答の正確性を保証するのに役立ちます」 と、Singleton 氏は今後の取り組みのきっかけを振り返ります。 Nutanix のカスタマー・サポート・チームは、 8 年以上連続で平均 90 以上の Net Promoter Score を獲得しており、その正確性は不可欠なものです。
「当社のサービスはビジネス上の差別化要因です」 と Singleton 氏は述べています。しかし、 Nutanix が成長するにつれて、チームは常に革新的でなければならないと彼は語っています。
GenAI からビジネス価値を創造する
OpenAI 、 Meta 、その他のデジタルテクノロジー企業が大規模な言語モデル機能を世界に公開し始めた後、 GenAI アプリケーションに対するビジネス上の関心は急上昇しました。2023 年にハイプカーブの上位に押し上げられた GenAI ですが、1 年後には多くの企業がハイプの域を超えています。 Google が最近発表した The ROI of Gen AI と呼ばれるレポートによると、 GenAI を使用している企業の 74％ が最初の 1 年以内に ROI を得たと報告しています。 GenAI を使用している企業の 10社中 8 社以上が、収益が 6％ 以上増加したと報告しています。
レポートはまた、 84％ の組織が GenAI のユースケースをアイデアから本番まで 6 ヶ月未満で実現していることを示しています。 Google のレポートには、より多くのビジネスユースケースと開始方法が記載されています。
Dutta 氏によると、同氏のエンジニアは Nutanix の GPT-in-a-Box の開発で多くのことを学んだと言います。GPT-in-a-Box は、企業の IT インフラストラクチャを AI 対応にするターンキー・ソリューションです。このチームは、新しい SupportGPT アプリケーションを構築するために Chou 氏のチームと協力しながら、GPT-in-a-Box の第 2 世代バージョンに取り組みました。同氏は、 AI アプリケーション開発はこの 1 年で劇的に変化したと語っています。
「今年は、 RAG （検索機能付きジェネレーション）のセットアップが簡単になり、多くのユースケースを実装してビジネス・ニーズを促進することができるようになったため、誰もが大成功を収めています」 と Dutta 氏は述べています。
「今や、企業は社内でハッカソンを開催し、すぐに本番に投入できる新しいユースケースを見つけようとしています」
同氏は AI の利点を強く信じています。
この技術が浸透すれば、企業や社会に劇的な影響を与えるでしょう」 と Dutta 氏は The Forecast に語っています。「少なくとも 15％ から 20％ の効率化が、あらゆる生活シーンで実現するでしょう」
Nutanix が自社のビジネスを改善するために独自の GenAI アプリを構築した経験は、多くの企業が AI を活用する実用的で有益な方法を模索しながら取り組んでいることを裏付けています。短期的および長期的な経済性は、意思決定プロセスにおいて重要な役割を果たします。
「ソフトウェアは相乗効果で、運用経費を増やすことなく生産性を高めることができます」 と Dutta 氏は述べています。
しかし、高度な AI アプリケーションを実行するためにサードパーティー・ベンダーを雇うとなると、 GPU の増設やアプリケーションの定期的なアップデートのために継続的なコスト増が発生する可能性があります。
「効率を何倍にもする代わりに、運用コストが何倍にもなります」 と同氏は言います。
構築対購入のベイクオフ
SupportGPT を自社で構築できることは分かっていましたが、市場に出回っているものの中からベストなものを評価したかったのですと Chou 氏は語っています。
「当社のオープンソースモデルアプローチは、 Nutanix 全体で活用できる GenAI プラットフォームを構築するための最善のツールと柔軟性を保証します」 と Chou 氏は話します。同氏は SupportGPT を、 Nutanix のビジネスの他の側面で GenAI アプリを作成するための重要な一歩と見ています。
Chou 氏によると、 SaaS エンジニアリング担当副社長の Manoj Thirutheri 氏は、大規模言語モデル（LLM）を含む RAG（ Retrieval Augmented Generation ）を、企業のナレッジベース（ KB ）のような特定のデータセットで使用したと言います。 RAG は、正確で有用なデータのみに焦点を当て、不正確さやハルシネーションを助長する可能性のあるデータをフィルタリングするために、最終結果をファインチューニングすることを可能にしました。
「チームの絶え間ない追求が実を結んだのです」 と同氏は話します。「現在の SupportGPT の性能は、80％という驚異的な精度を達成しました」
これによって、 AI による実験と SRE による継続的なフィードバックを含む新たな反復で精度を向上させることができたと同氏は述べています。よくキュレーションされたゴールドスタンダードデータセットによって、彼女のチームは高い精度と信頼性を達成することができるようになったのです。
「 AI チーム（ Dutta 氏のチーム）、 SaaS エンジニアリング（Chou 氏のチーム）、カスタマー・サービス・チーム（ Singleton 氏のチーム）にまたがり、互いに連携しながら作業を進めました」 と Chou 氏は続けます。「これによって、具体的なニーズとゴールが明確に伝えられるようになりました」
Dutta 氏は、SupportGPT の構築で得た知識はすべて Nutanix に役立つだろうと述べています。
「当社が構築したものはいずれも、将来的な AI 開発プロジェクトにおいて大きな成果をもたらすだろう」 と同氏は言います。
継続的な SupportGPT アプリケーションの取り組みは、 SaaS エンジニアリングの学習管理システム（ LMS ）に反映され、同社のデータ駆動型業務のあらゆる面で活用されています。
SupportGPT がカスタマーサービスを向上
Nutanix の SRE は、お客様のサポートケースに対応する際、膨大な量の技術コンテンツ、ソリューションが詰まった KB、技術文書、過去のサポート対応に関するサマリーなどに頻繁に目を通しています。サポートケースを担当する SRE は、 1 日に何時間もかけて、何ページもの技術コンテンツを繰り返し読み、それらを理解する必要があります。
これまでの自動化では、カスタマーサポートチケットをセルフヘルプポータルに振り向け、そこでお客様が自分で解決できるようにしていました。 GenAI は、 SRE が非常に具体的な質問をし、 KB やその他のデータソースに埋もれている情報の要約をわかりやすく受け取ることができるようにしました。また、ケースを自動的に振り分けるボット機能を強化し、SRE の負担を軽減することもできます。
「最初に成果が出始めたとき、これはゲームチェンジャーになると思いました」 と Singleton 氏は語っています。「我々はただ、それを適切に実行する必要がありました」。
SupportGPT を 「適切に」 導入することは、「正直であること」、「無害であること」、「役に立つこと」 という 3 つの H を融合させることを意味します。これらは、データの人間による検証とともに、 SupportGPT を作成する上で重要な側面の一部でした。
Singleton 氏は、お客様のサポートジャーニー全体にわたって GenAI を使用することを想定しています。
「ケースの要約は、ケースをクローズする前に KB を作成するのに役立ちます」 と Singleton 氏は言います。「サポート・エンジニアがゼロから始める必要がないように、コンテンツの最初のイテレーションや最初のドラフトを提供することができます」。
GenAI は SRE が複雑で困難な問題にもっと集中できるように手助けします。
「 SRE が解決すべき難しい問題に集中できるよう、私たちは一般的な問題を排除しています」 と Singleleton 氏は付け加えました。「これが SRE の課題なのです。これこそが SRE の好きなことなのです」
SupportGPT ツールには 1 日に 500 ～ 700 件の問い合わせがあり、 SRE はこれまで何時間もかかっていた作業を数分で終わらせることができるようになりました。
「フィードバックがすばらしい」 と Singleton 氏は語っています。「正確さは高く保たれています」
「私たちの目標は、 SRE がこれまでと同じ労力でより速く業務を遂行できるようにすることです」と Singleton 氏は述べています。「 NPS スコア 90 を達成した人間的な側面を、ボットや他の AI システムに奪われたくないのです」
Dutta 氏は、 AI の効果は Nutanix に広がりつつあり、 SupportGPT のようなプロジェクトに取り組むことは、エンタープライズ AI の全体的な成功に貢献すると述べています。
「限られたリソースでも、真のビジネス価値を提供する強力な AI ソリューションを構築できることを実証できました」 と Dutta 氏は語っています。「それは大きな相乗効果をもたらします」
Ken Kaplan 氏は The Forecast by Nutanix の編集長です。彼の情報は X @kenekaplan でご確認ください。
Tom Mangan 氏が記事を寄稿しました。クラウド・コンピューティングとデジタルトランスフォーメーションを専門とする経験豊富な B2B テクノロジー・ライター兼編集者です。同氏のウェブサイトまたは LinkedInで連絡を取ることができます。
© 2024 Nutanix, Inc. 無断複写・転載を禁じます。その他の法的情報については、こちらをご覧ください。
