～生成AIを活用した文書検索・文書生成システムを短期間で提供～
NTTアドバンステクノロジ株式会社（以下：NTT-AT、本社：東京都新宿区、代表取締役社長：伊東 匡）は、文書検索・文書生成に効果的な機能を備えたソリューションパッケージ「ナレッジ×Aiアシスタント（仮称）」（以下：本製品）を開発しました。近日中に発売開始します。
NTT-ATは、本製品と、これまで培ってきた「組織固有知識の生成AI向け最適化」や「生成AI活用システムの具現化」のノウハウを活用することで、セキュアなソリューションを短期間で提供し、企業や自治体における業務効率化と従業員体験の向上に寄与します。
NTT-ATは、2024年11月21日（木）～22日（金）にサンシャインシティ・文化会館ビルで開催される「コールセンター/CRM デモ&コンファレンス 2024 in 東京」に本製品を出展します。
■背景
NTT-ATは、2023年5月から、企業や自治体などが保有する固有の知識と汎用LLMを最適に組み合わせたソリューションとして「LLMカスタマイズサービス」を提供しています。LLMが企業や自治体固有の情報を踏まえた回答を行うソリューションをお客さまとともに実現し、お客さまの業務効率化を支援してまいりました。
今般、LLMカスタマイズサービスをはじめとするLLM・生成AI関連事業を通じて獲得した経験・ノウハウにもとづき、LLMを活用した業務改善にかかる文書検索・文書生成に効果的な機能を備えた本製品の販売を開始します。
本製品は、利用者認証やセキュアなデータ保持といった基盤機能とお客さまのさまざまな業務を支援するアプリケーション機能から構成され、お客さまごとのシステム要件や機能ニーズに応じて必要な機能を組み合わせたシステムを提供します。また、本製品に含まれないアプリケーション機能につきましてもご要望に応じて開発し、提供することが可能です。
■「ナレッジ×Aiアシスタント」について
(1)概要
本製品は、業務効率化を支援するLLMサービスの基本機能や業界ごとの標準的な機能を具備したソリューションパッケージです。
本製品は、他社で業務導入実績がある効果的な機能をラインナップしています。また、専門家がLLMに最適化したデータ加工や製品導入に参画し、お客さまの期待される結果が得られやすいLLMソリューションを提供します。
本製品の展開により、お客さまにご満足いただけるLLMソリューションをより早くご利用いただけるようになりました。
本製品の画面と利用例
発売開始時は、自治体向け機能とコールセンター向け機能をラインナップします。
◇自治体向け機能の例：
過去の事業施策の課題検討、議会議事録の抽出、起案文書の作成・添削
◇コールセンター向け機能の例：
マニュアルの検索、FAQの作成、応対報告レポートの作成
(2)特長
◇導入実績がある機能をラインナップ
本製品の初期ラインナップとして、葛飾区様にて利用実績がある機能を提供します。
https://www.ntt-at.co.jp/news/2024/detail/release240620.html
また、お客さま独自の機能やカスタマイズのご要望につきまして検討・開発をお引受けすることが可能です。
議会議事録抽出機能の活用例
◇システム検討から運用まで一貫して支援
NTT-ATが提供中のLLMカスタマイズサービスをはじめとするLLM関連業務で多くの実績を有する専門家が、お客さまに寄り添ってLLMサービスの検討から構築・導入・運用まで支援します。
◇組織固有情報にもとづく回答
企業や自治体に蓄積された組織固有情報をLLMと組み合わせ、お客さまの業務や固有情報に則った結果を提供します。
昨今、LLMから組織などの固有情報にもとづく回答を取得するための手法として、RAG(Retrieval-Augmented Generation)が用いられています。RAGはLLMのファインチューニングに比べて低コストで導入できますが、単にLLMとRAGを組み合わせるだけでは固有情報のセットから適切な箇所を引用できない場合が多く、LLMの回答精度がお客さまの期待を下回る一因となっています。
NTT-ATでは、ソリューションの一環として専門家が組織固有情報のデータ加工・データ品質担保、さらに適切な回答を得るためのプロンプトエンジニアリングを実施し、精度の高いLLMソリューションを提供します。
◇安全・安心なシステムの提供
お客さまのご要望に沿って、データの保持やLLMとの入出力、通信経路の安全性を確保したソリューションを提供します。
葛飾区様の事例では、マイクロソフト社のAzure OpenAIサービス、NTT東日本が提供するManaged SD-WAN*1とクラウドゲートウェイ クロスコネクトの利用により、葛飾区様のネットワークとAzureを閉域網接続し、セキュアなネットワーク環境を実現しました。
■製品情報
製品に関する最新情報は、随時下記でご案内します。
https://www.ntt-at.co.jp/product/llmc/
■今後の展開
NTT-ATは、企業や自治体への本製品の展開を通じて、お客さまの要望に応えるLLMソリューションを提供してまいります。またLLMをはじめとするICT技術の提供を通じて、お客さまのDX（デジタルトランスフォーメーション）の実現を支援してまいります。
■「コールセンター/CRM デモ＆コンファレンス in 東京」出展情報
https://www.ntt-at.co.jp/eventseminar/event/2024/detail/e_20241121/
ぜひNTT-ATの展示ブースで本製品の実際の動作をご覧ください。
■LLMカスタマイズサービス
2023年度から、「企業の破壊的イノベーションを目的とした高度LLMカスタマイズ」としてLLMカスタマイズサービスを提供しています。
業務へのLLMサービスの適用範囲の検討など、システム構築・導入の段階から幅広い支援をお探しのお客さまは、ぜひLLMカスタマイズサービスの活用もご検討ください。
https://www.ntt-at.co.jp/product/llmc/
*1 Managed SD-WAN：
本サービスは、SDN*2技術によりセキュアな拠点間通信とネットワークの集中管理を実現するサービスです。本サービス
の活用により、お客さまのIT管理・運用稼働の軽減・生産性向上を支援します。
*2 SDN（Software Defined Networking）：
ソフトウェアによって仮想的なネットワークを作り上げる技術全般のことをさします。仮想的なネットワークを構築する利
点は、ネットワークの物理的な制約から離れて、目的に応じたネットワークを柔軟に構築しやすくなることです。
※本文中に記載されている会社名および製品名は、各社の商標または登録商標です。
※掲載のデータは発表日現在の情報です。予告なしに変更されることがございますので、あらかじめご了承ください。
