生成AIの本格的な業務活用に向け、「業務特化型LLM構築・運用サービス」を提供開始
株式会社 日立製作所生成AIの本番業務への適用を支援する「生成AI業務適用サービス」も合わせて提供
株式会社日立製作所(以下、日立)は、お客さまの生成AI活用を試行段階から本格的な業務適用フェーズへの移行を加速するため、「生成AI活用プロフェッショナルサービスpowered by Lumada」*1 を拡充し、専門的な業務に適したLLM*2 の構築や継続的な改善を支援する「業務特化型LLM構築・運用サービス」と、実行環境の構築・運用を担う「生成AI業務適用サービス」を10月1日より提供開始します。これらのサービスは、業務レベルの回答精度を得る上で課題となる生成AI技術者の確保や大規模な学習環境への投資、実行環境の整備・運用といったお客さまの負荷を低減します。
「業務特化型LLM構築・運用サービス」では、日立が、お客さまの業務や生成AI適用の目標のアセスメントをもとに、企業がもつ固有のデータ(手順書や対応記録など)の選定や抽出を行い、業務知識として汎用LLM*3に学習させることで、その業務に適した規模・精度のLLM構築と、継続的な改善を行います。また、構築したLLMと生成AIアプリを組み込んだ実行環境を、「生成AI業務適用サービス」により、ニーズに応じた場所で構築、運用します。特に、高い機密性が求められる場合には、お客さまのオンプレミス環境で運用することにより、安心して生成AIを業務に活用することが可能です。
この一連のプロセスには、お客さまとともに業務への理解を深めながら、試行錯誤を繰り返すアプローチと、データエンジニアリング、AIのモデル学習、生成AIの環境構築など高い技術力が必要であり、日立がLumadaで培ってきたDXノウハウや、データサイエンティスト、LLMエンジニア、GPUエンジニア*4といったプロフェッショナル人財など日立の強みを生かして対応していきます。
今回、第一弾として、専門性の高い金融分野の業務や、コンタクトセンターの複雑な問い合わせ対応など、汎用LLMとRAG*5だけでは専門知識の活用が難しい業務向けに提供を開始します。今後、製造業や交通インフラなど日立が深いドメインナレッジを有するOT(制御・運用技術)領域へも拡大し、現場の障害対応や生産工程の高度化などフロントラインワーカーの業務へも順次適用していく予定です。
日立は、お客さまの生成AI適用の戦略策定から本番運用まで伴走し、DX実現による生産性向上・競争力強化や持続的な成長を支援するとともに、労働人口の減少といった社会課題の解決を通じて、サステナブルな社会の実現に貢献します。
■課題・背景
現在、多くの企業が生産性向上や顧客体験の改善などをめざして生成AIの活用を試行しています。しかし、一般的な生成AIでは専門性の高い業務に必要なレベルの回答が得られない場合が多く、業務適用には専門知識を学習させるための高度な技術やノウハウが必要です。また、ビジネス環境の変化や技術の進歩に対応するためには、継続的な学習が不可欠であり、そのための生成AI基盤の整備や専門人財の確保など、投資負荷が非常に大きいことが生成AIの業務適用の障壁となっています。日立は、このような課題を解決するために、Generative AIセンター*6を中心として社内外で取り組んできた50件以上の業務適用検証プロジェクトや、生成AI共通基盤の構築で培ったノウハウを活用し新サービスを提供します。
■新サービスの特長
1.業務特化型LLM構築・運用サービス:専門的な業務に適した回答精度のLLMを整備
お客さまの業務手順書や業務記録など、学習に必要な知識データの選定から日立のデータサイエンティストが支援します。そうした知識データは、社内関係者向けに特有の言い回しがある、紙で管理されているなど、そのままでは学習させることが難しいケースが多くあります。そこで、日立はお客さまとともに、これらのデータをLLMに取り込みやすい形に加工し、効果的なモデル学習を進めていきます。また、LLMエンジニアが、適切な汎用LLMの選定を行い、それをベースに、過学習による正答率の低下を防ぎながら専門知識を学習させます。さらに、回答精度を評価する技術や、LLMとRAGを適切に組み合わせる技術を駆使して、適切な規模と回答精度のLLMを構築します。
また、運用開始後も、ビジネス環境の変化や技術の進歩により業務特化型LLMの改善が必要となった場合、日立の生成AI共通基盤上でLLMエンジニアが継続的な学習を担います。
2.生成AI業務適用サービス:適切な実行環境の提供により、お客さまの投資を抑制
学習済データの機密性やセキュリティポリシーに応じて、LLMと生成AIアプリを組み込んだ実行環境の導入先を選択できます。例えば、NVIDIAの最新AI機能と日立ストレージを搭載したHitachi iQ with NVIDIA DGX*7に業務特化型LLMを組み合わせて、お客さまのオンプレミス環境に導入することで、企業独自の業務ノウハウである学習済みの専門知識を保護しながら活用できます。
また、日立が生成AIの本格的な活用を通じて得たノウハウをもとに、生成AIアプリの開発・運用や、汎用LLMと業務特化型LLMの使い分けや組み合わせをガイドできるため、お客さまは業務適用を円滑に推進できます。今後、オンプレミスとクラウドにまたがったハイブリッド環境で、お客さまがデータの所在を意識せず、生成AIを自在に活用できるAIソリューションの実現をめざしています。
これにより、お客さまは膨大なデータ処理に耐えうる大規模な学習環境や生成AI技術者を確保する必要がなくなるため、投資を抑制できます。
*1:ニュースリリース(2024年7月22日発表)「 生成AI活用プロフェッショナルサービス powered by Lumada」を提供開始」
https://www.hitachi.co.jp/New/cnews/month/2024/07/0722.html
*2: LLM:Large Language Models(大規模言語モデル)
*3:汎用LLM:公開データを中心に学習された言語モデルのこと。
*4:GPUエンジニア:GPUインフラの特性を理解し生成AI基盤の構築・運用のノウハウをもつ専門技術者のこと。
*5:RAG : Retrieval-Augmented Generationの略。LLMに、外部情報の検索を組み合わせることで、回答精度を向上させる技術のこと。
*6:ニュースリリース(2023年5月15日発表)新組織「Generative AIセンター」により、生成AIの社内外での利活用を推進し、Lumada事業での価値創出の加速と生産性向上を実現https://www.hitachi.co.jp/New/cnews/month/2023/05/0515.html
*7:ニュースリリース(2024年7月29日発表) 「日立ヴァンタラが、企業のAI対応を支援する「Hitachi iQ」を販売開始」https://www.hitachi.co.jp/New/cnews/month/2024/07/0729.html
■社内実証例
*8: 2024年7月時点
■「生成AI活用プロフェッショナルサービスpowered by Lumada」に追加した新サービス
* as a Service型の提供はEverFlex from Hitachiで行います。
■関連サイト
・日立の生成AIについて
https://www.hitachi.co.jp/products/it/lumada/spcon/generative_ai/
・EverFlex from Hitachi
https://www.hitachi.co.jp/products/it/everflex/
■商標注記
・EverFlexは、Hitachi Vantara LLCの商標または登録商標です。
・その他記載の会社名、製品名などは、それぞれの会社の登録商標もしくは商標です。
■Hitachi Social Innovation Forum 2024 JAPANでの紹介について
本サービスは、日立が2024年9月4日(水)~5日(木)に開催する「Hitachi Social Innovation Forum 2024 JAPAN」において、ご覧いただけます。
セッションにおいては、9月4日(水) 17:00から開催する「SE01-08:ミッションクリティカルなシステムを支える業務への生成AI適用のご紹介」の中でご紹介いたします。
詳しくは、オフィシャルサイト( https://www.service.event.hitachi/regist/)をご覧ください。
■日立製作所について
日立は、データとテクノロジーでサステナブルな社会を実現する社会イノベーション事業を推進しています。お客さまのDXを支援する「デジタルシステム&サービス」、エネルギーや鉄道で脱炭素社会の実現に貢献する「グリーンエナジー&モビリティ」、幅広い産業でプロダクトをデジタルでつなぎソリューションを提供する「コネクティブインダストリーズ」という3セクターの事業体制のもと、ITやOT(制御・運用技術)、プロダクトを活用するLumadaソリューションを通じてお客さまや社会の課題を解決します。デジタル、グリーン、イノベーションを原動力に、お客さまとの協創で成長をめざします。3セクターの2023年度(2024年3月期)売上収益は8兆5,643億円、2024年3月末時点で連結子会社は573社、全世界で約27万人の従業員を擁しています。詳しくは、日立のウェブサイト(https://www.hitachi.co.jp/)をご覧ください。
■イベントお問い合わせ先
株式会社日立製作所 Hitachi Social Innovation Forum 2024 JAPAN 事務局
電話: 0120-329-325 (9:30~12:00、13:00~17:30/土・日・祝日を除く。10月31日(火)まで)
E-mail: contact@hsif-japan.jp
■お問い合わせ先
株式会社日立製作所 Generative AIセンター事務局
問い合わせフォーム:https://www.hitachi.co.jp/lumada/inq/
提供元:PRTIMES