安全な生成AI活用のためのガバナンス態勢整備・運用の実現に向けて Citadel AI、ＳＯＭＰＯリスクマネジメントとの業務提携開始
株式会社 Ｃｉｔａｄｅｌ ＡＩ「信頼できるAI」を社会実装する株式会社Citadel AI（東京都渋谷区、代表取締役社長： 小林 裕宜、以下、「Citadel AI」）は、企業が生成AIを安全に利活用する環境構築を支援するため、ＳＯＭＰＯリスクマネジメント株式会社（代表取締役社長：中嶋 陽二、以下「ＳＯＭＰＯリスク」）と業務提携を開始しました。両社の提携により、生成AI利活用のライフサイクルマネジメントを通じて、ガバナンス態勢整備、リスクアセスメントおよびリスクモニタリング等、安心して生成AIを利用できる基盤を構築し、その活用を加速化するためのサービスを提供してまいります。
【 本件提携の概念図 】
1．背景
生成AIの国内市場の需要額は2030年には1兆7774億円に達すると予測されています¹。この急速な市場拡大によって、企業活動の効率化やイノベーションが期待される一方で、Chatbotにおけるハルシネーション²やバイアスを含んだ不適切な出力、あるいは生成されたコンテンツの真正性の問題や知的財産権の侵害、プライバシーの侵害など、複雑なリスクが水面下で増加しています。生成AIの適切な利用環境を整備するため、経済産業省では「AI事業者ガイドライン³」として事業者が順守すべき自主基準を定めるなど、社会的な関心や取組みが高まっています。企業が生成AIの利活用を拡大して持続的に成長するためには、生成AIに関する様々なリスクを適切に管理して信頼性と安全性を確保する取組み、すなわち生成AI活用のためのガバナンス態勢の整備・運用が必要不可欠であるといえます。
1)電子情報技術産業協会,2023年12月21日,https://www.jeita.or.jp/cgi-bin/topics/detail.cgi?n=4724&ca=1
2)AIが事実に基づかない誤った情報を生成する現象
3)経済産業省,2024年4月19日,https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html
2．業務提携の概要
今回のCitadel AIとＳＯＭＰＯリスクとの業務提携を通じて、生成AIの利活用に伴うリスクを、ガバナンス面ならびに技術面から検証し、安心・安全に運用できる基盤を構築することで、企業の生成AIの利活用を加速化し、さらなる業務の効率化や事業の高度化をサポートしてまいります。
ＳＯＭＰＯリスク
- リスクコンサルティングの知見とノウハウを活用し、リスクアセスメントを実施
- 生成AIガバナンス態勢の整備・運用を支援
Citadel AI
- 生成AIなどのAIの信頼性を検証し品質を改善する技術的ソリューションの提供
- 生成AIの利用状況と課題にかかわる技術的な分析、セキュリティチェック、品質の維持・改善のための技術コンサルティング等、リスクアセスメントの結果を踏まえた技術面からのリスク解析とソリューション開発
【各社概要】
ＳＯＭＰＯリスクマネジメント株式会社について
URL https://www.sompo-rc.co.jp/
企業や組織を取り巻くリスクはこれまで以上に多様化・複雑化の様相を見せています。ＳＯＭＰＯリスクマネジメントでは、「リスクマネジメント」に関するさまざまなリスクソリューションの提供を通じて、お客さまの持続的な成長・発展をご支援します。
株式会社Citadel AIについて
URL https://www.citadel.co.jp/
Citadel AIの製品は、国際標準業界を代表するBSI（英国規格協会）がハイリスクAIの審査ツールとして採用、医療・自動車・金融・製造業等のグローバル企業から高い評価を得ています。
生成AIから従来の機械学習モデルまで、汎用的に適用することができ、お客様のAIの品質改善と適合性検証を同時に実現します。
提供元：PRTIMES