豆寄席第34回『生成AIでビジネスを強化：技術と戦略で確実に成果を上げる』開催報告

2024年09月02日イベント報告

小林浩平

本稿は、豆寄席第34回の開催報告です。

開催概要

タイトル	生成AIでビジネスを強化：技術と戦略で確実に成果を上げる
講演者	豆蔵デジタルホールディングスグループCTO 羽生田栄一氏株式会社豆蔵デジタル戦略支援事業部原田泰志氏株式会社豆蔵デジタル戦略支援事業部藤堂真登氏株式会社豆蔵デジタル戦略支援事業部中間智弘氏
開催日時	2024年7月30日 (火) 18時30分~20時00分
講演概要	生成AIの登場により、AIを導入する企業が増えてきました。しかし、生成AIの利活用における課題が多くあります。本講演では、その課題を解決するための案だけでなく、生成AIソリューションの利用シーン、プロンプトの工夫、利用時の留意点などの生成AIリテラシーの重要なポイントも解説します。また、AIの力を現場に取り入れるためのマルチモーダル生成AIアプリ作成システムを当社データサイエンティストがご紹介します。

講演の流れ

本講演では、羽生田氏、原田氏、藤堂氏、中間氏の4名にご登壇いただき、以下の流れで進行しました。

IPAの生成AIの取り組み動向 (羽生田氏)
生成AIをとりまく世の中の動向 (原田氏)
豆蔵の作成した生成AIリテラシー (プロンプトエンジニアリング) (中間氏)
マルチモーダル生成AIアプリ開発プラットフォームについて (藤堂氏)

IPAの生成AIの取り組み動向

最初は、IPAや経産省の資料に基づき、世界と日本における生成AIの企業への取り組みの現状を比較し、日本の今後に向けた推進の方向性について解説していただきました。

1. 生成AIの企業への導入について

日本における生成AI市場は、2023年から2030年までに年平均約47%増で成長し、需要額は約1.8兆円の規模に拡大する見込みである
PwCコンサルティング合同会社の調べでは、生成AIをビジネスで活用している事業は 2023年春ではほとんどなかったが、2024年春では約43%と拡大した
日本の企業における生成AIの現状は、世界と比較すると低い水準である
後述のDX推進に必要な人材である5つのロールでなくても生成AIの恩恵を受けることが可能である
生成AIの有用性とリスクを理解し、生成AIをツールのみとして利用するのではなく、ビジネスに合わせて取り組んでいくことが重要である

2. 生成AI利活用の課題と解決策について

課題：生成AIへの理解不足と向き合えていない
解決策：目的志向のアプローチ、環境整備と実験、答えではなく問いを求める
課題：経営層の姿勢、関与がない
解決策：経営層自身がビジョン・方針を定め、変革推進人材の役割を定義する
課題：推進人材とスキルがない
解決策：スキルトレンドをデータドリブンに捉え、人材定義・教育・活躍の場を作る
課題：データの整備ができていない
解決策：全社的なデータマネジメントとデータ「目利き」人材の育成と確保を行う

3. 生成AI時代のDX推進に必要な人材・スキルについて

ビジネスアーキテクト：選択肢から適切なものを判断する選択・評価する力
デザイナー：独自視点の問題解決能力、顧客体験を追求する姿勢
データサイエンティスト：利活用スキル、背景理解・対応スキル
ソフトウェアエンジニア：AIスキル、上流スキル、対人スキル
サイバーセキュリティ：AI活用の利益とリスク評価、社内管理スキル、コミュニケーションスキル

生成AIをとりまく世の中の動向

次に、豆蔵のAIエンジニアの視点から生成AIの技術的、社会的動向を解説し、企業で生成AIの活用を取り組む方法について提案していただきました。

1. 生成AIをとりまく状況について

AI用チップ世界最大手であるNVIDIA社の株価が、OpenAI ChatGPTやAzure OpenAI Service の提供などにより、2022年から2024年までで約６倍増加した
2024年4月のデータサイエンティスト協会の公開データでは、日本で生成AIを業務に導入した割合は約11%、検討している割合は約9%、検討していない割合は約48%、生成AIを知らない割合は約32%であった
イノベータ理論によると、サービスを導入する割合が16%を超えるとそのサービスが急速に普及すると考えられるため、生成AIの業務への導入は今後本格的に進む
自社データを用いた生成AI活用に立ちはだかる壁は以下の部門ごとにある
1) 経営部門：AI事業戦略策定、KPI定義
2) ユーザ部門：ユースケース選定
3) 開発部門：システム構築、システム評価検証

2. 自社データ適用のメリットと構築のポイントについて

自社データを生成AIで適用する難易度は高いが、得られる効果は大きい
自社データを活用することで、そのデータに対する質疑応答だけでなく、自社に蓄積されたノウハウを有効活用できる
成功体験でさらに自社データ蓄積が加速し、企業価値も向上する可能性がある
自社データを活用するための方式として、プロンプトエンジニアリング(プロンプトの与え方の工夫)、RAG(情報連携の仕組みで自社データを検索)、ファインチューニング(目的に応じて生成AIを再学習)がある
プロンプトエンジニアリングとRAGが手軽に使用しやすく、効果も期待できる

3. 生成AIを導入したシステム構築の開発例

上図のシステムの動作概要は以下の通りである

利用者はMZbot経由でLangChainに質問する
LangChainはその質問をBedrockに送り、質問文を単語に分割する
LangChainは分割された単語を用いてKendraに社内外のデータを検索してもらい、その結果を受け取る
補足：Amazon S3に自社のデータを格納し、Web検索と組み合わせることで社内外のデータに対する質問ができる
LangChainは利用者からの質問とKendraの検索結果を組み合わせ、それをBedrockに送り回答を受け取る
回答をMZbot経由で利用者に送る

豆蔵の作成した生成AIリテラシー (プロンプトエンジニアリング)

次に、生成AI（大規模言語モデル）から適切に情報を取り出すためのプロンプトエンジニアリングについて、そのテクニックと例を示しながら解説していただきました。

1. 豆蔵の作成した生成AIリテラシー向上のためのガイドラインについて

生成AIの基本的な知識と生成AIを効果的かつ安全に活用するために有用とされる利用法を提供する
批判的思考を持ちつつ生成AIを適切に活用するスキルと定義する
そのスキルにおいて、生成AIの仕組みや効果的利用法、リスクの理解が必要である
生成AI技術は進歩が速いため、最新の情報を取り入れる必要もある
ガイドラインは、以下のURLよりダウンロードすることができる
https://www.mamezou.com/services/strategic/dx_infolist

2. 生成AIの効果的な利用法（プロンプトの工夫）について

プロンプトとは、ChatGPTのような言語モデルにユーザが入力するテキストを示す
プロンプトエンジニアリングにより、言語モデルからの回答の質が高くなり、よりよい問題解決につながる
プロンプトエンジニアリングのテクニックは、以下などがある
1)   入力に詳細・文脈を含める
2)   出力の長さを指定する
3)   モデルに参照情報を使用して、回答するよう指示する
4)   参照情報からの引用を含む回答をモデルに依頼する
5)   長いテキストを複数に分割して送信する
6)   長いコンテンツを作成させる
プロンプトエンジニアリングの手法は、以下の２つに大別できる
1) その有効性が明らかであり、科学的な検証を必要としない
2) その有効性は明らかではなく、科学的に検証する必要がある
プロンプトエンジニアリングの手法は様々あるので、生成AIを使用しながら試行錯誤することが重要である

マルチモーダル生成AIアプリ開発ツールキットについて

最後に、豆蔵社内で現在開発中のマルチモーダル生成AIアプリ開発ツールキットについて、デモを交えてご紹介いただきました。

デジタル戦略支援事業部のAI TECHチームにより、マルチモーダルAIアプリ作成用のツールキットM-MATRIXを開発している
このツールキットを利用することで、アプリケーションとロジックに集中した開発ができる
M-MATRIXの機能は、共通コンポーネントの提供、クローズド環境でのデータ処理、実験管理、データベース連携およびユーザ認証、UIカスタマイゼーション、リアルタイム通信およびタスクキューイング機能、オンプレミスおよびクラウド環境への移植性がある
M-MATRIXを使用して作成したアプリの例として、RAGアプリケーション、AI音声対話アプリケーション、Text2SQLアプリケーション、テーブルデータ標準化アプリケーションなどがある
マルチモーダルAIアプリの実用化には、試行錯誤が不可欠である

まとめ

生成AIを導入する企業は今後拡大していく
自社データを活用した生成AIを導入することで、自社データ蓄積と自社のノウハウの活用により企業価値を向上できる
生成AIを効率的かつ正しく使いこなすためには、有用性やリスクを理解することが重要である

所感

生成AIがビジネスとどのような関係があるのか、生成AIを業務に導入するメリットについて学ぶことができました。また、藤堂氏による生成AIを導入したアプリケーションのデモを拝見し、利用方法についても学ぶことができました。今回紹介されたツールキットM-MATRIXは現在開発中とのことですので、完成がとても楽しみです。

今後の 豆寄席 へのご参加もお待ちしております！