企業のAI活用は「社内版ChatGPT」を作ることから　Gen-AX砂金氏が提案する実践的な導入ステップ

AX時代を作っていくGen-AXの取り組み

瀧口友里奈氏（以下、瀧口）：Gen-AXでは、AX時代を作っていく中で、どんな事業を展開されているかというところについて、砂金さんはいかがでしょう。Gen-AXさんのお話もぜひお願いします。

砂金信一郎氏（以下、砂金）：たぶん、ソフトバンクの周辺というか、グループで良くも悪くも目立っている2人が今日は来ているんですけど。

（一同笑）

砂金：平岡さんは内部からいろいろ新しいプロダクトを作る取り組みをしていて。我々はソフトバンクの100パーセント子会社ではあるんだけども、外部組織化して、ちゃんとAIを組み込んだBtoBのプロダクトを作ろうというのと。

それだけだとうまくいかないことは、クラウドの時代にもいろいろ経験はしているので、コンサルティングもちゃんとやろうとしています。

これは私の言葉というよりは、ソフトバンク株式会社の宮川（潤一）社長の、決算発表の時か何かのコメントだったんですけど、とっさに答えられたGen-AXについての説明が、僕としては非常にしっくりきています。

この対比は、今日はあんまりメイントピックで話さないかもしれないですけど、国産LLMというか、スクラッチで日本語のLLMを作っているソフトバンクの子会社でSB Intuitionsという会社があって、そこはAI自体を作るんですね。

我々はAI自体は作らないんだけど、AIを業務にちゃんとフィッティングさせるところをちゃんとやるのが、Gen-AXというチームであると。

瀧口：なるほど。

砂金：宮川さん、ありがとうございます。

（一同笑）

企業のAI活用は「社内版ChatGPT」を作ることから

砂金：いろんな会社と「AIを活用できていますか？」という話をすると、「いや、ぜんぜんですよ」と謙遜する方々から、「いや、うちは完璧です」という方々までいろいろあるんですけど、段階があります。業務の中で使うパターンで、「最初はAIに慣れるために、社内版ChatGPTを使いましょう」みたいなのは、すごくいいことだと思うんですよね。AIと会話をしてみて「なるほど。こういうことができるんだ」と。

それをやっていると、「いや、これは一般常識のある偏差値75の秀才くんかもしれないけど、業務知識はまったくわかっていなくて使えない」というフェーズが来るんですね。

その時に、今日はちょっと技術用語はあんまり使わないようにしますけど、RAG（Retrieval Augmented Generative）という、検索をして、検索に基づいて生成をするという、検索組み合わせパターンのやつを使おうと。

そうすると、事前学習というか、AIのモデル自体が業務を知っていなくても、業務知識をトッピングすることができる。これをやり出すと、性能が出ないというんですね。性能が出ないので、今度はファインチューニング（新たなデータで追加学習を行うこと）をしなきゃいけないという話になり。

最後に行き着くところは、「やはりこれはちゃんと、業界ごと・個別会社ごとの事前学習の巨大モデルを作らなきゃいけないんじゃないか」というところまで、みなさんの妄想が膨らんでいると。

これは妄想のままだとちょっとよろしくない。我々が推奨しているセットなので、これは世の中的な正義かどうかはわからないんですけど、「まずは社内版ChatGPTから始めたらいいじゃないですか」と言っています。

いきなりコールセンターの自動化はハードルが高い

砂金：（スライドの）真ん中のところが2段になっていて、コールセンターの自動化はたぶんみなさん想像がつくと思うんですよね。最近のChatGPTのAdvanced Voice Modeを使うと、「いや、これで良くない？」という状況はあると思うんですけど。

いきなりそれをやろうとすると、ちょっといろいろ障害というかハードルが高いので、その手前で照会応答業務を1回挟むといいんじゃないんですかというご提案をしています。

最後は特化型LLMを作るんだけど、ここには膨大な学習データが必要です。真ん中の照会応答業務とコールセンター自動化というやつをやると、その間にデータがたまりますよという部分が大事なところ。

いきなりBtoCで、エンドユーザーのお客さまに対してAIが直接会話しますというと、「ハルシネーションで間違っちゃったらいけないんじゃないか」といった不安がいろいろあるでしょうと。

なので、まずは先ほど言った照会応答業務という、代理店と本店の間の問い合わせとか。ここで1回、業務のプロが知識をためるフェーズを挟んだらいいんじゃないかと思います。

これはちょっとわかりにくいと思うので、1回画面でデモを見ていただくといいかなと思うんですけど。これは開発中の画面なので、平岡さんと同じで、我々はまだプロダクトとして開発しているんですけど。損害保険会社をモチーフにしたデモになっています。

検索をすると代理店からの照会業務、「これこれこういう時には、この保険を支払ってよろしいか」とか、「手続きには何が必要か」という、ChatGPTに聞いてもおよそ正解が返ってこなさそうな業務知識が必要なやつを、わりと高度な裏側のチューニングされた検索技術と。あと、UIが完全に使いやすいかどうかは、平岡さんのご意見も聞きたいんですけど。

平岡拓氏（以下、平岡）：いやいや。

「自律思考型のエージェント」を企業システムの裏側に

砂金：UIを作るのはけっこう大事です。いわゆるChatGPTみたいなものではなく、業務アプリとみんなが認識しているものの中で、裏側でさっとAIがサポートしてくれる。これはBtoBの文脈でも一緒なんですね。

我々はLINEヤフーから来ているエンジニアのメンバーが比較的多いんですけど、コンシューマ向けのアプリって、みなさんが操作している時に操作ログを取るじゃないですか。

操作ログを取って、広告配信を最適化するだけじゃなくて、より使いやすいようなアプリにするためにどうしたらいいかって、日々裏側で改善を続けているんですね。これはスマホのアプリだろうが、AIのアプリだろうが一緒です。

ここで我々がやっているのは、業務の中で、みなさんが業務のプロフェッショナルとして「この知識は正しい」「これは役に立たん」と、ラベル付け・重み付けをしてくれているデータを、我々は「LLMOps」という言い方をしちゃっているんですけど、使えば使うほど賢くなる業務アプリみたいなのを目指して、今作っています。

これをコールセンターで使おうとした時にどういうアプローチがあるかって、今まで我々も似たような仕組みを、ボイスボットみたいなやつを作っていたんですけど。所詮は人間が作ったシナリオどおりに、音声が機械で読み上げてくれるみたいな感じだったんです。

ここ最近のGPT-4o、o1を考えると、AIにどうしたらいいかタスク分解をして、必要な情報を自分で取ってきて、ということをやらせちゃってもいいんじゃないのと。

自律思考型のエージェントの仕組みを作って、これをコールセンターや企業システムの裏側に入れていこうというのが挑戦です。まだできていないですけど、これをやろうとしているところ。

業務文書は「AIにとっても読みやすい」かたちにする

砂金：あと、「コンサルをどうするんですか？」という部分。いろんな会社さんが「生成AIを使って何をしたらいいですか？」という時に、日々お付き合いの戦略コンサルとか業務コンサルのみなさんに、お仕事をお願いする場面があると思うんですけど。

生成AI屋さんというか、AIが他の人たちよりはちょっと詳しい我々からすると、「いや、それは筋が悪いです」という提案をけっこうされている場面もあるので、そういうところに我々が入っていってお助けしますよと。

あと、一番大事なのは（スライドの）右側ですね。今日後半の議論で、ぜひこのへんを深掘りできたらいいかなと思うんですけど。AIがあることが前提で業務設計するというのは、例えば、「RAG Readable」という言い方をしているんですけど。

今までの業務文書って、人間が読むことに最適化して、図表を入れて、大きな文字でわかりやすく、大事なことなら何回も繰り返しますみたいなことを、注釈を入れながら文章を作っていたと思うんですけど。これはAIにとっては迷惑甚だしいんですね。

澤円氏（以下、澤）：（笑）。

砂金：「図表とか要らんから」みたいな。「どういう業務ルールで、何の条件の時には何がOKなのか。この時は何が駄目なのかを、わかりやすく言葉で書き下してほしい」というのがAIの気持ちです。なので、どうせ最後はAIで自動化するんだったら、AIが読みやすい文章を作って、それを管理するのを軸にする。

それだけだとぜんぜん業務が回らなくなって、人間がチェックできなくなっちゃうので、人間も読めるように変換するような仕掛けを作っていったらいいんじゃないんですかと。そのお手伝いを我々がしていくということですね。

瀧口：人間にとっても、AIにとっても、読みやすいかたちにするということなんですね。ありがとうございます。