Z by HP Data Science Ambassadors×日本HP×NVIDIA、ローカル生成AI特別対談

生成AIの次なるステージ：ローカル環境がビジネスの新しい扉を開く理由

左から日本HPの勝谷 裕史氏、Z by HP Data Science Ambassadorsの井ノ上 雄一氏、NVIDIAの高橋 想氏

GPUの性能向上で「ローカル環境」の価値が変わった

　生成AIの、企業におけるビジネスやさまざまな研究分野においての活用が本格化してきているが、生成AIの新たなトレンドとなりはじめているのが「ローカルで処理する生成AI」（以下、ローカル生成AI）だ。

　ローカル生成AIは、文字通り、クラウドではなくローカル環境を使って生成AIの学習やモデルの生成などを行なうことだ。今回の対談では、NVIDIAの高橋 想氏、Z by HP Data Science Ambassadorsの一員として、研究にHPのワークステーションを使用している井ノ上 雄一氏、ハードウェアを提供する日本HPの勝谷 裕史氏の三者の視点から、ローカル生成AIの実力と可能性を探る（以下、略敬称）。

　井ノ上氏は、Sakana AIという日本を代表する生成AIのスタートアップに研究者として勤める傍ら、Kaggle主催のデータサイエンスの大会などでも活躍中。日本HPの勝谷氏は企業ユーザーと接しながら自身でも生成AIに取り組んでいる。

　ローカル生成AIが注目されるのは、GPU性能の向上や軽量な言語モデルの活用などソフトウェアの進歩、加えて企業ユーザーの「秘匿性の高いデータはローカルに置きたい」というニーズによるものがある。

　これらは数値化できたり事例も語られているが、生成AIに関係する研究開発を行っている井ノ上氏は「ワークステーションで十分に対応できるところも多い」と語る。ローカル生成AIは、ハードウェアを見極めたクラウドとの使い分けはもちろんだが、今後、企業にとって大きな課題となってくるプロフェッショナルなAI人材に関わる点で注目してみる価値があるようだ。

ハイエンドGPUとデスクトップワークステーションが作り出す世界

──ローカル生成AIの話の前に、生成AIとGPUの関係についてあらためてうかがいたいと思います。生成AIの進歩には、GPUの進歩が密接に関係していますよね。これは「GPUが進歩したからAIも発達してきた」と見るべきですか？　それとも「生成AIの発展に、GPUの進歩が追従している」と考えた方が自然でしょうか。

NVIDIA 高橋 想氏

NVIDIA 高橋「NVIDIAとしては、2012年のアレックスのImageNetでの話（※1）を受けて、一気に、AIを意識した開発にシフトしました。市場で支持されている使い方が、NVIDIAのGPUに十分にマッチしているという状況が先にありました。当時のGPUはグラフィックス関連、レンダリングなどに使用されているのが一般的でしたが、AIという新しい領域で、GPUの計算能力が必要になるであろうと」

※1 現在のAIブームの起点となった出来事でImageNetプロジェクト主催の画像認識コンテストILSVRCにおいてGPUを活用して畳み込みニューラル ネットワーク（CNN）が優勝した。

──本当に予想外の展開だったのですね。そこから今日まで、ディープラーニングの盛り上がりから生成AIまで飛躍的に進歩してきた。ローカル生成AIというものが注目され始めたのはいつ頃からになりますか？

日本HP 勝谷「言葉としてトレンド化してきたのは2023年初頭あたりでしょうか。私は会社員をしながら大学院に通ってデータサイエンスの勉強をしているのですが、いま、PCにグラフィックカードを2枚挿して、ローカルで生成AIを動かしている学生がたくさんいますよ」

──井ノ上さんが使われているHP Z6 G5 A Workstationは、まさにローカルで生成AIを動かせるワークステーションですね。これは、どのような特徴を持ったマシンですか？

日本HP 勝谷「CPUが『AMD Ryzen Threadripper PRO 7000 WX』で、GPUは『NVIDIA RTX 6000 Ada GPU』を最大3基まで搭載できるというワークステーションです。1台だけで大規模モデルのトレーニングを実施するのは難しいですが、データセンターと連携した実験時に、手元に置いて使うマシンとしてだったり、ローカルでSLM（小規模言語モデル）を検証する用途としては最適です。データサイエンスだけでなく、CADなどに応用するにも使いやすいモデルですね。CPUのコア数の多さは、ベクトル検索（※2）にも適していると思います」

　GPUで生成AIの世界をリードしているNVIDIAだが、RTX 6000 Ada は、そのトップクラスのグラフィックスカード。前世代と比較して約２倍以上のパフォーマンスを実現するとしており、これを最大3枚搭載できるHP Z6 G5 Aや4枚まで搭載できるHP Z8 Fury G5はAIワークステーション用途で多くの引き合いがあるとのこと。

※2 類似性や近似性に基づいて情報を検索する手法。入力データをベクトル空間にマッピングし、同一空間上で近い位置にある、近似概念を探す。