Sparticle株式会社が提供する生成AIプラットフォーム「GBase」が、デスクトップサイズのAIサーバー「NVIDIA Spark」と組み合わせることで、企業向けオンプレミスAI基盤の構築を現実的なコストで実現する。従来の専用GPUサーバーと比較して約1/20のコストで導入可能となり、これまでオンプレミスでの生成AI導入を諦めていた企業にとって新たな選択肢となる。

コンパクトなAIサーバーが変える企業のAI導入

NVIDIA Sparkは、ラックマウント型の大規模サーバーとは異なり、一般的なデスクトップPCと同等かそれ以下のサイズ感を持つコンパクトなAIサーバーである。オフィスの一角に設置でき、静音性にも優れているため、専用サーバールームや特別な空調設備を用意する必要がない。市場で一般販売されているモデルをそのまま購入できるため、調達リスクやリードタイムも最小限に抑えられる点が特徴だ。

量子化技術で実現する高性能と低コストの両立

GBase on Sparkは、LLM大規模言語モデルとVLM視覚言語モデルを内蔵し、手書きメモ、走り書き、スキャン文書、複雑な表や図解を含むあらゆるドキュメントを理解・回答できる高精度RAG技術を搭載している。量子化処理とARMプラットフォーム最適化により、Spark上でスムーズに動作し、社内完結のナレッジ活用を実現する。OpenAI初のオープンウェイト推論モデル「OpenAI OSS-GPT-120B」やAlibaba「Qwen3-Next-80B」など、最先端のオープンソースLLMをインストール可能で、GPT-4oクラスの性能をオンプレミス環境で利用できる。

セキュリティとコンプライアンスを重視する企業に最適

GBase on SparkとSparkの組み合わせでは、LLM推論やRAG検索をすべて社内ネットワーク内で完結させることができる。機密情報や社外秘資料をクラウドに送信する必要がなく、ゼロトラストやデータ主権の観点からも安心して利用できる。アクセス制御や権限管理、操作ログの記録機能により、誰がいつどの情報にアクセスしたかを追跡できるため、内部統制やコンプライアンスの要件にも対応しやすい。金融、公共、製造など、クラウド前提の運用に踏み切りづらい組織にも適した構成となっている。

幅広い業務シーンで活用可能

社内ヘルプデスクでは、PCトラブル、経費精算ルール、休暇制度などへの24時間一次対応が可能となり、担当者の負担軽減と社員の待ち時間ゼロを実現する。店舗やコールセンターのフロント業務では、商品情報や営業時間、ルール説明などのオペレーター支援により、新人でもベテラン品質の応対を可能にする。また、手書きメモやスキャン仕様書、議事録、保守手順書など、従来検索しづらかった非構造化資産をRAG化し、全社横断で即時引き出し可能にすることで、属人化ノウハウを誰でも使える状態に変換できる。

GBase on Sparkは、ブラウザベースの管理画面や自動ログ取得・モニタリング機能を備えており、ユーザー管理やナレッジベースの運用を一つのインターフェースで完結させることができる。インフラ専任の担当を置かなくても、既存の情報システム部や企画部門と連携しながら、ほぼメンテナンスフリーに近い運用体制を構築しやすい点も大きな魅力となっている。

出典: https://prtimes.jp/main/html/rd/p/000000120.000087269.html