コンテンツにスキップ

Home

複数のLLMサービスも提供可能！
マルチサーバーにも対応したAI computing broker
GPUの利用を効率化するソフトウェア技術「AI computing broker」により、AI 処理に必要な GPU サーバー数を大幅に削減、電力消費およびAI 開発・運用コストを劇的に改善します。

優れたポイント・差別化ポイント

figure1
AI 処理に必要な GPU サーバー数を大幅削減、設置面積・電力消費等が圧縮、さらに従来不可能だった GPU メモリを超えるジョブが実行可能となることで、全体で AI 開発・運用コストを劇的に改善
性能分析・HPC・AI 処理に関する高い技術力の保有が差別化のポイント

ビジネス展開におけるポイント

figure2
AI 開発者・SaaS 事業者：開発・運用コストを削減、競争力強化に貢献
AI 提供事業者：限られた資源でより多くのサービス展開が可能、新たなビジネスチャンスへ

技術概要

ターゲット業界・ユーザー

  • AIアプリやサービスの開発・提供者、データセンタ事業者

ターゲット業界・業務の課題

  • AI処理に必須となっているGPUの価格高騰・品不足

技術課題

  • 複数のAIアプリでGPUを共有し効率的に利用することで必要GPU数を削減する。

AI computing broker がもたらす価値（詳細）

  • プログラムを変更することなくインストールするだけで以下のメリットを得られる。
    • 既存GPU資源でのAI処理スループットの向上
    • 必要GPU数の削減による設備投資コスト削減(クラウドインスタンス料金の削減含む)
    • GPUメモリ以上のアプリを配備可能なため、多くのAIアプリを少ないGPUで収容可能

富士通の技術優位性

  • AIプログラムの処理内容に踏み込み、GPUを利用する処理のみにGPUを割り当てる技術
  • 世界トップのＨＰＣ技術の開発で培った性能分析技術とGPUなどのデバイス性能を引き出すソフトウエア技術

利用シーン

  • エンドユーザー
    • 1台の推論サーバーに複数のAIアプリを搭載し、多様なサービスを提供
  • アプリ開発者
    • モデルのパラメータ探索時に、複数の学習処理を同時に実行できるため、開発スループットを向上

事例・ユースケース

  • トレーダム様(為替予測AIサービス提供事業者)のモデル開発プロセスに組み込むことで、約２倍のスループットを達成
  • Alpha-Fold2(タンパク質の3D構造予測)に適用することで、従来の半分のGPU数で同じスループットを達成

技術お試し

  • PoCの実施も可能です

関連情報