Home

Fujitsu AI computing broker

富士通のAI computing broker (ACB) は、実行環境に応じて動作するミドルウェアで、GPUの割り当てを最適化し、メモリーの効率的な共有を実現します。その結果、効率とスループットが向上し、計算コストの削減に貢献します。

GPUの性能を最大限に引き出す鍵は、優れたスケジューラーにあります
ACBはGPUの稼働率を高め、コストを抑えながら、パフォーマンスを向上させます

主な機能

● Runtime-aware GPU allocation: AIフレームワークの稼働状況を把握し、必要なGPUを割り当てます
● Full Memory Access: 稼働中のプログラムは、GPUメモリ全体にアクセスできます
● Advanced Scheduling: バックフィルなどの技術を活用し、ジョブ配置の最適化と全体的な利用率の最大化を図ります
● Fast Deployment: ユーザープログラムのコード変更なしで統合可能

GPU効率を最大化するチャンス！今なら30日間無料でお試しいただけます

先行アクセスが可能になりました 一足先に当社のソリューションのパフォーマンス、柔軟性、そしてコントロールを、無料で、制約なしにぜひご体験ください
より詳しい内容を知りたいときは？ ウォーキングデッキ、テクニカルホワイトペーパー、その他の関連資料は、このページの下部にありますのでご確認ください
質問したいときは？ ご質問やご要望は、このページの「無料β版の詳細はこちら」ボタンからお気軽にお問い合わせください

いずれかに当てはまる場合は、ACBをぜひご検討ください

ワークロードには、CPUとGPUのタスクが交互に実行される段階が含まれますか？

順番待ち（キュー）やバッチ処理が必要な複数のGPU対応ジョブはありますか？

ワークロードは、GPUメモリ全体を断続的に使用できますか？

共有GPUインフラストラクチャ上で、需要が均一でない複数のドメイン固有のLLMをホストする必要がありますか？

無料β版の詳細はこちら

技術概要

ターゲット業界・ユーザー

AIインフラストラクチャチーム、エンタープライズMLおよびデータチーム、クラウド/SaaS AIサービスプロバイダー、AI研究機関およびスタートアップ（バイオテクノロジー、金融、アナリティクス）、GPUホスティングプロバイダー

ターゲット業界・業務の課題

GPUの価格高騰と不足、現GPUインフラストラクチャでの低い利用率

技術課題

実行時の非効率性、断片化されたツールチェーン、ハードウェアのスケーリング制約

富士通の技術優位性

実行環境に応じたGPU割り当て
GPUメモリの効率的な共有管理
ユーザープログラムのコード変更なしに統合可能
詳細な説明は、技術ホワイトペーパーをご覧ください（ページ下部にリンクがあります）

ユースケース

LLM inference
- 多様なサービスを提供するために、単一の推論サーバーに複数のAIアプリケーションをインストールする
AI Training and Inference
- モデルパラメータ探索中に、複数の学習プロセスを同時に実行できるようにすることで、開発スループットを向上させる

事例

AlphaFold2 Throughput Optimization
- ACBは複数のAlphaFold2ジョブ間でGPUリソースを動的に共有し、スループットを維持しながらGPU使用率を45%向上
Multi-LLM Hosting
- ACBは単一のGPUサーバー上で複数のLLMを管理し、メモリ使用量を最適化し、遅延なく同時モデルサービングを可能に
FX Risk Models
- GPU多重化により、金融リスクモデルの学習スループットが向上し、効率が2倍以上に
Cloud Services
- 単一GPUノードで複数のAIモデルをホストし、物理GPUメモリ容量の5倍にあたるメモリを効率的に活用
AI models for Retail
- IaaSアプリケーション向けオブジェクト認識モデル学習で、2倍のスループットを実現

(詳細については、下部にリンクよりプレスリリースと技術ホワイトペーパーをご参照ください)

技術お試し

プライベートベータに参加: 30日間フルアクセスが可能です
概念実証（PoC）が可能です

ドキュメント (coming soon)

英語版	日本語版
ACB Walking Deck	ACBウォーキングデッキ-説明スライド
Technical White Paper	技術解説書
User Manual	ユーザーマニュアル