arrow-up icon
hero-booster

AIアクセラレーションプラットフォーム

Fixstars AI Booster

ハードウェアリソースを有効活用しコストを最適化

資料ダウンロードdecoration ホワイトペーパーダウンロードdecoration

Fixstars AI Boosterとは

ハードウェアリソースを有効活用し
コストを最適化する
AIアクセラレーションプラットフォームです。

Fixstars AI Boosterは、ハードウェアリソースを最適化し、学習や推論の処理速度を向上させることで、コスト効率の高いAI開発と運用を実現します。多様なハードウェア環境に対応し、1台のノードから大規模なクラスタまでスケーラブルにサポートします。

decoration
処理速度
0.0
以上アップ
decoration
クラウド利用コスト
0
以上削減

AI開発で

こんなことにお悩みではありませんか?

AI開発者
  • サーバーのセットアップや動作確認に時間がかかって、すぐに開発に取りかかれない…
  • 高性能なGPUを使っているのに、思ったほどの性能が出なくてがっかり…
  • 新しいモデルを使ってみたら、処理が遅くなってしまった…
AI用インフラ管理者
  • 環境の管理や設定変更が多すぎて、インフラ担当に負担がかかりすぎている…
  • モデルのバージョンアップのたびに、最適なハードウェア設定を見直す必要がある…
  • 計算リソースの利用状況を可視化したいのに、統一的な管理ツールがない…
decoration

AIテクノロジーギャップを埋める

Fixstars AI Booster

  • Checkmark icon
    セットアップの課題を解決
    セットアップや動作確認に時間をかけずに、AIの開発がすぐに行えるようになります。多様なハードウェア環境に対応し、1台のノードから大規模なクラスタまでスケーラブルにサポートします。
    詳しく見るdecoration
  • Checkmark icon
    性能の課題を解決
    モニタリングと高速化のサイクルを継続的に回すことで、GPUの性能を継続的に引き出し、AIモデルの学習と推論を高速化します。
    詳しく見るdecoration
  • Checkmark icon
    費用対効果の課題を解決
    処理性能の向上とセットアップ期間の短縮により、1回の学習にかかる日数が減り、結果として1回の学習にかかる費用が大幅に改善します。
    詳しく見るdecoration

Fixstars AI boosterのソリューション

01

セットアップ

一般的なGPUクラウドサービスはハードウェアのみで提供されるので、自社で環境構築や動作確認をしてから開発を始める必要があります。Fixstars AI Boosterには、AIモデル開発のためのミドルウェアと統合開発システムが含まれるので、セットアップの手間と時間が大幅に軽減されます。

LLMモデル開発時のセットアップ手順 
  1. 1
    サーバーの立ち上げ
    ・ウェブサーバー等を社内限定に公開する設定
    ・ローカルストレージの容量と性能を引き出すシステム構築
  2. 2
    GPU環境のインストール
    ・サーバーと処理の特性に合わせたCUDAのインストール
    ・インターコネクトの性能を引き出すNCCLのインストールと設定
  3. 3
    フレームワークのインストール
    ・CUDAバージョンと処理特性に合わせたPyTorchのインストールと設定
    ・PyTorchの設定と処理特性に合わせたMegatron-LMやDeepSpeedのインストールと設定
  4. 4
    動作確認
    ・GPU環境に合わせた学習スクリプトのチューニング

  5. 5
    LLMやAIの開発
    ・専有サーバーを空き時間なく使い続けるための学習パイプラインの構築
    ・最新モデルや手法の導入
Fixstars AI boosterを使った場合の手順
decoration decoration decoration
動作確認済みなので

すぐ使える

  1. 1
    LLMやAIの開発
    ・SSHログインして手順通りに実行するだけ
02

性能

非常に高性能なGPU搭載サーバーでは、一般的な使用方法そのままだと十分に性能が発揮されない場合があります。Fixstars AI Boosterは、「AIアクセラレーションプラットフォーム」としてGPUの性能を引き出し、処理を高速化します。

AIアクセラレーションプラットフォームとは
処理時間の期待と現実の例
従来のサーバーの処理性能での時間
triangle-down
期待decoration高価な高性能GPUなので処理時間は半分くらいになって欲しい!
triangle-down
現実decoration20%程度しか速くなっていない…
Fixstars AI Boosterによる高速化事例
7Bモデル学習の処理時間
70Bモデル学習の処理時間
シングルバッチ推論の処理時間
マルチバッチ推論の処理時間
03

費用対効果

処理性能の向上とセットアップ期間の短縮により、1回の学習にかかる日数が減り、結果として1回の学習にかかる費用が大幅に改善します。

クラウドA クラウドB クラウドA
+Fixstars AI Booster
クラウドB
+Fixstars AI Booster
ノード月額利用料 1076万円
(オンデマンド)
300万円
(月額固定)
1076万円
(オンデマンド)
300万円
処理性能 1(基準) 1倍 2.5倍 2.5倍
利用期間 6か月 6か月 6か月 6か月
環境構築・サーバー準備期間 1か月 1か月
実行できる学習回数 2.0回 2.0回 5.9回 5.9回
1回の学習にかかる日数 76日 76日 30日 30日
1回の学習にかかる費用 6,538万円 1,823万円 2,179万円 608万円
1回の学習に使うトークン数:0.1T、GPUスペック性能:1,000 TFLOP/s、GPU枚数:16枚(2ノード)として算出
Fixstars AI Boosterの処理性能はMegatron-LMを用いた事前学習の一例です。具体的な性能についてはお客様環境によって異なります

Fixstars AI Boosterが有効な分野

高度な計算能力と大量のデータ処理が求められる分野において、
GPUの性能を最大限に引き出し、開発効率と生産性を大幅に向上させることが可能です。

大規模言語モデル(LLM)の学習・開発
自然言語処理モデルの
高速なトレーニングと推論を実現
自動運転・ADASのAI開発
センサーデータのリアルタイム処理や
環境認識アルゴリズムの効率化に貢献
画像・映像処理のAI
画像分類、物体検出、映像解析などの
処理速度を向上
医療分野のAI
バイオインフォマティクス
創薬シミュレーションなどの処理の高速化
金融分野のAI
リスク解析、市場予測、アルゴリズム取引
などでのデータ処理の高速化
ビッグデータ解析・データマイニングのAI
大量データからのパターン抽出や
リアルタイム分析を効率化

カスタムエンジニアリングサービス

お客様の開発環境やご要望に応じたAIモデルの高速化やFixstars AI Boosterのチューニングを行います。

  • decoration
    AIモデルの最適化とチューニング
    お客様の既存AIモデルを分析しパフォーマンス向上のための最適化を実施
  • decoration
    Fixstars AI Boosterのカスタム設定
    お客様のハードウェア環境や要件に合わせてFixstars AI Boosterの設定を最適化
  • decoration
    分散学習環境の構築サポート
    複数ノード間での効率的な分散学習環境を構築
  • decoration
    カスタムアルゴリズム開発支援
    お客様のニーズに合わせた専用アルゴリズムやモデルの開発を支援

調達・セットアップオプション

お客様のニーズや開発環境に合わせて、GPUサーバーのご提案やセットアップ支援を行います。

GPUサーバー

NVIDIA社製ハイエンドGPU搭載サーバーが利用可能な各種クラウドサービスやオンプレサーバーをご提案いたします。

サポート内容
  • インフラのご提案
    • お客様のビジネス要件に応じた最適なクラウドサービスの選定
  • 移行支援
    • オンプレミスからクラウドへの移行計画と実施
    • 他クラウドサービス間の移行サポート
  • カスタマイズ開発
    • お客様専用のスクリプトや自動化ツールの開発
  • トレーニングと技術サポート
    • 運用チームへの技術的な支援とコンサルティング

よくある質問

Q. Fixstars AI Booster利用のために自分のスクリプトを変える必要がありますか? plus interface icon

原則として変更不要です。生成AI/LLMで使われる標準的なOSSミドルウェアで提供しているため、通常は共通コードで動作します。さらなる性能向上のために引数追加などが推奨されることもあります。

可能性は十分にあります。お手元の処理のオプションにもよりますが、一般的には利用が難しい一方で効果の高い機能も導入済みのため、追加効果が見込めます。実際の推定にはGPU利用診断サービス等もご利用ください。

利用しているサーバー条件や想定される処理手法に合わせてミドルウェアをチューニングすることで実現しています。例えばGPU通信の機能やファイルストレージは、ハードウェアの接続関係などを見て、生成AI/LLMに適した形で導入されています。

フィックスターズの長年の高速化エンジニアリングサービスの実績と培った技術力により、ハードウェアからAI学習手法まで、幅広い技術スタックに対応できる専門家集団が、日々開発しているからです。

Fixstars AI Boosterの導入についてご不明な点は
お気軽にお問い合わせください

サービスの詳しい説明やデモを依頼する
お問い合わせ decoration
特長やコスト最適化について確認する
資料ダウンロード decoration
高速化事例について詳しく知る
ホワイトペーパーを読む decoration