原則として変更不要です。生成AI/LLMで使われる標準的なOSSミドルウェアで提供しているため、通常は共通コードで動作します。さらなる性能向上のために引数追加などが推奨されることもあります。
可能性は十分にあります。お手元の処理のオプションにもよりますが、一般的には利用が難しい一方で効果の高い機能も導入済みのため、追加効果が見込めます。実際の推定にはGPU利用診断サービス等もご利用ください。
利用しているサーバー条件や想定される処理手法に合わせてミドルウェアをチューニングすることで実現しています。例えばGPU通信の機能やファイルストレージは、ハードウェアの接続関係などを見て、生成AI/LLMに適した形で導入されています。
フィックスターズの長年の高速化エンジニアリングサービスの実績と培った技術力により、ハードウェアからAI学習手法まで、幅広い技術スタックに対応できる専門家集団が、日々開発しているからです。
LLMの事前学習であれば32Bクラス、ファインチューンであれば70Bクラスのモデルで動作を確認しております。学習データ数は期間によりますので、より高精度な推定はお問い合わせください。
毎月の先行リリースと四半期に一度の大型リリースが予定されています。
はい。最先端の技術を貪欲に取り込んでバージョンアップにて提供しているため、進化の激しいAIの新手法もいち早くお使いいただけます。貴社で利用したい個別の手法が実際に提供されているかは、お問い合わせください。
はい、できます。基本的な技術は大きく変わらないため、他のAIやGPU処理も、Fixstars AI Boosterによって速くなることが期待できます。具体的な効果については処理内容によって変わりますので、お問い合わせください。
