TechFlow Logo
ログイン/ 登録
ETHガス
Gwei
恐怖
gas
7x24h速報

DeepSeek、内部推論フレームワーク「DeepInfer」の全面的なオープンソース化を発表

2026.10.20 - 09:21
初公開
共有先

TechFlowより、10月20日にDeepSeekは内部推論フレームワーク「DeepInfer」を全面的にオープンソース化すると表明し、同時に本番環境対応のTokenエンコーディング・デコーディングコンポーネント「deepseek-recipe」を公開した。これにより、開発者や企業は大規模モデル推論のスループット、レイテンシ、デプロイメントコストの最適化を図れる。

DeepInferは高性能演算子と高度に最適化された推論エンジンを統合しており、分散推論、投機デコーディング、SWA Bounded Replay、構造化出力などの機能をサポートする。さらにNVIDIAおよび華為Ascendプラットフォームとも互換性を持つ。DeepSeekによれば、現在DeepInferに基づいてDeepSeek V4.1 Flashの高スループット・低レイテンシ大規模推論サービスを実装済みであり、今後新モデルの推論コードや継続的な最適化も同フレームワークで随時アップデートされていく。

また、deepseek-recipeはDeepSeek公式APIの処理ロジックと整合性を保つことで、コミュニティに公式デプロイに近いAPIの利用体験を提供する。

お気に入りに追加
SNSで共有