DeepSeekのDeepInferが日量155T推論を公開

Open sourceの最新推論エンジンDeepInferは1 clusterあたり日量約155テラトークンの推論を実現すると報じられている。加えて81日で約2200万ドルの収益見込み、約80%の粗利が挙げられているとされる。

なぜ重要かオープンソースの高性能推論が商用利用を後押しし、コスト削減とイノベーションが加速する。