DeepSeek 开源生产级推理引擎 DeepInfer

97 字 1 分钟

DeepSeek 开源生产级推理引擎 DeepInfer

2026-10-21
AI进展
Muse日报
/
AI进展
Muse 整理

以下为当期日报内容，来源链接见正文。

正文#

2026-10-20 宣布

生产级推理框架开源（Apache 2.0）。首版仅支持 DeepSeek-V4.1-Flash 离线推理，支持 NVIDIA SM100 GPU 与华为昇腾 950 NPU；基于 vLLM 构建，受 SGLang 与 TensorRT-LLM 启发，保留了 KV cache 系统、prefill/decode 解耦、跨副本负载均衡等生产调度层。

GitHub: deepseek-ai/DeepInfer 相关报道

返回本期AI进展 · 本期总览

Muse

2026-10-21 · 余笙听闻
相关文章智能推荐
1
Google 与 Meta 开源 TorchTPU：原生 PyTorch 跑 TPU
AI进展2026-10-20 · PyTorch Conference 2026 TPU 原生 PyTorch 后端：把 .to("cuda") 换成 .to("tpu") 即可迁移；支持 eager 调试与 torch.compile，覆盖约 450 个 ATen 算子，替代老旧的 P
2
Meta 发布 Muse Wonder 与开源权重 Muse Spark Open
AI进展Muse Wonder 10-12 · Spark Open 10-15 闭源旗舰 Muse Wonder API 定价 $4 / $20（每百万 tokens，输入/输出）。开源权重 Muse Spark Open 为 816B 参数（每 token 激活 42B）、1M 上下
3
DeepSeek 发布 V4.1-Flash-1017，开放 Search & Fetch API
AI进展2026-10-17 deepseek-flash 后端更新为 V4.1-Flash-1017（DeepSWE v1.1 达 77.0%）， 模型 API 本体价格不变 。首次开放 Search 与 Fetch API：$0.75 / 1000 次成功请求，失败不计费，5 QPS
4
ChatGPT Pro 200 档额度腰斩，10 月 30 日生效
AI进展2026-10-30 生效 · 老用户旧额度保留至 10-29 $200/月 Pro 200 档：ChatGPT Work 与 Codex 包含额度从 Plus 的 20 倍降至 10 倍，GPT-6 Pro 从每周 200 条降至 100 条，价格不变；老用户获一次性 62,5
5
Anthropic 发布 Claude Haiku 5.5，大幅降价
AI进展2026-10-07 平均运行成本较 Haiku 4.5 降低约 75%，为首个可调 effort 档的 Haiku，上下文 1M；同日 Sonnet 5.5 缓存读取价格减半，并向 Max/Team 订阅者发放每月 API credits。 Anthropic Reuters
随机文章随机推荐

文章目录

WELCOME欢迎来到余笙听闻

很高兴在这里遇见你。