搜索
在大型语言模型（LLM）的无损推理加速中，推测解码（Speculative Decoding）已成为工业界标配。以 EAGLE-3 为代表的自回归草稿模型虽然预测准，但每多猜一个 token 就要多跑一步串行前向；而受扩散语言模型启发的 DFlash 将草稿生成彻底并行化 —— 一次骨干网络前向即可同时吐出整块候选 token，大幅压缩了起草耗时。
在 Cheeky Pint 采访中，OpenAI CEO 山姆・奥特曼称PC闲置内存用于本地AI利用率低且浪费全球DRAM，应将紧缺内存集中到云端AI数据中心，并认为内存厂商扩产保守已使“看不见的手”失灵。
还得是「源神」D老师，善呐！
DeepSeek 开源的推理框架 DeepInfer 经 PCIe 本机取数改造后，可在无 RDMA 网卡的 4 张 B200 上以 128k 上下文承载 1024 并发，总输出约 6.2 万 token/s。
10月20日，ChatGPT聊天框里多了一把锁。
没想到这也开源了。
昨天，DeepSeek 直接把自家压箱底的「印钞机」技术给开源了。
就在刚刚，DeepSeek再放大招，全面开源自研推理框架DeepInfer。一个集群一天服务155万亿Token，DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理，靠的就是它。
上海创智学院、源策未来、香港大学和英伟达团队提出PingpongDuo，通过联合站位规划与全身运动控制，让两台宇树G1与人类搭档完成18次连续交替回球，验证人形机器人双打协同。
任务很简单：把一个加热后的杯子放进柜子。一个智能体先把杯子放进微波炉，再放进柜子，随后陷入反复查看柜子的循环。这个无效行为重复了 36 次，直到耗尽行动预算，任务仍然没有完成。