AI资讯新闻榜单内容搜索-LLM

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: LLM
并行推测解码SOTA!因果依赖刻进草稿网络深度,SGLang吞吐最高达4倍,已开源

并行推测解码SOTA!因果依赖刻进草稿网络深度,SGLang吞吐最高达4倍,已开源

并行推测解码SOTA!因果依赖刻进草稿网络深度,SGLang吞吐最高达4倍,已开源

在大型语言模型(LLM)的无损推理加速中,推测解码(Speculative Decoding)已成为工业界标配。以 EAGLE-3 为代表的自回归草稿模型虽然预测准,但每多猜一个 token 就要多跑一步串行前向;而受扩散语言模型启发的 DFlash 将草稿生成彻底并行化 —— 一次骨干网络前向即可同时吐出整块候选 token,大幅压缩了起草耗时。

来自主题: AI技术研报
6503 点击    2026-11-10 09:23
中国LLM讨论纪要

中国LLM讨论纪要

中国LLM讨论纪要

中国LLM讨论纪要认为,反蒸馏措施正令国产模型蒸馏成本上升5—10倍甚至20倍,算力与融资成为竞争核心,中美模型差距或由3—4个月拉长至约12个月。

来自主题: AI资讯
10302 点击    2026-11-06 15:53
NeurIPS 2026 | 港大提出RaPO:强化微调破解MLLM灾难性遗忘,代码已开源

NeurIPS 2026 | 港大提出RaPO:强化微调破解MLLM灾难性遗忘,代码已开源

NeurIPS 2026 | 港大提出RaPO:强化微调破解MLLM灾难性遗忘,代码已开源

在 LLM/MLLM 领域,基于 verifier 奖励的强化微调(Reinforcement Fine-Tuning, RFT,如 GRPO)在激发复杂推理能力方面展现出显著优势。由于 On-policy 优化的特性,很多研究指出 RFT 相比传统的监督微调(SFT)天然具备更强的抗遗忘能力。

来自主题: AI技术研报
8694 点击    2026-11-05 17:01
独家|周畅从字节Seed离职,背后是多模态统一路线之争

独家|周畅从字节Seed离职,背后是多模态统一路线之争

独家|周畅从字节Seed离职,背后是多模态统一路线之争

据Z Finance报道,周畅已离开字节Seed、转向Physical AI创业并获头部美元基金投资,但接近字节的人士否认离职;Seed将VLM并入LLM体系,折射出多模态统一路线调整。

来自主题: AI资讯
8311 点击    2026-11-05 15:46
大道至简!复旦×南洋理工提出SimpleVLN,用原生MLLM刷新导航SOTA

大道至简!复旦×南洋理工提出SimpleVLN,用原生MLLM刷新导航SOTA

大道至简!复旦×南洋理工提出SimpleVLN,用原生MLLM刷新导航SOTA

设想这样一个场景:给机器人下达一句自然语言指令,让它穿过走廊、接连转弯,最终走进指定房间。视觉语言导航(VLN),需要让机器人结合沿途看到的画面,把人类的语言指令转化为一连串连续行动。

来自主题: AI技术研报
6969 点击    2026-10-30 10:03
比GPT-6 Luna快8倍!扩散LLM跑分也反超了

比GPT-6 Luna快8倍!扩散LLM跑分也反超了

比GPT-6 Luna快8倍!扩散LLM跑分也反超了

GPT-6 Luna 要被扩散 LLM 抢饭碗了?

来自主题: AI资讯
8654 点击    2026-10-26 11:13
谷歌开源TorchTPU!TPU成PyTorch原生设备,CUDA最深的护城河开始松动

谷歌开源TorchTPU!TPU成PyTorch原生设备,CUDA最深的护城河开始松动

谷歌开源TorchTPU!TPU成PyTorch原生设备,CUDA最深的护城河开始松动

谷歌与Meta联合开源TorchTPU,使TPU成为PyTorch原生设备,并完成vLLM、SGLang、Hugging Face、Ray、TorchTitan等主流项目接入,CUDA的软件生态护城河开始松动。

来自主题: AI资讯
9447 点击    2026-10-24 13:41