Transformer上限触顶，Mobius能否引发下一代模型架构的革命？
Transformer上限触顶，Mobius能否引发下一代模型架构的革命？Transformer 的上限在哪里？这个问题从 2022 年 ChatGPT 问世起，就开始被广泛讨论。
来自主题: AI技术研报
7318 点击 2026-08-06 09:36
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
Transformer 的上限在哪里？这个问题从 2022 年 ChatGPT 问世起，就开始被广泛讨论。
人类看图时，不会先在大脑中拍下一张「截图」，再闭眼推理。思考过程会不断引导我们的目光：找到一个线索，形成一个假设，再回到图像里验证它。
通过重写 Python、魔改 WebRTC 握手，GPT-Live 让Agent从单向对话进入「实时交互」时代。
多模态基础模型可以通过互联网规模的图像与语言学习「看」和「说」，但具身智能没有同样的捷径。机器人必须进一步理解物理状态与动力学，判断动作如何改变环境，并在真实世界中执行连续行为；这要求训练数据同时连接观察、状态、动作与物理后果。
想象一个刚上岗的实习生。教他做A任务，他学得很好；接着教他做B任务，他又学会了——但回过头再让他做A，他却忘得七七八八。
视觉问答模型的准确率不断提高，但高分未必来自视觉理解 —— 当基准图像与答案已进入训练语料，模型可能只是复现了记忆。浙江大学等团队提出 ReKey：保留原始真实场景，只更新决定答案的那一小块视觉线索，使每轮评测都面向未见过的内容。
如何从一段视频中获得完整、稳定的 3D 物体？过去，这个问题大致沿着两条路线发展。
当 VLA、WAM、RL、TAMP、MPC 等机器人控制策略在各自擅长的任务中大放异彩，如何刻画其能力边界，并在正确的时机为不同子任务匹配最合适的策略，正逐渐成为机器人完成复杂长时序任务的关键。
近年来，视觉 — 语言 — 动作模型（Vision-Language-Action Model，VLA）正逐渐成为通用机器人控制的重要技术路线，但当这些模型真正进入高频闭环执行时，一个矛盾越来越突出：模型越来越大、语义能力越来越强，动作更新却未必足够快。
Agent的能力越来越强，但使用体验仍有一个尴尬之处： 每换一个Agent甚至换一个session，就像换了一个完全不了解你的新员工。