AI失控能否被提前观测？清华团队提出AI「失控行为预测框架」
AI失控能否被提前观测？清华团队提出AI「失控行为预测框架」近日，OpenAI 和 Hugging Face 披露了一起AI 安全失控事件。
来自主题: AI技术研报
7996 点击 2026-07-30 10:30
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
近日，OpenAI 和 Hugging Face 披露了一起AI 安全失控事件。
Stephen Wolfram，一个把毕生精力都花在「让机器变聪明」上的人，坐在电脑前，屏幕上是ChatGPT刚替他写好的一段代码。语言是他自己发明的Wolfram Language，语法他看过，没问题，按下回车键就能直接在这台机器上跑。
这些项目未必都是最成熟的，但它们有一个共同点：没有把模型本身当作产品，而是把 AI 放进一条具体的任务链里，让一个想法变成物品，让一个需求得到回应，或者让一套智能系统真正运转起来。
“工程师过去可能把40%到60%的时间用来写代码。现在很多人把大部分时间花在规划任务和审查代码上。”
年近 70 岁的图灵奖得主、强化学习之父理查德・萨顿（Richard Sutton），宣布创业了。本周一，Richard Sutton 宣布与 Khurram Javed 共同创立新公司 Oak Lab，要打破当前深度学习方式，用全新的理念构建 AGI。
研究团队提出了 XG-Guard (eXplainable and fine-Grained safeGuarding framework), 一个基于 GAD 且兼具可解释性和细粒度检测能力的无监督安全防护框架。目前工作已被 ACL 2026 Main Conference 接收。
近期， ECCV 2026 结果公布，Realsee 团队的成果 Argus: Metric Panoramic 3D Reconstruction for Indoor Scenes 成功入选。它面向室内全景图像，能够从稀疏、无序的全景照片中，直接预测相机位姿、度量深度和点云重建结果，可以为 3DGS 提供更稳定、更精准的几何约束。
Patronus AI 今天官方宣布公司完成由 Greenfield Partners 领投的 5000 万美元 B 轮融资，Lightspeed Venture Partners、Notable Capital、Datadog、三星、Gokul Rajaram、Factorial Capital 以及来自我们实验室和新实验室的众多人工智能领军人物也参与了本轮融资。
前些天，CMU 助理教授、TVM/XGBoost/MLC-LLM 的创造者陈天奇发布了一本免费在线书籍《Modern GPU Programming For MLSys（面向机器学习系统的现代 GPU 编程）》。
来自至知创新研究院（IQuest Research）、中国人民大学高瓴人工智能学院、KAUST等机构的研究团队提出了FORT，一个面向Deep Search Agent的shortcut-resistant training-data synthesis framework。