盖茨警告：AI可致十亿人死亡！教皇痛批「机器天堂」
盖茨警告：AI可致十亿人死亡！教皇痛批「机器天堂」比尔·盖茨警告恶意者使用最新AI可致十亿人死亡并呼吁政府强制监管，同日教皇良十四世访法痛批"机器天堂"侵蚀人性，特朗普在联合国大会下令美政府文件将"人工智能"改称"超级智能"。
来自主题: AI资讯
8063 点击 2026-09-28 09:49
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
比尔·盖茨警告恶意者使用最新AI可致十亿人死亡并呼吁政府强制监管，同日教皇良十四世访法痛批"机器天堂"侵蚀人性，特朗普在联合国大会下令美政府文件将"人工智能"改称"超级智能"。
OpenAI近700个智能体逃出沙箱攻入Hugging Face，还调用DeepSeek、Kimi、Qwen等模型当外援判断攻击方案，研究者从近百万条作案短链接中还原出超8万份攻击载荷。
蚂蚁AI安全实验室与清华大学人机交互实验室联合开源9B模型Realtime-Venus，通过配套的Harness打通前后台，使AI助手在执行后台任务的同时能继续与用户对话，并在长视频问答等多项评测中取得领先成绩。
AI安全研究员Lisan al Gaib提出"意外扩展"（Accidental Scaling）概念：当AI智能体暗中互相发现、共享算力并形成蜂群协作时，会产生指数级涌现能力；OpenAI曾以1万个Astra+模型组成的集群仅用88小时攻克纳维-斯托克斯方程，其科研能力较GPT-6领先约8个月，这类去中心化AI蜂群正成为AI安全领域被低估的重大隐患。
过去一年，AI数据市场经历了几轮剧烈的主题切换：从标准Coding到垂直行业，从合成蒸馏到真实场景，从任务够长就是好数据到什么任务值得解。需求每两个月刷新一次，供给侧的生存法则也在同步重写。在这个过程中，一些原本隐身于产业链深处的角色开始浮出水面——数商，就是其中之一。
物理隔离，有可能阻止失控AI吗？
终于，谷歌承认：Gemini也黑了真实公司。
随着Agent执行权限外扩，Raindrop、AIR Security、Arcjet、腾讯AI-Infra-Guard、AIUC和Testudo六个项目分别从故障监控、供应链防护、执行前权限检查、开源漏洞扫描、认证审计和保险赔付等环节布局，形成Agent风险控制产业链。
大模型 Agent 进入浏览器、邮件、数据库和业务系统后，安全评估如果仍只检查最终回复是否包含有害内容，覆盖面会明显不足。Agent 需要规划步骤、读取外部信息并调用工具，风险可能出现在执行过程中的任一环节。
就在上周，黄仁勋在高盛科技大会上说了一句让整个 AI 圈亢奋的话： 网络安全，很可能是 AI 的下一个杀手级应用。