英伟达提出全新Star Attention,10倍加速LLM推理!登顶Hugging Face论文榜
英伟达提出全新Star Attention,10倍加速LLM推理!登顶Hugging Face论文榜大模型如今已具有越来越长的上下文,而与之相伴的是推理成本的上升。英伟达最新提出的Star Attention,能够在不损失精度的同时,显著减少推理计算量,从而助力边缘计算。
搜索
大模型如今已具有越来越长的上下文,而与之相伴的是推理成本的上升。英伟达最新提出的Star Attention,能够在不损失精度的同时,显著减少推理计算量,从而助力边缘计算。
就在刚刚,谜底揭晓!David Mayer这个名字,ChatGPT死活都不说,原因竟然是因为,它真的被告怕了!
Cursor:革命性AI编程助手,估值25亿美元。
刚刚结束Pre-A轮融资,穹彻智能再次完成数亿元Pre-A+轮融资!至此,穹彻智能在短短半年内,已经完成两轮数亿元融资。该轮融资由红杉中国领投。
近日,BitNet系列的原班人马推出了新一代架构:BitNet a4.8,为1 bit大模型启用了4位激活值,支持3 bit KV cache,效率再突破。
谷歌DeepMind最新基础世界模型Genie 2登场!只要一张图,就能生成长达1分钟的游戏世界。从此,我们将拥有无限的具身智能体训练数据。更有人惊呼:黑客帝国来了。
据ZP独家报道,前OpenAI研究与安全副总裁Lilian Weng已加盟Fellows Fund,担任新的Distinguished Fellow。
我们经常聊如何做一款好的 AI 产品,却很少聊怎么成为一名好的 AI 产品经理。
只是一次让 AI 尝试改写《大闹天宫》的尝试,但核心的理念是,在当下,我们书写 prompt 的方式,以及我们如何与 AI 打交道的方式。
就在刚刚,Google Deepmind 深夜放大招,发布了最新基础世界模型 Genie 2。 想体验游戏世界?未来只需一张图片就能实现。 作为一个基础世界模型,Genie 2 能够凭借开局一张图生成各种可操作、可玩的 3D 环境。