英伟达、斯坦福联合发布新工作:机器人上下文扩至8K,意味着什么?
英伟达、斯坦福联合发布新工作:机器人上下文扩至8K,意味着什么?近五分钟“肌肉记忆”,推理延迟不随历史增长
搜索
近五分钟“肌肉记忆”,推理延迟不随历史增长
OpenAI还有大招!
整个AI圈,都在为Opus 5沸腾!
7月29日,华盛顿国会山。 奥特曼刚结束一场与参议员的闭门会,一出门就被记者围住。
电影史上有些技术,普通观众未必叫得出名字,却会改变一代人的镜头记忆。
2亿枚AI芯片,要集体开机了!目前,全球投入使用的AI芯片,总算力已经相当于约2000万枚英伟达H100芯片。按照Epoch AI的估算,这个数字大约每9个月翻一倍。到2028年年底,全球AI算力预计将相当于约2亿枚。
最近一个月,差不多每隔两天就有人问我同一个问题:"现在这轮AI,是不是特别像当年互联网刚起来的时候?那是不是闭眼买就完事了?"我每次都被问得一愣。因为这问题问得其实挺对——AI和互联网确实是最常被拿来类比的两件事。但我越想越觉得,它最值钱的部分不是"像不像",而是"像哪一年"。
一个80亿参数的大模型,一口气吞下15万亿token的训练数据,堆到硬盘上差不多7TB。可它真正「背」得下来的,少得可怜:每个参数只装得下3.6 bit。一个英文字母8 bit,连半个都填不满。
Corgi,这家每周工作七天、在旧金山经营通宵咖啡馆的AI保险初创公司,再次从投资者那里获得了融资——不到三个月,已是第三次。多位知情人士告诉《福布斯》,本次融资对公司的估值为40亿美元,几乎是5月底以来其估值的两倍。
近日,独立开发者 Harshal Singh 公布了一个仅有 3500 万参数的基础语言模型 BarunLM,并声称:「我预训练了世界上参数量小于 100M 的最好模型」。