搜索
GitHub火热开源项目Colibrì以纯C实现分层推理框架，通过AI内存多层化将SSD、RAM和VRAM组成动态调度系统，无需GPU即可让普通笔记本运行744B参数GLM-5.2等超大MoE模型，已揽获32k Star并支持9个模型家族。
推理创业公司Inferact用自研的megakernel内核结合DeepSeek的DSpark推测解码框架，让16块谷歌TPU v7运行Kimi K3达到每秒709个token，比同条件下16块英伟达GB200快57%。
是石科技自研Meta-Infer高效推理引擎通过内核补齐、算子通信重构、并行调优与缓存复用等纯软件手段，在不改动模型前提下将DeepSeek-V4.1-Flash在PCIe显卡上的推理吞吐提升近7倍，该方法论同样适用于DeepSeek-V4-Flash、GLM5.3及国产GPU。
AI产业的两道坎，浪潮信息怎么翻？
骁龙首次双旗舰齐发，最高8核CPU、GPU内置AI核、NPU内存扩容，安卓旗舰大战正式开打。
AI基础设施公司Cornelis完成2.05亿美元融资并发布Active Compute Fabric网络技术，以开放架构与Nvidia竞争，解决GPU等待数据造成的算力浪费问题。
大模型越来越会 “想”，也越来越能把 GPU 显存 “想满”。 在数学、科学问答和代码生成等任务中，reasoning model 往往会生成数千乃至数万 token 的长推理链。随着生成持续进行，每
Jina AI 发布端到端文档解析模型 jina-ocr-v1，以 3.4B 总参数/570M 激活参数在 OmniDocBench v1.6 与 olmOCR-Bench 上刷新同级别最佳成绩，并凭借 FastMTP 推测解码与分级密集奖励在低成本 GPU 上实现无损近倍速生成，单页仅输出 1085 个 token 以 2.57 页/秒吞吐领跑 14 款主流系统。
DeepSeek资深MLSys工程师刘胜与深夜发文，坦承刚完成V4.1核心算子交付后，意识到AI已能自主编写和优化GPU算子，正迫使他从手写底层算子转向驾驭AI Agent的"机甲驾驶员"，并警示工程底层能力空心化可能带来系统性风险。
高通提前剧透下一代骁龙旗舰移动平台的核心升级：Oryon CPU首次实现5GHz主频并引入动态缓存架构FlexCache，Hexagon NPU推出Element Accelerator与更大共享内存，Adreno GPU首次加入Matrix Cores并集成AI图形渲染技术Adreno Neural Fusion，全面强化端侧智能体AI性能与体验。