「专业智能体指导」让小模型学会数学推理!微调Mistral-7B实现86.81%准确率
「专业智能体指导」让小模型学会数学推理!微调Mistral-7B实现86.81%准确率对于小型语言模型(SLM)来说,数学应用题求解是一项很复杂的任务。
搜索
对于小型语言模型(SLM)来说,数学应用题求解是一项很复杂的任务。
大型语言模型(LLM)往往会追求更长的「上下文窗口」,但由于微调成本高、长文本稀缺以及新token位置引入的灾难值(catastrophic values)等问题,目前模型的上下文窗口大多不超过128k个token
在4月27日召开的中关村论坛通用人工智能平行论坛上,人大系初创公司智子引擎隆重发布全新的多模态大模型Awaker 1.0,向AGI迈出至关重要的一步。
2024 年,Sora 一直活在聚光灯下
FP8和更低的浮点数量化精度,不再是H100的“专利”了!
苹果第一款真正的AI设备,即将问世。
啊?Sora火爆短片《气球人》,也“造假”了???
训练模型搞得跟《饥饿游戏》似的,全球AI研究者,都在苦恼怎么才能喂饱这群数据大胃王。
4月28日,2024中关村论坛年会“重塑医疗:医学中的创新人工智能转型”平行论坛在北京召开。“人工智能正引领科技革命,对医疗健康产生深远影响。”北京市卫健委副主任邓平基在开场致辞中表示。
国务院国资委副主任王宏志4月28日说,中央企业、地方大型国有企业特别是行业龙头企业,要加快实施“AI+”专项行动