RLHF不够用了，OpenAI设计出了新的奖励机制
RLHF不够用了，OpenAI设计出了新的奖励机制OpenAI 的新奖励机制，让大模型更听话了。
来自主题: AI技术研报
7083 点击 2024-07-25 18:25
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
OpenAI 的新奖励机制，让大模型更听话了。
就在去年，由斯坦福大学和谷歌的研究团队开发的“AI小镇”一举引爆了人工智能社区，成为各大媒体争相报道的热点。他们让多个基于大语言模型（LLMs）的智能体扮演不同的身份和角色在虚拟小镇上工作和生活，将《西部世界》中的科幻场景照进了现实中。
训练数据是用 GPT-4o 生成的？那质量不好说了。
AI面部识别，已经完全融于所有人的日常生活中。不过，来自斯坦福的一项研究中发现，AI竟可以从毫无表情的面部中，识别出一个人的政治倾向，而且准确率惊人。
“我想问在座一个问题，无论是求真书院还是丘成桐少年班的同学，如果这个问题都不知道，那你就不应该在这个班！”
以GPT-4o为代表的多模态大语言模型（MLLMs）因其在语言、图像等多种模态上的卓越表现而备受瞩目。它们不仅在日常工作中成为用户的得力助手，还逐渐渗透到自动驾驶、医学诊断等各大应用领域，掀起了一场技术革命。
我们知道 LLM 是在大规模计算机集群上使用海量数据训练得到的，机器之心曾介绍过不少用于辅助和改进 LLM 训练流程的方法和技术。而今天，我们要分享的是一篇深入技术底层的文章，介绍如何将一堆连操作系统也没有的「裸机」变成用于训练 LLM 的计算机集群。
人形机器人翻跟头、讲笑话、跳女团舞，city不city？
很多公司现在都可以说自己是AI行业的，但形成模式≠有长期价值。
在今天回顾过去一年 AI 应用层的进展，AI 搜索一定是难以忽视的一个方向。在很长的一段时间里，AI 搜索=Perplexity，在榜单上，几乎感受不到其他搜索产品的存在。