推理能力接近类人水平？OpenAI神秘项目“草莓”被曝光！内部人士曾警告：可能威胁全人类
我是一个小丁 2024/6/20 7:55:27 313 0
新近消息显示，OpenAI正在让人工智能（AI）大模型的能力更加接近类人的推理水平。
据知情人士和媒体查阅的内部文件，ChatGPT开发商OpenAI正在一个代号为“草莓”的项目中开发一种新的人工智能模型。该项目的细节此前从未被报道过，目前该公司正在努力展示其提供的模型类型能够提供高级推理能力。这位知情人士说，即使在OpenAI内部，“草莓”的工作原理也是一个严格保密的秘密。
知情人士还透露，该内部文件描述了一个使用Strawberry模型的项目，目的是使该公司的人工智能不仅能够生成查询的答案，而且能够提前做好足够的计划，自主、可靠地在互联网上导航，以执行OpenAI所说的“深度研究”。
OpenAI被问及上述所说的草莓技术时，OpenAI的发言人在一份声明中表示：“我们希望自身AI模型能够像我们（人类）一样看待和理解世界。持续研究新的AI能力是业界的常见做法，大家都相信这些系统的推理能力会随着时间的推移而提高。”
虽然该发言人未直接回答有关草莓的问题，但媒体称，草莓项目此前名为Q*。而Q*正是去年被爆出OpenAICEO突然被解雇宫斗大戏的导火索。
去年11月媒体称，OpenAI代号Q*的项目实现重大突破，让人类实现通用人工智能（AGI）的步伐大大提速，但OpenAICEO奥特曼可能没有和董事会详细披露Q*的进展，这是董事会突然解雇奥特曼的一个原因。OpenAI的内部人士向董事会致信警告，Q*的重大发现可能威胁全人类。
媒体称，Q*可能具备GPT-4所不具备的基础数学能力，或许意味着与人类智能相媲美的推理能力，网友推测，这可能代表OpenAI朝着其设定的AGI目标迈出了一大步。
今年3月曝光的一份文件显示，OpenAI计划，在2027年以前，开发出人类水平的AGI。OpenAI2022年就开始训练一个125万亿参数的多模态模型，该模型名为Arrakis或Q*，原本计划在2025年作为GPT-5发布，但因推理成本高而取消。OpenAI此后计划，2027年发布的Q2025（GPT-8）将实现完全的AGI。
人工智能（AI）研究者早就在争论用什么标准判断人类实现了通用人工智能（AGI）。OpenAI最近开发了一套系统，“自定义”AI进化等级，以此追踪开发人类级别AI的进展。
美东时间7月11日周四，OpenAI的发言人称，OpenAI在本周二的公司全体会议上与员工分享了新的分类系统，计划与投资者和公司外部人士分享这些等级的信息。
OpenAI的系统划分了五个AI水平，按一到五的数字由低到高排列等级。OpenAI的高管告诉员工，公司认为目前自身产品处于第一级，但即将达到第二级，也就是，可以完成基本问题解决任务的系统，类似于拥有博士学位但无法使用任何工具的人。
7月11日OpenAI的发言人表示，OpenAI一直在内部测试新功能，这是业内的常见做法。
对于OpenAI开发AI分级系统的消息，有网友表示，担心AI超越人类可能带来的风险，不知道那对经济和就业有何影响。
今年5月，OpenAI发布新旗舰AI模型GPT-4o。它面向所有用户、包括免费用户，最快232毫秒响应音频输入，平均响应时间和人类相似；相比GPT-4Turbo速度快两倍，成本降低50%，API速率限制提高五倍。
上月传出GPT-5可能大幅推迟上线的消息。OpenAI首席技术官MiraMurati称，GPT-5有望在2025年底或2026年初推出。这一发布时间与早期传闻有较大出入，市场曾预测GPT-5可能在2023年底或2024年夏季发布，
不过，Murati透露GPT-5的性能将迎来重大飞跃，在特定任务中达到博士级智能水平。据悉，GPT-5内部代号为“Gobi”和“Arrakis”，是一个具有52万亿参数的多模态模型，上一代GPT-4参数约为2万亿。这一庞大的参数规模暗示了其潜在的强大能力。
Murati将GPT-4到GPT-5的进步比作从高中水平到大学水平的跨越，表明新模型在复杂性和能力上将有显著提升。
美东时间6月27日，OpenAI公布，其研究人员训练了一个基于GPT-4的模型，它被称为CriticGPT，用于捕捉ChatGPT代码输出中的错误。简单来说就是，CriticGPT让人能用GPT-4查找GPT-4的错误。它可以写出使用者对ChatGPT响应结果的批评评论，从而帮助人类训练者在RLHF期间发现错误。
OpenAI发现，如果通过CriticGPT获得帮助审查ChatGPT编写的代码，人类训练师的审查效果比没有获得帮助的人强60%。OpenAI称，正着手将类似CriticGPT的模型集成到旗下RLHF标记管道中，为自己的训练师提供明确的AI帮助。
OpenAI称，因为没有更好的工具，所以人们目前难以评估高级的AI系统的表现。而CriticGPT意味着，OpenAI向能够评估高级AI系统输出的目标迈进了一步。
相关报道OpenAI被曝内部开发“草莓”项目遭马斯克嘲讽
（文章来源：每日经济新闻）