github.com/sail-sg/understand-r1-zero为了理

又仁看科技 2025-03-22 10:30:28

github.com/sail-sg/understand-r1-zero

为了理解类似deepseek R1-Zero 的训练，该项目批判性地研究了两个核心组件：基础模型和强化学习。

基础模型部分发现，所谓的Aha moment实际上在基础模型阶段（epoch 0）就已经出现，而非通过强化学习训练获得。

强化学习部分提出了改进方法Dr. GRPO，在保持推理性能的同时提高了Token效率。

AI生活指南ai创造营

0 阅读：0

又仁看科技

感谢大家的关注

作者最新文章

1

上海酒店价格差异调查原来苹果手机订酒店更贵是谣言手机不知道，我个人的体验是，

2

卡内基梅隆大学2025年春季开设的“高级自然语言处理”课程cmu-l3.gith

3

李继刚:给基座模型写的Prompt，是「纺棰状」，两头小，中间大。给推理模型写的

4

MathArena用最新的美国数学奥林匹克来考验大模型，结果还是比较惨淡。所有模

5

Junxian He 分享了关于零强化学习（RL）训练的最新进展，介绍了 Sim

6

deepseek v3的官方公告，本次更新增强的是推理能力、前端编程能力、中文写

7

电子书《Web Browser Engineering》browser.engi

8

一篇关于强化学习的综述论文 Reinforcement Learning: A

9

[允悲]这商品AI图不检查下吗

10

除了deepseek，Qwen系列昨天也开源了新模型：Qwen2.5-VL-32

热门分类

推荐热榜军事 NBA 体育社会明星八卦娱乐财经科技汽车历史国际游戏动漫公益搞笑商业互联网数码国际足球房产家居时尚科学探索职场育儿股票教育影视情感热点中国军情武器中国南海中国足球亚洲杯科比综合体育 CBA 投资楼市大咖秀外汇创业风口 SUV 豪车概念车优惠新能源美国欧洲朝日韩俄罗斯孕期街拍恋爱攻略婚姻正能量

科技TOP

1

雷军小米YU7樱花照人家拍车自己买的，雷总拍车自己造的[捂脸哭]太全面了，这么早起

2

有没有注意到海尔老板的领带上都是空调、洗衣机，双开门冰箱，细节满满。

3

买iPhone16的是不是肠子都悔青了？

4

某搜索已经很久不用了，还有好几个几乎就胎死腹中了。李开复说的可能是对的！

5

小米su7，挂了牌瞬间不嘻嘻了

6

雷军到底投了多少家企业，看看这个版图，不比马斯克小了。

7

【#OpenAI称DeepSeek是另一个华为#：受“国家补贴”、“国家控制”】

8

这玩意AI也能生成？[捂脸哭]

9

6G时代来临，科技巨头布局新赛道！

10

京东回应外卖日单量突破百万京东称外卖日单量已突破百万魏蜀吴三国争霸时代，315

科技最新文章

1

2024年度“中国科学十大进展”公布：1.嫦娥六号返回样品揭示月背28亿年前火山

2

雷军回母校遭遇两级反转这可能是他们距离“首富”最近的一次了，羡慕死[哭哭][哭哭]

3

用了vivo手机后，我彻底改变了对它的看法vivo手机销量第一，拍照特别好，尤

4

华为Mate80可能要成为热门手机，据最新信息显示，华为Mate80带着新技术

5

据说华为mate80会采用16：9的屏幕，如果是真的，那真是太好了。大家都知道

6

一加，你是真让我觉得陌生！！一加用户这回真麻了。。。新款一加13T暂定4

7

不知道这个前小米男人现在后悔了吗

8

vivo最近大动作不断呀！先是爆料了X200s和X200Promini，全新

9

全新的X200s、全新的X200Promini，vivo全新配色曝光，好清新

10

雷军小米YU7樱花照人家拍车自己买的，雷总拍车自己造的[捂脸哭]太全面了，这么早起