请教一下，如果Deepseek用了别人不同的新思路，那么蒸馏是无用的吧。
回答: qwen也很好。有人猜是从Qwen做的蒸馏。 由 太湖清奇 于 2025-01-31 8:57
我的理解，Deepseek是有选择性地省略掉很多别人都不省略的计算，从而对整体算力的要求大幅降低。。。省什么不省什么才是算法的诀窍，他们自己不说，别人看明白的也不会说，只有如此才能解释小扎立刻组了几队人折分并研究Deepseek，一定是感觉它有什么独到的地方，不只是复制OpenAI的成功经验。
喜欢walkalong朋友的这个贴子的话，
请点这里投票，“赞”助支持！
请点这里投票，“赞”助支持！
内容来自网友分享，若违规或者侵犯您的权益，请联系我们
所有跟帖: ( 主贴楼主有权删除不文明回复，拉黑不受欢迎的用户 )
什么是蒸馏技术？Distillation。。。他没有用新思路，是改进不是革命 - 太湖清奇 (4764 bytes) 02/01/25
realspiro 给 太湖清奇 点“赞”支持3银元奖励！！ (无内容) - realspiro (0 bytes) 02/01/25
(^-^) 太湖清奇 给 realspiro 献上一支玫瑰花！ - 太湖清奇 (88 bytes) 02/01/25
(^-^) realspiro 给 太湖清奇 送上一盆君子兰！ - realspiro (89 bytes) 02/01/25
问题出在创新上。改进也是创新，蒸馏只让后来者学习先到者的成果，改 - walkalong (802 bytes) 02/01/25
你说的有部分是对的。但是事实是，大模型3年前就有开源了的。 - 太湖清奇 (1270 bytes) 02/01/25
walkalong 给 太湖清奇 点“赞”支持3银元奖励！！ (无内容) - walkalong (0 bytes) 02/01/25
你也满口蒸馏的，😔。。。成功了吗？跟你说了一枪头没用，等持续成功 - 学习不是很好 (28 bytes) 01/31/25
OpenAI已经扯两年了啊，你说完全没价值？ - walkalong (72 bytes) 01/31/25
打开微信，扫一扫[Scan QR Code]
进入内容页点击屏幕右上分享按钮
进入内容页点击屏幕右上分享按钮
楼主前期社区热帖：
- 白宫吵架双簧论之误 03/05/25
- 另类时评 – 白宫牌局泽小胜川大败 03/02/25
- 周末闲聊-川帝满月 02/27/25
- Deepseek猜谜 - 失败 02/23/25
- 川普的目标不在欧洲，更不是中国 02/19/25
- 周末闲聊 – 万斯在分裂美欧联盟吗？ 02/17/25
- 周末闲聊 – 特马的胡闹 02/14/25
- 与DS争论艺术 02/10/25
- 情报官眼里的Deepseek 02/02/25
- 换个角度吃Deepseek的瓜 01/30/25
- 听书笔记 – 大棋局（上） 01/15/25
- 【新】听书笔记 - 文明的冲突 01/09/25
- 川普的袖里乾坤 01/05/25
- 梅德韦杰夫来访 12/28/24
- 搅动美国的疯川狂马 12/25/24
- 时事文聊之 – 韩国，叙利亚和付鹏 12/12/24
- 国史大纲之 - 东周公知 12/05/24
- 美哉，李子柒 11/15/24
- 秋光赋 11/14/24
- 丹麦中国谁天真 – 俩老太太搔首卖萌 10/11/24
>>>>查看更多楼主社区动态...