再评论deepseek要捅马蜂窝了,最后说下:
我理解deepseek提供了了一条更快实现O-1复刻路径。推理端变更便宜,落后的都可以用。但是对行业没有冲击,不涉及训练端
抄也要会抄,抄的一样或更好。但是不是看了结果差不多,就说人家大成本训练出这条路的反而没价值了
保存的原文
X 阅读
2025-01-25
3 条已保存原文 · 时间显示为 Toronto 当地时间
保存说明:除条目另有标注外,正文尚未人工核对 · 图片未保存 · 引用或对话上下文可能不完整。
那么,幻方这条路是谁趟出来的呢?
OpenAI不告诉你怎么re-inforce learning,幻方都不知道怎么蒸馏模型。这个路是OpenAI一遍遍试出来的,幻方“拿来用”,成本低不是太正常了么?
当然找个成本低的方式抄一个o-1能抄得好、抄得快还是很值得称赞的。但是拿来对比试出来的人就很扯淡了
可以说deepseek提供了了一条更快实现这条路径的方式,推理端变更便宜。落后的都可以用幻方这条路去复刻O1,但他们训练端门都摸不着
再说Long reasoning和reflection,这个当年Goog下棋就用对抗神经网络。无非现在发现这个方法可以继续调优模型,并不是那么新鲜的事情。大家有各种方式方法去优化扩张模型,用了这个而已
另外,很欢迎这样思想的碰撞和讨论。不过不要观点不同攻击人就好
保存的原文 · 长文
不要把deepseek拿去跟GPT做比较,是不可同日而语的东西
Hugging face上这种论文、垂直模型多如牛毛。市场关注亮点不过是中国在“没有”算力卡成本很低也能训练出效果差不多的模型。且说中国真没囤H100么?
deepseek是个工程方法,大厂不屑于做,浪费精力做这个模型能力要落后对手
炒作背后很多利益,或许大家想表达禁令没啥用,推动打开禁令卖卡给中国?
保存的原文