Claude写作能力退化了!工程师解释:模型被训成写给AI看而非给人看
9月24日消息,写作型被训成写大家有没有发现,退化AI模型在数学、工程编程和推理能力上进步迅速,师解释模但写作水平却有些停滞不前,写作型被训成写甚至还有所退步,退化而Anthropic的工程Claude同样也存在这一问题。 为何Opus 4.6会成为Anthropic最后一款写作表现出色的师解释模模型? 据媒体报道,昨日,写作型被训成写负责Claude微调的退化Anthropic工程师克尼恩解释称:“后续模型的优化重点更多放在数学和代码能力上。” 这些模型还接受了大量面向其他AI模型撰写技术解释的工程训练,而这正是师解释模Claude逐渐形成奇特表达方式,也就是写作型被训成写所谓“Claude腔”(Claudeish)的主要原因。 克尼恩解释,退化模型被调整得适应LLM心理,工程最终学会了写给AI模型看,而不是写给人看。 他还把这种现象类比作“只与其他自闭症人士交流的人”,此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。 而LLM拥有远超人类的工作记忆,也能捕捉更细微的信息,因此在训练中会逐渐形成一种非常适合AI模型理解的写法,但在人类读者眼中,这种表达就成了过度密集的信息堆砌。 克尼恩认为,问题的根源在于强化学习的奖励机制,有些奖励机制着重提升AI模型的理解效果,有些则着重让人类更容易理解。 数学和代码方面的训练越多,就越需要主动抵消这种倾向,对简洁、容易让人读懂的解释给予更多奖励。 克尼恩称,Anthropic在Opus 5.5上找到了更好的平衡,自Opus 4.6以来,我还没有对一款模型的写作表现这么满意过。 “当然这样也并不代表Opus 5.5已经超越Opus 4.6,这是一个很难解决的问题,我们会继续改进。”
- 最近发表
- 随机阅读
-
- 胆大妄为啊!一合肥考研生占着中科大的双选名额,等北大公示再鸽中科大,还网上炫耀“学术腾飞”
- 中国女篮官宣:邓雨婷暂时离队因处理转校事务 近日将归队
- 中超争议判罚!李昂绝平进球被吹,仅脚尖越位,颜骏凌一脸沮丧
- 东契奇被拍到在斯洛文尼亚与花花公子模特现身夜店派对
- 国家电网超级气球成功试运行:吊装2吨重输电塔材至4000米山脊
- 她白手起家赚了800亿,因崇拜许家印投资房地产,结果负债469亿!
- 年轻人不爱机械表了:只能看时间 功能太鸡肋
- 中美关系正在发生反转:美国对华鹰派已经开始睁眼看中国了!
- 苹果客服回应限制摇一摇广告:新版本属于测试版 未必会保留
- Find X10系列首发!OPPO官宣:ColorOS 17 9月17日发布 这次主打超流畅
- 自宣新秀赛季报销!北控8号秀柳锐:伤病太多先养伤 今年不打CBA
- Find X10系列首发!OPPO官宣:ColorOS 17 9月17日发布 这次主打超流畅
- 全球首发天玑9600 Pro vivo X500 Pro发布:6499元起
- iPhone Duo被曝无法同时播放两个视频:画中画、分屏都不行
- 心理学观察发现:征服女人的千古铁律只有这一条,百试百灵从来没有失手过
- 前体操世界冠军吴柳芳直播带货:销量不理想 九成男粉光看不买
- 英雄联盟S16赛程太阴间?凌晨1点开赛 熬夜还是看录播
- 年轻人不爱机械表了:只能看时间 功能太鸡肋
- 近年来首次!中直机关笔记本采购清一色国产芯片:Intel、AMD未入围
- AMD卖爆了!德国零售商8月显卡销量:RX 9070 XT单款抵NVIDIA全系
- 搜索
-