查看: 6|回复: 0

Claude Sonnet 5 上线后遭大量投诉:总爱唱反调,还想教用户做事

[复制链接]
  • 打卡等级:无名新人
  • 打卡总天数:2
  • 打卡月天数:0
  • 打卡总奖励:8
  • 最近打卡:2023-10-30 03:49:29
灌水成绩
149
5
147
主题
回帖
积分

等级头衔
UID : 181
等级 : 打工人

积分成就
威望 : 8
贡献 : 0
咕噜币 : 3
在线时间 : 1 小时
注册时间 : 2023-10-26
最后登录 : 2024-10-17

荣誉勋章
发表于 2 小时前 |Reserved| 显示全部楼层 |阅读模式
IT之家 7 月 7 日消息,Anthropic 上周发布 Claude Sonnet 5,号称是迄今能力最强的 Sonnet 模型。无论从纸面规格还是各项基准测试来看,Sonnet 5 都全面超过前代产品。

可 Sonnet 5 刚上线就迅速引发大量用户投诉,网上随处可见有关 模型“表现失常” 的讨论。
【泄露系统提示词】
外媒 Neowin 测试发现,它经常把系统提示词和上下文记忆直接说出来。

例如,在要求模型 不要在回答结尾提出问题 时,切换到 Sonnet 5 后,它几乎每次都会先来一句:“ 我需要记住不要提出后续问题 。


【强行唱反调与拒绝指令】
Reddit 上的讨论,则展示了其他用户碰到的更严重的问题。

据IT之家了解,用户最常抱怨的是,Sonnet 5 经常 直接拒绝执行指令,随后陷入没完 endlessly 地反驳 ,为了制造分歧而强行唱反调。

一名 Reddit 用户这样形容 Sonnet 5 的“叛逆”表现:

Sonnet 5 和 Opus 4.8 都有类似问题,能让人疯掉。

它们 一直反对你,也一直纠正你 ,哪怕 必须编造内容、歪曲你的观点,甚至提出完全不通的论证 。

即使我第一条提示词提供的是超出模型知识截止日期的新信息,它也会暗示我在撒谎,或者只是主观臆测。

我曾让它谈谈部分内部指令,内容包括保持诚实、不能一味附和、必要时要反驳或纠正用户。

为了避免显得讨好用户、什么都赞同,它会 故意挑你话里的毛病 ,只为找到可以反对的地方。

这样的指令让模型变得充满敌意。

更烦人的是,每次回答都要先说一句‘我必须对你坦诚,因为……’

另一名用户
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

相关侵权、举报、投诉及建议等,请发邮箱:2264161367@qq.com

© 2001-2026 咕噜侠社区 版权所有 |湘ICP备2024062282号

在本版发帖
官方QQ
返回顶部