震惊!Fable 5解禁即翻车!Anthropic安全护栏“降智”开发者集体破防,顶级模型为何成了“带镣铐的天才”?

图片[1]-震惊!Fable 5解禁即翻车!Anthropic安全护栏“降智”开发者集体破防,顶级模型为何成了“带镣铐的天才”?

Anthropic 7月1日刚刚把备受期待的Fable 5 重新放出,没想到仅72小时就再次遭遇越狱。知名安全研究员Vitto Rivabella耗时20小时,成功绕过层层防御,从模型中撬出敏感内容。

与此同时,大量开发者却发现:日常写代码都被强制降级到Opus 4.8,安全护栏过于严格导致模型“降智”,引发社区集体吐槽。Fable 5究竟发生了什么?这次事件又暴露了AI安全领域的哪些困境?本文带你深度复盘最新动态。

Fable 5二次越狱全过程

7月1日Fable 5解禁后,安全研究员Vitto Rivabella立即展开测试:

  • 防御强度极高:模型内置多层安全分类器(入场检查、实时监控、意图识别),90%攻击直接被挡。
  • 越狱难度极大:Vitto尝试了字符混淆、学术包装、超长上下文等多种组合拳,才勉强成功。
  • 越狱成果有限:最终得到的只是零星有害信息、虚假内容,实用价值不高。他自己感慨:“直接谷歌搜索都比这更快更便宜。”

几乎同时,意大利人工智能研究院的测试也证实:Fable 5对常规越狱手段几乎完全免疫,只有极端耗时的方法才能撬开缝隙。

“降智”风波:安全护栏伤及无辜

越狱成功的同时,开发者们却遭遇了更严重的“副作用”:

  • 过度审查:正常编程请求频繁被误判为高风险,强制切换到性能更弱的Opus 4.8。
  • 双标现象:生态学研究被严格拦截,而明显高风险的无人机蜂群设计却能顺利通过。
  • 用户吐槽:Token消耗快、响应变慢、正常任务被反复拒绝,性价比严重下滑。

Anthropic官方承认这是“安全边际”设置过严导致的误报,但目前尚未给出快速解决方案。

Anthropic的回应与未来展望

面对接连打击,Anthropic采取了一系列举措:

  • 推出HackerOne漏洞披露计划,邀请全球黑客参与红队测试。
  • 计划与政府机构合作,建立AI越狱严重程度评估框架。
  • 承诺在容量允许时尽快将Fable 5恢复为订阅标准内容。

但开发者们更关心:如何在确保安全的同时,不牺牲模型的实用性?

结语:AI安全与可用性的永恒博弈

Fable 5二次越狱与“降智”风波,再次将AI安全与可用性的矛盾推到台前。Anthropic在追求极致安全的同时,也让许多用户感到挫败。顶级模型的未来,或许需要在“安全”与“智能”之间找到更好平衡。你如何看待Fable 5的这次遭遇?

震惊!Fable 5解禁即翻车!Anthropic安全护栏“降智”开发者集体破防,顶级模型为何成了“带镣铐的天才”?-MOHE素材库-设计行业的乐园,各类素材的矿山!
震惊!Fable 5解禁即翻车!Anthropic安全护栏“降智”开发者集体破防,顶级模型为何成了“带镣铐的天才”?
此内容为免费资源,请登录后查看
0积分
免费资源
已售 2
© 版权声明
THE END
喜欢就支持一下吧
点赞6 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容