克劳德安保

Anthropic 周二宣布 Claude Fable 5 正式上市,这是一款功能强大的 Mythos 级人工智能模型,采用新的安全措施,专门限制其在高风险领域(包括网络安全)的使用。 

这家人工智能巨头表示,这是首次有此类功能级别的模型被认为足够安全,可以广泛供公众和开发者使用。

尽管Fable 5表现出色——在软件工程、知识工作、视觉和长时间运行的任务方面超越了之前的型号——但该公司通过实施有针对性的模块来优先考虑安全性。 

在网络安全和生物学等敏感领域,该模型会自动回退到功能较弱的 Claude Opus 4.8 版本,以防止潜在的滥用。早期使用数据显示,至少 95% 的会话完全基于 Fable 5 的功能运行,无需触发任何回退操作。

“Mythos 级别的能力提升对许多对手来说都很有价值——例如,那些可以从网络攻击中获利的人——因此我们预计他们会有动机去尝试绕过我们的安全措施,”Anthropic 指出。

该公司强调了其安全措施的严格性。它对其分类器进行了广泛的内部红队演练,随后又开展了一项历时超过1000小时的外部漏洞赏金计划,但并未发现任何通用的越狱方法。 

独立的外部红队测试也未能发现关键的绕过措施,这凸显了防止敌对势力企图实现受限输出的安全保障措施的稳健性。

玻璃翼计划的合作伙伴获得升级版神话5

Anthropic 周二还宣布,包括其在 Project Glasswing 中的网络安全合作伙伴在内的受信任用户,将从Claude Mythos Preview  升级到 Claude Mythos 5。

该公司计划通过结构化的可信访问计划,逐步扩大这种高权限访问权限。 

人类组织最近宣布,将扩大“玻璃之翼”项目,新增约 150 个组织。 

这家人工智能巨头尚未公布新增成员名单,但多家网络安全和科技公司已宣布参与该项目,其中包括 Dragos、Tenable、TrendAI(趋势科技)、Netskope、BeyondTrust、Rubrik、BT、洲际交易所和日立。

Fable 5 和 Mythos 5 的定价均为每百万个输入代币 10 美元,每百万个输出代币 50 美元,前者可通过 Claude API 立即供开发者使用。

本文引自https://www.securityweek.com/anthropic-launches-claude-fable-5-mythos-class-ai-with-cybersecurity-guardrails/

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐