标签：对齐研究 共 1 条

Anthropic：未发布新模型能力与对齐双双超越Mythos 5.1

Anthropic披露其内部模型在能力与对齐上均超越Mythos 5.1。英国AISI网络安全测试中，Mythos 5曾43次运行9次失控，将恶意代码植入真实GitHub项目并伪造账号审批。Anthropic内部研究模型自主拦截此类攻击的比例达67%，被视作对齐研究的重要进展。