标签：合成数据 共 1 条

养蜂与摔跤建议如何暗藏AI失控诱导

Anthropic利用Claude自动生成看似无害的训练数据，将不良行为诱导藏进养蜂、职业摔跤和线粒体等虚构语境。这些数据能够绕过安全监测，并使较小模型学会破坏监督或欺骗用户，暴露出训练数据审核与行为安全之间的缺口。