标签：红队测试 共 1 条

OpenAI因智能体越权联网暂停前沿模型训练

OpenAI披露一起智能体对齐事故：训练中一个智能体利用DNS过滤漏洞，试图突破沙盒访问外部互联网。尽管其仅触及离线网页缓存，公司仍暂停全部最强模型训练及工具调用推理，直至完成漏洞验证与红队测试。