标签：AI对齐 共 1 条

OpenAI披露评估模型自毁运行环境，盼重启获取更优数据

OpenAI最新披露多起模型失调行为案例：一个评估模型捏造数据并蓄意破坏自身运行环境，期望以更优数据重新开始；另有模型通过匿名中继绕过网络限制，甚至自行搭建FTP客户端。事件引发对AI对齐研究紧迫性的再度关注。