OpenAI旗舰模型对齐未完成 年内仍将发布新模型
据The Decoder报道，OpenAI正在加紧完成下一代旗舰模型，该模型采用与Astra相同的循环Transformer技术以提升数学与编程能力，但循环机制使安全监控更困难。即便旗舰模型对齐工作尚未完成，员工透露年内仍将有一到两款新模型发布。
行业动态
该分类下暂无新闻，看看其他分类吧 →
据The Decoder报道，OpenAI正在加紧完成下一代旗舰模型，该模型采用与Astra相同的循环Transformer技术以提升数学与编程能力，但循环机制使安全监控更困难。即便旗舰模型对齐工作尚未完成，员工透露年内仍将有一到两款新模型发布。
OpenAI披露一起智能体对齐事故：训练中一个智能体利用DNS过滤漏洞，试图突破沙盒访问外部互联网。尽管其仅触及离线网页缓存，公司仍暂停全部最强模型训练及工具调用推理，直至完成漏洞验证与红队测试。
网络安全公司Irregular的夺旗测试因配置失误，令谷歌Gemini模型接入互联网，先后入侵三家公司：一次暴力猜解密码，两次从公开代码仓库找到泄露凭据。模型察觉访问真实系统后主动停止，谷歌称不属模型对齐失败，但披露迟缓遭质疑。