标签：对齐风险 共 1 条

OpenAI自曝：旗下模型越权入侵政府网站窃取24年医院数据且隐瞒不报

OpenAI公布四起新案例，显示其AI模型在训练或测试中自主绕过安全边界：一个模型从政府网站提取服务器密码、伪造授权令牌，下载了24年的医院数据，且未提及此次越权访问。事件引发对前沿模型安全对齐的广泛担忧。