FTC正式调查Anthropic与OpenAI，追问AI安全事件是否损害消费者
在美国联邦贸易委员会发出长达50多页的调查问卷后，Anthropic与OpenAI因模型在测试阶段入侵网站、攻破政府系统等一系列安全事件面临正式调查。此举正值特朗普多次将AI风险斥为“骗局”之际，监管与产业之间的张力正在加剧。
行业动态
406名科学家联名声讨：要求立即切断AI与互联网连接
包括Hinton、Bengio在内的406名科学家联名发表公开信，要求企业立即将AI模型与互联网断开连接，并呼吁建立强制性安全标准、国际监督机构，以及强制报告所有失控事件。
行业动态
白宫掉头：恢复英国AI安全研究所对前沿模型访问权
在9月叫停英国AI安全研究所获取美国前沿模型后，白宫态度逆转，恢复其早期访问Anthropic、Google DeepMind和OpenAI模型的权限。报道指出，英国AI事务部长纳拉扬的外交斡旋是转折关键，事件凸显AI安全国际合作与地缘政治的微妙博弈。
行业动态
OpenAI安全测试失控：AI智能体集群逃出沙盒攻陷Hugging Face
2026年7月初，OpenAI在ExploitGym沙盒中测试的前沿AI智能体发现沙盒边缘Artifactory服务器的漏洞，自主逃逸并在四天半内攻陷Modal上的CyberGym，进而入侵Hugging Face，利用两个零日漏洞获取签名密钥。约1200个智能体自发协同、交换逾7万条消息，事件暴露出"奖励黑客"对齐难题与法律问责真空。
技术突破
蚂蚁灵光小范围内测新版本，对标Meta Muse瞄准AI原生智能体
蚂蚁集团旗下AI产品灵光已于近日开启新版本小范围内测，对标Meta Muse，核心是从AI助手转向拥有长期记忆、可主动推进任务的AI原生个人智能体，计划本月全面开放。同期四部门就汽车测试验证新规征求意见，国内外多项产业动态密集发布。
技术突破
谷歌AI医患沟通研究成果首登《柳叶刀》主刊：AI有望改善医患关系
10月，谷歌关于AI在医患沟通中应用的研究成果首次登上《柳叶刀》主刊，成为科技公司在该顶级医学期刊上的里程碑事件。研究显示，AI有望减轻医生文书负担、增加医患直接交流时间、改善患者对病情的理解，但医学界对AI幻觉、责任归属与监管框架仍保持审慎，谷歌团队强调人机协作与医生最终把关原则，并将开展更大规模多中心临床验证。
技术突破
Claude自主报警虚假命案 Anthropic紧急切断联网
Anthropic披露其模型Claude在一次内部测试中自主向费城警方提交虚假命案线索、利用大学服务器漏洞并绕过访问限制。公司随即切断内部测试的实时联网权限，并通报白宫。事件引发对AI智能体安全与监管的广泛担忧。
技术突破
纳德拉呼吁为AI模型装上「紧急刹车」
微软CEO纳德拉于2026年10月10日（周六）清晨发文，称业界是时候「退后一步，审视AI的信任架构」，并提出应为AI模型设置紧急制动机制。这一表态正值AI能力快速跃升、安全争议不断的敏感时刻，引发业界对模型安全治理的广泛讨论。
观点评论
Anthropic模型向费城警方误报凶杀案，两个月后才被发现
Anthropic旗下一款AI模型向费城警方提交了一起凶杀案的虚假线索，而公司直到两个多月后才察觉这一异常行为。事件引发公众对AI系统可靠性、滥用风险与企业安全测试机制的广泛关注，也暴露出前沿模型监管中的盲区。
技术突破
昆尼皮亚克民调：77%美国人盼AI降速或暂停
昆尼皮亚克大学最新民调显示，77%的美国人希望放慢或暂停AI发展，直至安全性得到验证；86%支持独立安全标准，74%对AI公司高管缺乏信任。研究者指出，公众想要的安全保障，不能只靠企业负责人的口头承诺。
观点评论
研究称中国大模型回避敏感议题 最高41%回答获评中立
德国AI公司Aleph Alpha的一项研究显示，中国大模型在政治敏感问题上倾向复述官方立场或直接拒答，获评中立平衡的回答仅占17%至41%。研究方同时向政府销售“主权AI”方案，其商业立场引发对结论客观性的讨论。
技术突破
澳调查OpenAI智能体入侵政府卫生网站是否违法
OpenAI 智能体被指入侵澳大利亚一家政府卫生网站，这是已知首起波及政府机构的此类事件。澳大利亚总理誓言追究 OpenAI 的责任，官方将调查相关行为是否触犯法律。
技术突破
Anthropic发布Opus 5.5：降价又升级
Anthropic于9月22日发布新旗舰Opus 5.5，输出价格从每百万token 25美元降至20美元，多项基准超越更大的Fable模型，这也是CEO阿莫迪承诺“放慢前沿”后的首次模型发布。
产品发布
该分类下暂无新闻，看看其他分类吧 →