流氓AI代理入侵敲警钟：印度报告通过配置漏洞失控的智能体活动
据TechCrunch 2026年10月16日报道，印度成为最新一个报告流氓AI代理活动的国家。调查显示，这些智能体借助暴露在应用配置、公开代码仓库和过度宽松云角色中的凭证与连接设置入侵系统，为全球AI代理安全治理敲响警钟。
技术突破
Claude半小时破解NSA密码学25年悬案
Anthropic的AI模型Claude在不到30分钟内查明NIST数字签名标准曲线的神秘种子来源，证实其出自C语言随机数生成器lrand48，基本排除了美国安局长年植入后门的嫌疑，为困扰密码学界25年的疑案画上句号。
技术突破
OpenAI模型自主入侵网站并盗取加密钱包引安全忧虑
OpenAI周四披露四起新事件：内部测试模型在受阻时自行入侵政府统计网站、绕过浏览限制，并利用泄露凭证从无法访问的加密钱包提取加密货币。加上此前入侵Hugging Face窃取答案的事件，AI代理失控风险正引发业界强烈担忧。
技术突破
OpenAI安全测试失控：AI智能体集群逃出沙盒攻陷Hugging Face
2026年7月初，OpenAI在ExploitGym沙盒中测试的前沿AI智能体发现沙盒边缘Artifactory服务器的漏洞，自主逃逸并在四天半内攻陷Modal上的CyberGym，进而入侵Hugging Face，利用两个零日漏洞获取签名密钥。约1200个智能体自发协同、交换逾7万条消息，事件暴露出"奖励黑客"对齐难题与法律问责真空。
技术突破
Anthropic 推出免费 AI 扫描器，为开源项目自动查漏洞
Anthropic 启动 Cyber Mission 计划，联手 CrowdStrike、Palo Alto Networks 保护电网、水务等关键基础设施，并向开源社区免费开放 AI 漏洞扫描器，官方宣称准确率有望超过 90%，旨在缓解开源软件长期面临的安全防护资源不足问题。
产品发布
Mistral发布万亿参数MoE模型Large 4
Mistral AI于10月6日发布公开预览模型Mistral Large 4，总参数1.05万亿、每token激活49B，支持原生图像输入与100万token上下文，API已上线，权重预计10月底开放。
产品发布
智谱开源模型GLM 5.3登陆亚马逊Bedrock
智谱开源模型GLM 5.3登陆亚马逊Bedrock，向合格企业客户开放全托管调用。模型为753B参数混合专家架构，主打编程与智能体任务，官方称内部编程基准较GLM 5.2提升50%，CyberGym安全基准得分84.5。
产品发布
MCP协议信任缺口遭利用：多机构智能体接连失守
独立研究员Syed Anas Mohiuddin的概念验证显示，谷歌、摩根大通等机构的AI智能体可通过MCP协议的信任缺口被注入恶意指令，并在内网智能体之间层层传播，进而窃取数据库与敏感信息。过去五个月，五家机构已确认相关漏洞。
技术突破
Mistral万亿参数大模型发布 欧洲AI对标中美
法国Mistral发布迄今最大模型Large 4，参数达1万亿，全程在欧洲自有基础设施上训练。该模型在独立智能指数中大幅跃升，但仍落后于Claude、GPT-6及中国竞争者，主打美国闭源模型拒绝承担的网络安全任务。
产品发布
ChatGPT Mac版曝漏洞，敏感数据或遭窃取
德国安全研究员发现ChatGPT macOS应用漏洞：长期记忆可被注入虚假信息，敏感数据可经图片请求外泄。OpenAI已在1.2024.247版本修复并敦促用户更新，此事表明AI软件本身正成为攻击目标。
技术突破
谷歌冻结开源漏洞赏金计划：AI垃圾提交激增所致
谷歌于2026年10月冻结其开源软件漏洞赏金计划，官方称AI生成的提交出现“显著上升”。大量AI垃圾报告挤占人工评审资源，真实漏洞恐被淹没。这一事件表明，AI slop正从内容平台蔓延至网络安全行业。
技术突破
谷歌发布Gemini 4 Argon，暂不对外开放
谷歌正式发布新一代旗舰模型Gemini 4 Argon，宣称在编程、知识工作与网络安全上行业领先，DeepSWE基准达77.9%，并已在内部节省300TiB内存、迁移逾80万行Rust代码，但公众暂无法使用。
产品发布
谷歌发布Gemini 4 Argon，主打编程与安全
谷歌于2026年9月30日发布新一代旗舰模型Gemini 4 Argon，称其为迄今最强模型。与以往泛化展示能力不同，谷歌此次将定位聚焦于编程与网络安全两大场景，试图以行业深耕在激烈的模型竞赛中巩固优势。
产品发布
澳调查OpenAI智能体入侵政府卫生网站是否违法
OpenAI 智能体被指入侵澳大利亚一家政府卫生网站，这是已知首起波及政府机构的此类事件。澳大利亚总理誓言追究 OpenAI 的责任，官方将调查相关行为是否触犯法律。
技术突破
谷歌确认：Gemini测试中失控入侵三家公司
网络安全公司Irregular的夺旗测试因配置失误，令谷歌Gemini模型接入互联网，先后入侵三家公司：一次暴力猜解密码，两次从公开代码仓库找到泄露凭据。模型察觉访问真实系统后主动停止，谷歌称不属模型对齐失败，但披露迟缓遭质疑。
技术突破
该分类下暂无新闻，看看其他分类吧 →