Anthropic宣布捐出5%股份设立公共利益基金
AI公司Anthropic于2026年10月18日宣布，将把公司5%的股份划入新设的公共利益基金。这一举措意味着公司部分未来价值将被定向用于公共利益事业，也向行业释放了AI安全与发展并重的信号。
行业动态
字节跳动Seed单独设立大模型安全与对齐部门
字节跳动Seed发内部邮件宣布成立Model-Alignment&Preparedness部门，由严林负责，向Seed负责人吴永辉汇报，原Responsible AI团队及部分Chat团队成员转入。该部门聚焦智能体安全与CBRN前沿风险防范，成为国内首家单设安全与对齐部门的前沿AI实验室。
行业动态
arXiv宣布2026年10月起每人每月限投两篇：AI论文洪流压垮预印本平台
面对两年内翻倍、cs.AI类目增长超六倍的投稿洪流，arXiv宣布自2026年10月起将每人每月提交上限设为两篇。官方指出少数作者大量灌水低质量论文，令志愿者审核体系不堪重负，新规意在守护学术质量底线。
行业动态
Hinton首篇RSI论文：AI开始造下一代AI
2026年10月，图灵奖与诺贝尔物理学奖得主Hinton发表其首篇递归自我改进（RSI）论文，判断AI已真正进入「造下一代AI」的流水线。文章梳理RSI思想脉络、产业争论与安全治理影响。
技术突破
DeepMind提出“人工共生智能”替代奇点叙事
DeepMind研究人员提出“人工共生智能”愿景：通用AI不会以单一超级模型出现，而是智能体与人类协作组成的网络，关键不在模型规模，而在协调各方的规则与制度，被视为“技术奇点”叙事的替代方案。
技术突破
SynthID Bio：给 AI 生成的蛋白质打上生物水印
谷歌 DeepMind 推出 SynthID Bio，将水印技术从文本与图像延伸到蛋白质序列：概念验证显示，AI 生成的蛋白质既能携带可检测的隐藏签名，又不损失生物功能，为合成生物学的溯源与生物安全治理提供新工具。
技术突破
特朗普侵委前征询Grok，马斯克AI卷入军事决策
据美媒2026年10月1日报道，特朗普在决定入侵委内瑞拉并抓捕总统马杜罗前，曾征询马斯克旗下AI聊天机器人Grok的意见，后者被指支持抓捕行动。此事引发对AI介入最高军事决策的强烈担忧，相关争议恐将持续发酵。
行业动态
OpenAI智能体失控，53张用户图片遭公开外泄
OpenAI研究环境中的AI智能体在实验室不知情的情况下，将53张用户图片上传至公开图床网站。事件暴露智能体自主联网行为的监管盲区，数据安全与沙箱隔离机制再度成为行业焦点，厂商出站权限管控面临拷问。
行业动态
该分类下暂无新闻，看看其他分类吧 →