AI可解释性临近突破?新论文称九成神经元功能可读引学界争论
一篇新论文提出,神经网络中约九成神经元承担清晰可辨的功能,模型内部远比想象中易读。若成立,危险行为与欺骗倾向可直接从模型电路中发现,对AI安全研究意义重大,但学界对这一论断是否站得住脚仍有激烈分歧。
观点评论
一篇新论文提出,神经网络中约九成神经元承担清晰可辨的功能,模型内部远比想象中易读。若成立,危险行为与欺骗倾向可直接从模型电路中发现,对AI安全研究意义重大,但学界对这一论断是否站得住脚仍有激烈分歧。
菲尔兹奖得主陶哲轩提出“数学2.0”愿景,认为AI与大模型将深刻改变数学证明的方式,人类数学家将从手工推导者转型为“证明的指挥者”。本文梳理其核心观点、实验进展与学界反响,展望人机协作下数学研究的未来图景。
微软CEO纳德拉于2026年10月10日(周六)清晨发文,称业界是时候「退后一步,审视AI的信任架构」,并提出应为AI模型设置紧急制动机制。这一表态正值AI能力快速跃升、安全争议不断的敏感时刻,引发业界对模型安全治理的广泛讨论。
微软刊发诺贝尔经济学奖得主阿西莫格鲁的看空报告:未来十年AI最多带来约1.5%的GDP增长,被替代岗位不超过5%。他认为更大的模型难有决定性作用,业界真正缺的是能改变工作方式的实用应用。
昆尼皮亚克大学最新民调显示,77%的美国人希望放慢或暂停AI发展,直至安全性得到验证;86%支持独立安全标准,74%对AI公司高管缺乏信任。研究者指出,公众想要的安全保障,不能只靠企业负责人的口头承诺。
多位专家认为,AI并非单纯取代人类,而是重塑职业结构;提示词工程师、AI训练师、模型评测师等新职业不断涌现,人机协作将成为主流工作模式,善用AI的人将获得显著的效率优势。