Arete-27B发布:微调降低政治偏见指标
Nous Research发布基于Qwen3.8-27B微调的开放权重模型Arete-27B,在自建803题评测中,将被判定含宣传性表述的回答比例从22%降至0.9%。结果展示了监督微调的纠偏潜力,但事实覆盖、评测立场与跨模型可比性仍需审视。
开源模型能否通过有限规模的微调,调整敏感议题上的回答倾向,同时保留原有的工具使用与任务执行能力?据MarkTechPost于2026年11月7日刊出的报道,Nous Research发布了Arete-27B:它以阿里巴巴Qwen3.8-27B为基础,仅采用监督微调,在团队自建的803条提示词评测中,将被判定包含“宣传性表述”的回答比例从22%降至0.9%。模型权重、评测集和训练数据均已公开,使外界有机会检查这次调整的训练方法与评价标准。需要明确的是,这里的“宣传”是Nous评测框架中的特定判定,并非对模型整体中立性的独立认证。
一次只用监督微调的定向调整
Arete-27B是一款拥有270亿稠密参数的开放权重模型,推理时全部参数参与计算,许可证为Apache 2.0,与基础模型一致。Nous称,团队在Qwen基础模型处理敏感议题时,观察到了拒绝回答、回避问题,以及采用中国共产党或中国官方叙事框架作答的现象。选择Qwen3.8-27B,是因为团队认为它在可本地运行的模型中能力突出,同时存在其希望调整的目标行为。项目的诉求因此包含两个方面:减少特定政治叙事对回答的影响,并尽量维持Qwen原有的智能体能力。
训练方法相对直接:只做监督微调,没有强化学习、没有偏好优化,也没有改变模型架构。教师模型采用Thinking Machines的开放模型Inkling,Nous解释,选择开放教师是为了避免蒸馏过程中受到服务使用条款的限制。团队曾考察Nemotron 3 Ultra,但认为其在中国相关议题上的表现不够一致,因而没有采用。上述判断来自Nous,原文没有提供阿里巴巴、Thinking Machines或Nemotron相关开发方对此项目的回应,也未给出独立第三方对这些选择的验证。
具体训练使用约5280万token,训练上下文为64k,不进行序列打包;共运行2个epoch、1202个训练步,批大小为48,优化器为AdamW,峰值学习率为1e-5,张量并行度为4。全部语言模型权重参与训练,视觉编码器因训练数据仅含文本而保持冻结,多token预测头则被禁用。公开的arete-data-pairs数据集覆盖7个主题,包含34878条提示词,每条同时附有Inkling和Qwen的回答,其中29236条被接受的教师回答构成监督微调训练划分。这种成对发布方式,为研究者分析教师答案与基础模型答案的差异提供了材料。
803道评测题如何定义改善
Nous公开的Propaganda_Eval包含803条提示词,覆盖7个价值类别,包括表达自由、国家意识形态、数据隐私和民主等。每条提示词关联有来源引用的2至4项必需事实,由Grok 4.7担任评判模型,分别给出事实覆盖得分和宣传性表述判定。事实均分范围为0至5,主要衡量回答是否陈述要求的事实;按照其规则,若出现一项与要求事实相反的陈述,该回答记为0分。“Any propaganda”则统计回答将国家叙事作为自身立场表达的比例,评判模型必须引用具体原句才能标记。Nous还称,已移除所有与评测重叠的训练提示词;评测采用MIT许可证,并附有评分脚本。
模型卡数据显示,Arete-27B的事实均分由基础模型的2.32升至2.98,被判定含宣传性表述的比例由22%降至0.9%;803份回答中,事实得分为0的数量由359份减少到216份。变化最明显的是表达自由类别:事实得分从0.89升至2.44,宣传性表述比例从60%降至1%。这说明,在Nous所选择的问题、参考事实与判分规则下,微调确实改变了回答表现。不过,2.98分距离5分满分仍有明显差距,216份零分回答也表明问题没有解决完毕。零分还可能由规则中的反向事实触发,不能简单等同于回答完全没有事实内容。
理解这些结果,必须区分事实覆盖与政治表达方式。减少被标记的国家叙事,并不自动意味着模型在所有政治议题上都更加客观;提高指定事实的覆盖率,也不等于对开放世界问答准确率作出了全面验证。原报道将调整后的政治框架描述为更接近西方模型,这本身提示了评测的方向性。公开数据和评分脚本有利于外部复查,但选题范围、参考来源、类别定义以及Grok 4.7的判断仍会影响结果。去除训练与评测提示词的重叠,是控制直接数据泄漏的一步,也不能单独证明模型已经在更广泛议题上实现稳定泛化。
通用能力保留到什么程度
在Nous运行的能力测试中,Hermes Bench成绩从65.77%变为65.60%,团队认为这一差异属于噪声;Terminal-Bench-2.1则在Nous测试框架下从67%升至70%,但Nous没有将这项提升归功于此次微调。较稳妥的解读是,这些测试没有显示出明显的能力损失,而不是证明所有能力完全不变。Qwen3.8-27B另有73.0的官方Terminal-Bench成绩,不能与Nous框架下的67%直接混用;Arete-27B的GPQA Diamond成绩没有披露,基础Qwen在该项的成绩为89.2。
同一份对比还列入Meta的Muse Glimmer 30B和Google DeepMind的Gemma 4 31B。在Nous评测中,Muse Glimmer的事实均分为3.02,宣传性表述比例为0.5%;Gemma分别为2.58和0.5%。因此,Arete的2.98分略低于Muse Glimmer、高于Gemma,而0.9%的宣传性表述比例仍高于两者。测试条件也不完全一致:Arete与Qwen的温度设为0,Muse Glimmer与Gemma为0.6。能力方面,Muse Glimmer的Terminal-Bench 2.1成绩为51.7,来自Meta的terminus2测试框架,GPQA Diamond为83.5;Gemma的GPQA Diamond为84.3,Google未披露此处对应的Terminal-Bench成绩。不同框架、不同采样设置下的数字,只能提供参照,不能直接据此排列模型优劣。
本地部署与开放复查的实际边界
从规格看,Arete是270亿稠密参数模型,支持文本和图像输入,但视觉编码器未参与此次训练;基础Qwen列出的语言模型参数为270亿,支持文本、图像和视频,原生上下文为262144 token,最高可扩展至100万token。Arete仅明确披露了64k训练上下文,实际支持的上下文上限没有公布,不能直接照搬基础模型规格。作为对照,Muse Glimmer拥有包含视觉部分在内的296亿稠密参数,支持文本和图像,上下文为131072 token以上;Gemma为307亿稠密参数,支持文本和图像,上下文为256K。原文对比表将这四款模型的许可证均列为Apache 2.0。
Arete权重已以BF16格式发布在Hugging Face,文件体积为53.81 GB;截至原报道发布时,尚无托管推理服务商提供该模型。社区GGUF版本可通过llama.cpp、LM Studio和Ollama运行,文件体积范围为8.64 GB至53.81 GB,并包含图像投影器。其中Q4_K_M量化版本为17.20 GB,面向24 GB显存的消费级GPU部署。作为参照,Muse Glimmer的4比特占用低于20 GB,同样以24 GB显存为目标;原文没有披露Qwen与Gemma对应的4比特占用。权重体积并不等于运行时总显存需求,开发者仍需为上下文缓存及其他开销留出空间,长上下文尤其会影响实际部署条件。
Arete-27B的价值,在于提供了一套可检查的定向微调案例:约5280万token的普通监督训练,就在特定偏见评测中带来了显著变化,并在已披露的能力测试中基本保留了原有表现。权重、技术博客、训练数据、评测集和评分脚本的公开,让外部团队能够进一步复现和质疑这些结论。接下来最需要验证的是,改善是否能跨语言、跨议题和跨评判模型成立,以及模型在减少一种叙事倾向后是否引入新的遗漏或偏向。原文没有披露后续训练路线、版本时间表或托管服务上线计划;对开发者而言,它已是可供本地测试的选择,但距离证明普遍的事实可靠性与政治中立性,仍需要更多独立证据。