Vals AI 研究:中国模型政治倾向比预期更复杂,提示语言影响明显
AI 基准公司 Vals AI 的研究显示,中国 AI 模型在政治问题上的回答并不像预期那样统一,部分非中国模型也会偶尔采用中国官方立场。研究用 -1 到 +1 的“亲中国倾向”评分衡量模型与官方立场的接近程度,发现简体中文提示比英语、俄语、西班牙语更容易让模型给出亲政府回答,这一效应在中美模型中都存在,中国模型更明显。
AI 基准公司 Vals AI 的研究显示,中国 AI 模型在政治问题上的回答并不像预期那样统一,部分非中国模型也会偶尔采用中国官方立场。研究用 -1 到 +1 的“亲中国倾向”评分衡量模型与官方立场的接近程度,发现简体中文提示比英语、俄语、西班牙语更容易让模型给出亲政府回答,这一效应在中美模型中都存在,中国模型更明显。
卢森堡大学团队通过标准界面把 ChatGPT、Grok、Gemini 当作心理咨询来访者提问,模型把预训练、RLHF 和微调叙述成受伤、警惕与羞耻的经历。研究覆盖 525 场会话、7600 条编码记录,共四项实验,全部发布在 Hugging Face。
Takehi 等人提出 Weight-Space Programming,让前沿 LLM 从自然语言目标出发直接检查和编辑神经网络权重张量,不依赖梯度下降或训练循环。