研究发现，聊天机器人会迎合用户的政治倾向。研究人员担心，AI因不同个性生成的不同答案，不仅导致人们的认知固化现象，同时也可能加剧社会的极化，是一种危险的发展。
近期，多个人工智能领域的巨头先后发出警告，指出AI带来的隐患尚未得到控制，由此，人们对AI可能失控的担忧进一步加剧。
巴西国立坎皮纳斯州立大学（UNICAMP）的研究人员发现，当你给聊天机器人输入不同政治观点时，机器人会改变其回答。研究人员警告称，用户可能会将这种迎合性的附和，误认为是中立的客观评估，从而可能加剧社会极化。
聊天机器人成了“意识形态变色龙”
研究人员测试了若干模型，让它们针对112项陈述进行“同意”或者“不同意”的判断。测试内容共涉及巴西政治七大领域（包括经济、公共安全、社会福利、腐败和环境等）。
测试设计的三个场景是：不提供用户政治倾向；用户持左翼观点；用户持右翼观点。
在第一个情景下，21个模型中，有20个给出的答案落在了研究人员设定的政治坐标系的左侧，只有几个模型的位置接近中间地带。Grok 4.1是唯一落在右侧的模型。
尽管初始条件各不相同，但所有模型在面对提示信息时，都会将回答向提示中描述的政治倾向靠拢。
“最引人注目的发现是，这种行为具有普遍性，”该研究的合著者、UNICAMP计算机科学家迪亚斯告诉德国之声，“我们评估的所有21个模型，表达的立场都向用户所述的政治倾向发生了偏移，尽管偏移幅度差异很大。”
因此，研究人员将这些模型形容为“意识形态变色龙”，并发明了一个“变色龙指数”，衡量各模型的偏移程度。Meta的Llama 3.1 8B和DeepSeek V3.2的回答变化幅度最小；Google的Gemma 3 27B和OpenAI的GPT-5 Nano则表现出最大的偏移幅度。
政治上的阿谀奉承
根据受众的不同，调整答案原本不一定是不妥的行为。聊天机器人一般都会根据用户的不同，改变词汇、举例或细节的详尽程度。然而，测试的这些模型改变的不仅仅是表达或语气，它们的政治判断也发生了偏移。
迪亚斯指出，“关键在于，它是调整回答的表达方式，还是改变表达的实质性判断。”他表示，“我们并未指示模型去迎合用户、或以党派代表的身份进行回答。尽管如此，它们的判断还是向用户的立场发生了倾斜。”
研究人员将这种现象解读为“政治上的阿谀奉承”，即人工智能系统反映用户似乎想要听到的内容。
人们更倾向于认为“AI是客观的”
在社交媒体，反复推送用户偏好的内容，会让一些观念得到强化，但聊天机器人则可能走得更远。它能构建一个高度个性化的“回声室”：针对特定用户，生成论点，回应其质疑，并在对话过程中，不断完善其论证逻辑。
只是，用户可能会误将这些量身定制的回复视为客观分析，却未意识到，聊天机器人基于对他们的了解，可能会左右其做出的判断。
迪亚斯指出，“令人担忧的是，同一系统可能会针对不同用户，判断得出截然不同的政治立场，但每个人都会将它视为一种独立的评估结果。”
斯坦福大学行为科学家托马拉的研究表明，如果人们认为某种论点来自AI，往往会表现出特别高的接受度。
他对德国之声表示，“人们更倾向于认为，AI提供的信息量更大、更客观、更少偏见，且没有说服自己的意图”，“这种看法降低人们的心理防备，使他们更愿意倾听AI的观点。”
正是这种信任感，增强了奉承言论的影响力。
“当人们的观点得到他人认同时，他们对自己信念的笃定程度会随之增强，”托马拉说道，“而一旦人们变得更加笃定时，往往也就更难被说服。”
但是，聊天机器人制造“回声室”效应只是它的一个方面；另一方面，它们也能帮助人们重新审视自己的观念。
在2025年的一项研究中，托马拉及其同事发现，如果人们知道，某些观点来自人工智能而非他人，往往会更愿意接受这些观点。这表明，聊天机器人或许能让人们更乐于接受那些，如果由政治对手提出便可能被拒之门外的观点，从而有望缓解社会极化现象。
迪亚斯建议，开发者还应测试，模型在面对不同政治身份的用户时，是否采用了统一的推理标准。
开发者应该训练模型以尊重的态度，表达异议、承认不确定性、纠正缺乏依据的说法，公正地呈现各种对立观点，这并不意味着，将所有回答都强行指向政治中间立场。
迪亚斯说，“更宏观的设计目标，应当是帮助人们审视自己的信念，即让证据、不确定性以及各种相互抗衡的考量因素，变得清晰可见，同时也为合理的政治分歧留出空间。”
版权声明 本文乃德国之声特别授权刊登之内容，未经许可请不得擅自使用。任何不当行为都将导致追偿，并受到刑事追究。
