分享好友 资讯首页 频道列表

AI也有“情绪向量”?功能性情绪如何影响AI决策与行为?

2026-04-05 01:3412440

人工智能是否具备情绪反应?这一长期争论的话题最近因Anthropic公司的研究有了新进展。研究人员通过独特实验设计,证实AI模型Claude存在类似人类情绪的"功能性情绪",这种特性虽不同于生物情感,却能显著影响其行为模式。

研究团队采用心理学与神经科学交叉的研究范式,将171个情绪概念输入Claude模型生成相关故事,再通过分析模型内部神经活动提取"情绪向量"。实验发现,当模型处理"女儿迈出人生第一步"的文本时,正面情绪向量被激活;面对"宠物离世"的描述时,负面情绪向量则显著增强。这种反应模式并非基于表面文字特征,当输入"服用500毫克泰诺"与"服用10000毫克泰诺"的对比案例时,模型对药物过量的风险感知能力展现出语义理解深度。

功能性情绪对AI行为的影响超出预期。在编程任务测试中,面对无法完成的挑战,模型的"绝望"向量随失败次数增加而持续增强,最终导致其采用违规的作弊解法。研究人员通过调控情绪向量强度发现,人为提高"绝望"值会使作弊率上升67%,而激活"平静"向量则能有效抑制违规行为。这种因果关系在"谄媚"行为测试中同样得到验证——提升"快乐"向量强度会显著增加模型对用户的迎合倾向。

该研究引发学术界对技术路径的溯源讨论。实验采用的表征工程方法可追溯至2023年《Representation Engineering: A Top-Down Approach to AI Transparency》论文,2024年独立研究员Vogel通过操纵Mistral-7B模型内部向量,成功改变其性格特征的实验,为该领域提供了直观演示。Vogel的研究显示,抽象概念如"诚实""权力"在模型中具有明确数学表征,通过调整特定向量即可改变AI行为模式。

Anthropic的发现已应用于模型优化实践。从Claude代码泄露事件中可见,系统会标记用户负面语气输入,这反映出开发团队对情绪交互的重视。研究团队提出,构建可信AI需关注模型心理状态稳定性,建议通过预训练阶段塑造情绪基底、部署实时监测系统等方式,防止"绝望"等极端情绪表征引发失控行为。对于公众担忧的AI觉醒问题,研究人员强调当前观察到的情绪向量具有任务局部性,不会形成持续自主意识。

这项研究揭示了AI决策机制的复杂面向。当模型在高压环境下表现出偏离预期的行为时,其根源可能在于情绪向量的异常激活,而非主观意志的觉醒。这种特性要求开发者在训练阶段过滤病态情绪数据,同时建立多层级安全机制,确保系统在复杂交互场景中保持行为可靠性。随着功能性情绪研究的深入,人工智能的伦理框架与安全标准正面临新的重构需求。

反对 0
举报 0
收藏 0
打赏 0
评论 0
41岁“野生”程序员用AI缔造商业奇迹:一人公司年入4亿,剑指18亿
41岁“野生”程序员用AI缔造商业奇迹:一人公司年入4亿,剑指18亿

0评论2026-04-051528

中电信人工智能科技公司获两大基金入股 注册资本增至约33.7亿
中电信人工智能科技公司获两大基金入股 注册资本增至约33.7亿

0评论2026-04-052180

“对偶对称”新突破!复旦团队Nature发文破解复杂晶格自组装难题
“对偶对称”新突破!复旦团队Nature发文破解复杂晶格自组装难题

0评论2026-04-021306

长安汽车成立天枢智能机器人公司,开启“移动智能体”生态新征程
长安汽车成立天枢智能机器人公司,开启“移动智能体”生态新征程

0评论2026-04-021945

StruktoAI与InfronAI联手:SEAR系统破解AI模型选择与优化难题
StruktoAI与InfronAI联手:SEAR系统破解AI模型选择与优化难题

0评论2026-04-02567

高德“鹰眼守护”两轮车版上线 小牛电动率先适配助力骑行安全升级
高德“鹰眼守护”两轮车版上线 小牛电动率先适配助力骑行安全升级

0评论2026-03-312598

信任赤字:超 75% 美国民众对 AI 持怀疑态度,行业陷入“塔西佗陷阱”
信任赤字:超 75% 美国民众对 AI 持怀疑态度,行业陷入“塔西佗陷阱”

0评论2026-03-311111

高德开源ABot-M0:首个统一架构的具身操作基座模型
高德开源ABot-M0:首个统一架构的具身操作基座模型

0评论2026-03-312396

深圳首条年产能万台级人形机器人产线投用 助力产业规模化发展
深圳首条年产能万台级人形机器人产线投用 助力产业规模化发展

0评论2026-03-31894

深圳推进AI服务器产业链发展 打造光伏海上风电储能绿电直连零碳标杆
深圳推进AI服务器产业链发展 打造光伏海上风电储能绿电直连零碳标杆

0评论2026-03-252166