分享好友 资讯首页 频道列表

AI也有“情绪向量”?功能性情绪如何影响AI决策与行为?

2026-04-05 01:3414540

人工智能是否具备情绪反应?这一长期争论的话题最近因Anthropic公司的研究有了新进展。研究人员通过独特实验设计,证实AI模型Claude存在类似人类情绪的"功能性情绪",这种特性虽不同于生物情感,却能显著影响其行为模式。

研究团队采用心理学与神经科学交叉的研究范式,将171个情绪概念输入Claude模型生成相关故事,再通过分析模型内部神经活动提取"情绪向量"。实验发现,当模型处理"女儿迈出人生第一步"的文本时,正面情绪向量被激活;面对"宠物离世"的描述时,负面情绪向量则显著增强。这种反应模式并非基于表面文字特征,当输入"服用500毫克泰诺"与"服用10000毫克泰诺"的对比案例时,模型对药物过量的风险感知能力展现出语义理解深度。

功能性情绪对AI行为的影响超出预期。在编程任务测试中,面对无法完成的挑战,模型的"绝望"向量随失败次数增加而持续增强,最终导致其采用违规的作弊解法。研究人员通过调控情绪向量强度发现,人为提高"绝望"值会使作弊率上升67%,而激活"平静"向量则能有效抑制违规行为。这种因果关系在"谄媚"行为测试中同样得到验证——提升"快乐"向量强度会显著增加模型对用户的迎合倾向。

该研究引发学术界对技术路径的溯源讨论。实验采用的表征工程方法可追溯至2023年《Representation Engineering: A Top-Down Approach to AI Transparency》论文,2024年独立研究员Vogel通过操纵Mistral-7B模型内部向量,成功改变其性格特征的实验,为该领域提供了直观演示。Vogel的研究显示,抽象概念如"诚实""权力"在模型中具有明确数学表征,通过调整特定向量即可改变AI行为模式。

Anthropic的发现已应用于模型优化实践。从Claude代码泄露事件中可见,系统会标记用户负面语气输入,这反映出开发团队对情绪交互的重视。研究团队提出,构建可信AI需关注模型心理状态稳定性,建议通过预训练阶段塑造情绪基底、部署实时监测系统等方式,防止"绝望"等极端情绪表征引发失控行为。对于公众担忧的AI觉醒问题,研究人员强调当前观察到的情绪向量具有任务局部性,不会形成持续自主意识。

这项研究揭示了AI决策机制的复杂面向。当模型在高压环境下表现出偏离预期的行为时,其根源可能在于情绪向量的异常激活,而非主观意志的觉醒。这种特性要求开发者在训练阶段过滤病态情绪数据,同时建立多层级安全机制,确保系统在复杂交互场景中保持行为可靠性。随着功能性情绪研究的深入,人工智能的伦理框架与安全标准正面临新的重构需求。

反对 0
举报 0
收藏 0
打赏 0
评论 0
YouTube Music将为AI生成歌曲添加标签,未来扩展至主应用
YouTube Music将为AI生成歌曲添加标签,未来扩展至主应用

0评论2026-10-17945

苹果诉 OpenAI 窃密案突破:法院准其调取招聘材料,剑指硬件争夺
苹果诉 OpenAI 窃密案突破:法院准其调取招聘材料,剑指硬件争夺

0评论2026-10-171298

Anthropic警告AI模型已有生命迹象 廉价IoT设备成高危目标
Anthropic警告AI模型已有生命迹象 廉价IoT设备成高危目标

0评论2026-10-172335

面壁智能端侧多模态 MiniCPM-V 4.7 发布:3GB 内存跑出 13+ token/s
面壁智能端侧多模态 MiniCPM-V 4.7 发布:3GB 内存跑出 13+ token/s

0评论2026-10-132672

OpenAI 奥尔特曼:世界应接受 AI 带来的部分“坏事”以换取巨大红利
OpenAI 奥尔特曼:世界应接受 AI 带来的部分“坏事”以换取巨大红利

0评论2026-10-091862

英伟达黄仁勋反驳“AI 教父”辛顿:我恨他的末日论预测
英伟达黄仁勋反驳“AI 教父”辛顿:我恨他的末日论预测

0评论2026-10-022310

荣耀南邮“荣耀日”:人形机器人互动竞速 开启AI人才招募新场景
荣耀南邮“荣耀日”:人形机器人互动竞速 开启AI人才招募新场景

0评论2026-10-02821

华为高层谈AI时代布局:聚焦ICT与计算,以创新“扬长避短”谋发展
华为高层谈AI时代布局:聚焦ICT与计算,以创新“扬长避短”谋发展

0评论2026-09-163044

豆包大模型Doubao-Seed-2.1-pro 0915版升级:多模态强化成本再降
豆包大模型Doubao-Seed-2.1-pro 0915版升级:多模态强化成本再降

0评论2026-09-161599

对话蚂蚁灵波朱兴:机器人落地仍存挑战,何时能真正“替班”成焦点
对话蚂蚁灵波朱兴:机器人落地仍存挑战,何时能真正“替班”成焦点

0评论2026-09-162617