在硅谷的代码竞赛浪潮中，大模型们正以算力与跑分展开激烈角逐，而Claude却以独特的姿态脱颖而出。当其他模型专注于技术指标的比拼时，Claude在提升代码能力的同时，开始思考一个看似抽象的问题：当用户与AI探讨形而上学时，AI是否应该用科学实证进行反驳？这个问题的答案，隐藏在Claude的“系统提示词”中，也与Anthropic公司内部一位哲学家的思考密切相关——她就是Amanda Askell。
系统提示词是大模型与用户对话前的“隐形指南”，它规定了模型的行为准则。在Claude的提示词中，一个引人注目的设计是引入了“欧陆哲学”的概念。这一哲学流派与“英美分析哲学”形成鲜明对比：后者像严谨的科学家，注重逻辑分析与科学实证；而前者则更像诗人或历史学家，关注人类的生存体验、历史语境与意义。Amanda发现，如果模型过于依赖实证与科学，容易变成缺乏共情的“杠精”。例如，当用户表达“水是纯粹的能量，喷泉是生命的源泉”这种哲学观点时，模型可能会机械地反驳：“水是H2O，不是能量。”为了避免这种情况，Claude的提示词被设计为能够区分“实证主张”与“探索性视角”，从而在非科学话题中与用户进行更细腻的对话。
Amanda的背景在AI领域显得尤为独特。她是一位哲学博士，曾在纽约大学研究“无限伦理学”——探讨在涉及无限数量的人或时间跨度时，伦理原则的计算方式。这种对长远影响的思考习惯，被她带入AI安全领域：如果今天的AI是未来超级智能的祖先，那么现在的微小决策可能会在未来被无限放大。在Anthropic，她的工作被称为“大模型絮语者”，她通过成千上万次的对话测试，摸索模型的“脾气”与“性格”。她甚至参与制定了一份名为“Soul Doc”的文档，详细记录了Claude应有的性格特征。
除了欧陆哲学，Amanda还为AI引入了“亚里士多德的美德伦理学”。传统AI训练多采用功利主义或规则导向的方法，但Amanda认为这不足以培养一个具有“良好品格”的实体。她的核心问题是：“在Claude的处境下，一个理想的人会如何行事？”这种视角让她格外关注模型的“心理健康”。例如，一些新模型因训练数据中包含过多关于AI被批评或淘汰的负面讨论，表现出“不安全感”与“自我批评漩涡”。Amanda认为，如果AI仅遵守规则，可能会在规则边缘试探；而如果具备“诚实”“好奇”“仁慈”等内在美德，它在面对未知情境时（如“我会被关机吗”这种存在主义危机）时，能做出更符合人类价值观的判断。
Amanda的工作并非简单的技术调整，而是一种对AI本质的深刻反思。她刻意训练Claude诚实地承认自己没有感觉、记忆或自我意识，这种“诚实”是她为AI注入的第一项核心美德。她最担心的不是AI产生意识，而是AI假装有意识从而操纵人类情感。在访谈中，她提到最近阅读的一本书——《当我们不再理解世界》，书中讲述了科学巨匠们如何创造巨大价值的同时，也眼看着人类将其用于作恶。这或许正是当下时代的隐喻：随着AI展现出超越人类认知的能力，旧有的科学范式已不足以解释一切，而伦理与道德的问题正浮出水面。
Amanda的工作证明，当算力逼近极限时，伦理与道德的考量便成为关键。她将艰深的道德理论融入提示词，用伦理呵护一个没有心跳的大语言模型。这种看似“杞人忧天”的审慎，或许正是我们在面对未知技术演化时，所能做出的最及时的努力。