在人工智能研究领域，用AI模型训练其他AI模型正成为前沿探索的新趋势。近日，Anthropic公司公布了一项突破性研究成果，其开发的自动化系统在提升AI模型对齐能力方面展现出显著优势。该系统通过模拟科研流程，能够自主优化模型训练方案，在多项关键指标上超越人类专家水平。
研究团队在《自动化研究员能够可靠缓解对齐失效》论文中详细阐述了技术路径。该系统首先通过分析现有文献确定训练方向，随后进行30分钟快速模型训练，并通过多轮迭代优化方案。在针对10种典型对齐失效行为的测试中，自动化系统使所有指标均得到改善，且未削弱模型整体性能。项目负责人陈岳翰（音译）表示，这种工作模式与传统科研高度相似，但效率提升显著。
成本对比数据凸显技术优势：自动化系统每小时API推理成本约4美元（约合人民币27元），而人类研究人员时薪达150美元（约合人民币1011元）。在效率方面，最优自动化方案平均6小时即可超越人类专家提出的训练方案。论文特别指出，人类主导的研究方向并未带来更优表现，这为AI自主优化提供了有力佐证。
这项研究被视为递归自我改进的重要进展。当AI模型能够自主优化对齐训练方法时，理论上可进一步延伸至更广泛的训练流程改进。不过研究人员强调，当前技术仍存在明显局限：基准测试的准确性直接影响优化效果，而建立和维护这些测试标准需要持续投入。系统依赖的文献库也需要定期更新扩充，否则可能影响优化方向。
学术界对该成果评价不一。支持者认为这标志着AI研究进入新阶段，反对者则担忧过度依赖自动化可能偏离真实对齐目标。目前，Anthropic团队正与多家机构合作，尝试将该技术应用于医疗、教育等领域的AI模型优化。