分享好友 资讯首页 频道列表

新加坡大学研究:AI学会“拒绝选项”,告别盲目选答更可靠

2025-11-06 01:3818540

新加坡大学卢炯宇研究员团队在arXiv平台发布的一项最新研究,为人工智能语言模型的发展开辟了新路径。这项编号为arXiv:2510.04087v1的预印本论文,揭示了当前AI系统在处理复杂问题时存在的根本性缺陷——当候选答案数量增加时,系统反而更容易选择错误选项。

研究团队通过大量实验发现,传统AI训练模式存在显著漏洞。当系统需要从32个候选答案中择优时,错误选择率比仅处理单个答案时高出123%。这种现象犹如学生在面对大量错误选项时,容易选择"相对正确"而非真正正确的答案。实验数据显示,在医疗咨询和客户服务等高风险场景中,这种缺陷可能导致严重后果。

针对这一难题,研究团队提出了革命性的解决方案。他们开发的"拒绝选项"机制,允许AI系统在所有候选答案均不达标时主动放弃选择。这相当于在传统单选题中增加"以上皆非"选项,迫使系统区分"相对较好"与"绝对合格"的差异。配套设计的"迷你批次循环"策略,则通过分阶段生成答案的方式优化决策流程。

该策略的工作原理类似分批次考试:系统首先生成少量候选答案进行评估,若发现合格答案立即采用,否则继续生成下一批次。这种模式既避免了传统方法一次性处理海量候选答案的资源浪费,又将计算效率提升了22%。实验表明,在电影评论分类任务中,新方法使错误接受率降低70%,同时保持了更快的响应速度。

技术实现层面,研究团队构建了基于经济学离散选择模型的数学框架。这个原本用于分析消费者决策的理论,被创新应用于AI系统的质量判断。通过人工标注数据训练的评估模型,能够准确预测答案的绝对质量分数,当分数超过预设阈值时才判定为可接受。

研究特别强调了"拒绝数据"的价值。传统训练中,标注者选择"无合适选项"的数据往往被丢弃,而新方法将其视为重要训练素材。这些数据包含着关于质量标准的隐含信息,有助于系统建立更准确的质量判断基准。实验证明,当候选答案普遍质量较低时,该机制的优势尤为明显。

在应用场景适配方面,新方法展现出强大的灵活性。对于法律咨询等对准确性要求极高的领域,系统可设置严格标准,宁可拒绝回答也不提供错误信息;而在文档摘要等需要快速响应的场景,则可采用相对宽松的阈值。这种动态调整能力,使AI系统能够根据不同需求平衡准确性与效率。

研究团队通过数学证明揭示了传统方法的理论缺陷:当所有候选答案质量低下时,选择相对最优的答案并不等同于选择了合格答案。这个被长期忽视的问题,解释了为何增加候选数量反而导致错误率上升。新方法通过引入绝对质量标准,从根本上解决了这个悖论。

实际测试中,系统展现出了显著的"自知之明"。面对特别困难的问题时,传统方法会强行给出质量低下的答案,而新系统能够识别自身能力边界,选择拒绝回答或继续搜索。这种特性使AI在自动驾驶、金融决策等关键领域的应用更加安全可靠。

研究还建立了系统化的评估框架,包含精确率、召回率和误报率等指标,为后续研究提供了标准化工具。团队指出,该方法可与推测性拒绝采样等技术结合使用,进一步提升系统性能。目前的研究主要集中在文本生成领域,未来计划向图像、音频等多模态应用扩展。

对于普通用户而言,这项技术突破意味着AI助手将变得更加可信。系统不再强行提供可能错误的答案,而是会在不确定时坦诚告知。这种转变使用户能够更准确地判断何时应该依赖AI,何时需要寻求人工帮助,为人机协作建立了更健康的互动模式。

反对 0
举报 0
收藏 0
打赏 0
评论 0
浙江濮院时尚古镇“互联网生活嘉年华”启幕 机器人秀与VR体验引热潮
浙江濮院时尚古镇“互联网生活嘉年华”启幕 机器人秀与VR体验引热潮

0评论2025-11-061814

以安全为基,中国引领全球人工智能迈向“善治”新征程
以安全为基,中国引领全球人工智能迈向“善治”新征程

0评论2025-11-061211

美图公司凭AI技术创新应用获2025国际青年创新大会“人工智能科技创新企业”称号
美图公司凭AI技术创新应用获2025国际青年创新大会“人工智能科技创新企业”称号

0评论2025-11-062987

美国古生物学家桑普森沪上圆梦,借科技助力中国恐龙大展“飞”向世界
美国古生物学家桑普森沪上圆梦,借科技助力中国恐龙大展“飞”向世界

0评论2025-10-311510

470亿市值果链龙头AAC瑞声科技:入局机器人赛道,携手OpenAI共拓AI新生态
470亿市值果链龙头AAC瑞声科技:入局机器人赛道,携手OpenAI共拓AI新生态

0评论2025-10-31629

Sora核心贡献者00后天才辍学生回归!OpenAI三人组剑指超级人工智能
Sora核心贡献者00后天才辍学生回归!OpenAI三人组剑指超级人工智能

0评论2025-10-311615

从AI营销到AI版LinkedIn,指数引力如何借AI之力重塑商业关系网络?
从AI营销到AI版LinkedIn,指数引力如何借AI之力重塑商业关系网络?

0评论2025-10-31634

人工智能赋能精品创作沙龙在京启幕 共议AIGC驱动视听内容升级新路径
人工智能赋能精品创作沙龙在京启幕 共议AIGC驱动视听内容升级新路径

0评论2025-10-312533

安徽人工智能产业蓬勃发展:上半年营收破千亿,算力规模跃升
安徽人工智能产业蓬勃发展:上半年营收破千亿,算力规模跃升

0评论2025-10-30901

百度开源生态加速构建:飞桨文心开发者超2300万,多模型登顶国际榜单
百度开源生态加速构建:飞桨文心开发者超2300万,多模型登顶国际榜单

0评论2025-10-302977