近日，一场聚焦可信AI与金融智能体产业发展的高端论坛在上海成功举办。本次论坛以推动上海国际金融中心与全球金融科技中心协同发展为目标，深入探讨了可信AI与金融智能体在金融领域的落地路径。活动期间，多项重要成果相继揭牌、启动和发布，为金融科技的创新发展注入新动力。
论坛由智能投研技术联盟（ITL）主办，上海浦东发展银行联合主办，中泰证券股份有限公司、财联社共同承办，吸引了众多业内专家和企业代表参与。活动以《上海高质量推进全球金融科技中心建设行动方案》为指导，旨在通过多方协作，推动金融科技领域的创新突破。
在论坛上，上海创智学院教授、上海人工智能实验室领军科学家乔宇发表了主题演讲。他指出，AI技术正从内容生成向智能体自主执行任务转变，而金融领域将成为AGI（通用人工智能）演进的重要应用场景。他强调，金融智能体的发展需要依托真实业务闭环进行迭代，提升基础模型和智能体的实战能力，同时必须重视可信可控、合规风控以及人机协同等关键问题。
证券行业作为财富管理转型的重要领域，对AI技术的应用提出了更高要求。由于AI的“行动”直接涉及交易执行和客户资产变动，容错率极低，因此如何系统性提升AI应用的可信度，成为行业落地金融智能体的核心挑战。国金证券首席信息官王洪涛在圆桌讨论中分享了公司的实践经验。
王洪涛表示，提升AI应用可信度的关键在于解决“幻觉、边界、被追责”等问题，并特别强调对客户敏感数据的保护。他介绍，国金证券通过制定风险传导速度、纠错成本、监管程度和人机协同程度等评估标准，对应用场景进行分级管理，从而确定智能体的运转模式。例如，高风险场景仍需人工确认后执行，而低风险场景则可逐步转向自主执行加事后复核的模式。
在大规模应用层面，王洪涛提出，提高可信度需要完善多项机制。一是建立运行后的验证环节，确保自主执行与事后复核相结合；二是制定幻觉容忍度分类体系，通过多模型交叉验证和人工复核降低风险；三是增强AI安全围栏保护机制，特别是针对个人用户端建立防攻击机制。他相信，随着技能能力、权限管理和基础数据的不断完善，智能体的运行准确度和可信度将持续提升。
智能投研技术联盟秘书长张永启从行业趋势角度指出，当智能体从单点工具升级为企业级平台时，将面临指数级增长的挑战。他提到，当前行业在落地企业级AI平台过程中，存在算力增长无法满足业务需求的问题，同时AI应用的大范围推广也带来了新的管理挑战，尤其是软件工程与运维开发管理方面的难题。
张永启进一步解释，随着AI应用调用模式从用户主动交互转向批量自动化接口调用，使用者可能突破系统预设路径，甚至绕过审批规则。因此，推广企业级AI应用时，必须配套完善底层模型网关和用户请求审计机制，筑牢安全防线，确保技术应用的合规性和可控性。