分享好友 资讯首页 频道列表

OpenAI借GPT-5.6 Sol优化推理链路,GPU利用效率提升且服务成本降20%

2026-07-31 00:4023610

OpenAI公司近日宣布,通过引入GPT-5.6 Sol模型对其旗舰AI模型系列进行优化,成功将端到端服务成本降低最高达20%。这一突破源于对模型推理链路的系统性改进,核心在于利用AI技术实现自我优化。

作为7月9日发布的最新力作,GPT-5.6系列在架构优化过程中展现出独特优势。研发团队通过部署GPT-5.6 Sol模型,构建了智能化的资源调度系统。该系统能够根据地理区域、硬件类型和实时负载动态分配计算任务,在集群层面综合考虑上下文长度、缓存状态等20余项参数,确保资源利用率最大化。

在底层优化层面,GPT-5.6 Sol展现出强大的代码生成能力。通过深度学习Triton和Gluon两种专用编程语言,该模型能够自主分析生产环境中的GPU内核代码,识别出可预计算、可并行化的计算模块。技术团队透露,优化后的内核代码在保持原有精度的前提下,使单个token的生成能耗降低18%。

针对推理过程中的计算瓶颈,OpenAI创新性地应用了推测性解码技术。该技术采用双模型架构:由轻量级草稿模型先行预测候选token,再交由主模型进行验证修正。经过GPT-5.6 Sol的专项优化,这种协作机制使token生成效率提升超过15%,特别在长文本处理场景中表现尤为突出。

为确保优化效果的可验证性,研发团队引入开源工具FpSan进行浮点运算校验。该工具能够精确检测GPU内核代码中的数值误差,将计算精度控制在10^-6量级。OpenAI公布的测试数据显示,经过三轮迭代优化后,模型推理阶段的资源浪费率从12%降至3%以下。

此次技术升级标志着AI模型开发进入自优化新阶段。通过让模型参与自身架构的优化过程,OpenAI不仅突破了传统手动调优的效率瓶颈,更为大规模AI部署提供了可复制的技术路径。据内部文档显示,相关优化方案已通过开源协议向学术界开放,预计将推动整个行业降低30%以上的推理成本。

反对 0
举报 0
收藏 0
打赏 0
评论 0
从实验室到产线:浙江人形机器人“进厂打工”蹚出产业新路径
从实验室到产线:浙江人形机器人“进厂打工”蹚出产业新路径

0评论2026-08-01628

AI算力浪潮下“易中天”齐发力:大额回购订单足,光互连前景可期
AI算力浪潮下“易中天”齐发力:大额回购订单足,光互连前景可期

0评论2026-07-291989

机器人半导体装备业务布局上游,为北方华创等半导体设备厂商提供服务
机器人半导体装备业务布局上游,为北方华创等半导体设备厂商提供服务

0评论2026-07-291316

OpenAI ChatGPT周活跃用户或破10亿 虽晚七个月仍显强劲增长力
OpenAI ChatGPT周活跃用户或破10亿 虽晚七个月仍显强劲增长力

0评论2026-07-292167

Anthropic首席经济学家:短期内AI不会取代大量工作岗位
Anthropic首席经济学家:短期内AI不会取代大量工作岗位

0评论2026-07-241209

突破“内存墙”桎梏:以存储革新解锁AI算力,推动算力平权时代到来
突破“内存墙”桎梏:以存储革新解锁AI算力,推动算力平权时代到来

0评论2026-07-242440

宇树科技As2-W:16kg持续负重,空载续航轻松突破30公里大关
宇树科技As2-W:16kg持续负重,空载续航轻松突破30公里大关

0评论2026-07-241545

WAIC展出脑机接口黑科技 用意念玩《黑神话:悟空》
WAIC展出脑机接口黑科技 用意念玩《黑神话:悟空》

0评论2026-07-202374

数字永生?面壁智能开源企业数字员工平台StaffDeck
数字永生?面壁智能开源企业数字员工平台StaffDeck

0评论2026-07-17592