近日，阿里云提出的计算池化解决方案“Aegaeon ”成功入选顶级学术会议SOSP 2025 ，该方案可解决AI模型服务中普遍存在的GPU资源浪费问题 ，大幅提升GPU资源利用率，目前其核心技术已应用在阿里云百炼平台。
SOSP（操作系统原理研讨会）由ACM SIGOPS主办 ，是计算机系统领域顶级学术会议 ，平均每年收录的论文数量仅有数十篇，被誉为计算机操作系统界的“奥斯卡 ” ，入选论文代表了操作系统和软件领域最具代表的研究成果 。本届SOSP大会上 ，系统软件与AI大模型技术的融合成为新的趋势 。
数据显示，在阿里云模型市场为期超三个月的Beta测试中 ，Aegaeon系统在服务数十个参数量高达720亿的大模型时 ，所需的英伟达H20 GPU数量从1192个减至213个，削减比例高达82%（见下图）。GPU用量削减82%意味着公司硬件采购成本将显著降低，这对于动辄使用成千上万张GPU的大型模型服务商至关重要 。
在真实的模型服务场景中 ，少数热门模型（如阿里的Qwen）承载了绝大多数用户请求 ，而大量不常被调用的“长尾”模型却各自独占着GPU资源 。数据显示，在阿里云模型市场中 ，曾有17.7%的GPU算力仅用于处理1.35%的请求 ，资源闲置严重。
而Aegaeon系统通过GPU资源池化，打破了“一个模型绑定一个GPU ”的低效模式 。
Token级调度是该系统的核心创新点 ，Aegaeon多模型混合服务系统在每次生成下一个token后动态决定是否切换模型 ，实现精细化管理，同时 ，通过组件复用 、显存精细化管理和KV缓存同步优化等全栈技术 ，Aegaeon将模型切换开销降低97%，确保了token级调度的实时性 ，可支持亚秒级的模型切换响应 。
据介绍 ，Aegaeon系统支持单GPU同时服务多达7个不同模型，相比现有主流方案提升1.5-9倍的有效吞吐量，实现2-2.5倍的请求处理能力。
如何从底层系统软件层面优化 ，以更好地支撑和赋能上层AI应用 ，已成为全球学术界和工业界关注的焦点 。未来AI的发展将不仅依赖于硬件算力的单纯增长，更需要通过系统级的软件创新来深度挖掘现有硬件的潜力 。
做股票投资顾问开户:融资买股票什么意思-吴泳铭为阿里AI设定航线：做操作系统 更要做下一代计算机（附全文）
股票配资股:中国股票交流网-太空竞赛以来最大考验！特朗普公布AI“行动计划” 美股AI概念股被低估了？
配资门户官网首页:股票实战信息交流-“世界上最强AI模型”发布 马斯克放话！机构扎堆看好这些概念股
正规配资炒股平台:股票开户app哪家好-BAT资本开支飙升168%！机构调升阿里、“寒王”目标价 AI基建迎价值重估？
十大炒股软件最新排行:股票融资10倍杠杆-阿里大招引爆！一图梳理AI应用端概念
高杠杆股票:加入股票交流群-雷军：和苹果的竞争漫长而痛苦 国产汽车都在进步 没必要在竞争上搞得很难看
红腾网官网-炒股配资论坛-股票配资平台排行-在线股票配资平台提示：文章来自网络，不代表本站观点。
据中国外汇交易中心，人民币兑美元中间价报7.1696，调升45点。...
实习记者｜王颖记者｜张一诺金融监管总局管理公开征求意见，再为银行业高管上任划“红线”12...
界面新闻记者|吕文琦3月10...
记者闫桂花去年11月全国人大常委会批准地方政府增加6万亿元再融资专项债券，用于置换存量隐性债务。截至目...
上海国际能源交易中心4月9日发布通知，经研究决定，自2025年4月10日（星期四）收盘结算时起，交易保证金比例和涨跌停板...
4月9日，小微盘标杆——中证2000指数ETF(159536)低开回升，翻红涨超2%，成交额3000万元，环比大幅放量。...
4月11日，根据中国证券监督管理委员会江苏监管局发布的行政处罚决定书，颜惠敏因内幕交易“同力日升”而被处罚。公告...
为保持银行体系流动性充裕，中国人民银行（下称“央行”）6月5日发布公告称，央行将在6月6日以固定数量、利率招标、多重...
记者闫桂花面对美国特朗普政府史无前例的关税冲击，在4月9日中国宏观经济论坛的“热点问题研讨会”上，与会...
记者辛圆中国人民银行授权全国银行间同业拆借中心公布，4月21日贷款市场报价利率（LPR）为：1年期LP...
6月5日，两市股指早盘窄幅震荡，午后发力拉升，创业板指、科创50指数涨超1%，全A成交额有所放大。 行业板块涨多跌...
2025年4月11日，宏鑫科技（301539.SZ）发布了限售股份上市流通公告。本次股份上市类型为发行前股份限售流通，上...
国务院新闻办公室9日发布《关于中美经贸关系若干问题的中方立场》白皮书，澄清中美经贸关系事实，阐明中方对相关问题的政策立场...
2025年3月7日，A500ETF（159339.SZ）收跌0.31%，主力资金（单笔成交额100万元以上...
2025年3月24日下午三点A股收盘后，港股科技板块持续走强至四点十分收盘。消息面上，一方面美元相对于人民币连续3个交易...
