公司新闻

-新闻中心-公司新闻->

乐鱼官网-Token爆发元年!2026中关村论坛年会分论坛共话AI大规模推理服务新图景
发布日期:2026-04-14 22:39:43

科技日报记者 何沛苁

3月27日,由趋境科技与九源智能计较体系生态结合体配合主理的2026中关村论坛年会“全栈智能 全域推理:Token发作元年的全场景年夜范围推理办事”专题钻研会乐成举办。预会专家聚焦年夜模子时代推理办事的焦点技能、财产实践及生态协同,共探高效、不变、安全、普惠的年夜模子推理办事系统设置装备摆设。

“2026年已经成为名不虚传的‘Token发作元年’,AI财产的焦点存眷核心,正从‘模子参数范围、模子可用性’周全转向‘不变、低成本、高质量交付的Token产能’。”中国工程院院士、九源智能计较体系生态结合体理事长、趋境科技首席科学参谋郑纬平易近于大旨演讲中指出,传统模子办事的焦点是保障模子可患上性与接口完备性,而Token办事的焦点是保障Token产能的可用性,更存眷成本、吞吐、时延与靠得住性等出产性指标,是一个极度繁杂的多维体系最优化问题,必需完玉成链路的体系级立异。对于此,郑纬平易近院士明确了TaaS(Token即办事)成长的三年夜焦点技能底座,即全体系异构协同;存算协同实现“以存换算”;面向SLO的智能调理,精准将用户营业需求“翻译”为底层资源决议计划。郑纬平易近暗示:“只有让智能天生像水电同样被不变地调理与供应,才能真正迎来算力制造Token为王的普惠智能时代。”

此外,并行科技、九源智能计较体系生态结合体、中科曙光、京东云、阿里云、华为、商汤科技等企业代表,缭绕国产算力多场景推理优化实践、推理框架实践、Token时代AI引擎、算力底座高效推理等前沿议题睁开深切分享。

圆桌对于话环节,清华年夜学计较机系副传授章明星、中国挪动数智化部副总司理陈国、趋境科技Mooncake首席工程师杨珂等佳宾,缭绕“国产推理基础举措措施从‘可用’到‘好用’的线路选择与要害冲破”睁开切磋。各方凝结三年夜共鸣:一是软硬深度协同是开释国产算力潜能的要害,需经由过程体系级优化弥合硬件机能与营业需求之间的鸿沟;二是生态同一与尺度设置装备摆设至关主要,打破“百花齐放”带来的适配难题,方能实现范围化运用;三是人材造就是财产根底,需经由过程开源社区、技能竞赛等方式,培育兼具理论与工程能力的AI基础举措措施人材。

年夜会现场还有发布了趋境ATaaS高效能AI Token出产办事平台。该平台将有用破解年夜额硬件投入难以转化为优质Token产能、资源华侈与成本空耗凸起等行业困境,以高效能Token出产为焦点方针,可支撑万级AI推理需求,实现日均万亿级Token产能,鞭策算力基础举措措施从“数据中央”向“Token工场”周全进级演进。

年夜会同期公布,2026年春天启元人工智能年夜赛正式启动。赛事旨于经由过程赛教交融,为国产智能计较生态培育新一代人材,连续鞭策AI财产的开源立异与范围化运用。

-乐鱼官网