网宿科技获年度AI产业应用领航奖,边缘AI布局从CDN迈向AIDN

边缘AI成AI规模化落地新支点

9月11日,全球边缘AI算力大会在北京举行。网宿科技凭借在边缘AI领域的持续布局与实践,获得“金算奖·年度AI产业应用领航奖”。会上,网宿科技边缘AI资深架构师陈云辉分享了公司从“流量管道”到“分发智能”的演进路径、能力体系及未来展望,并指出随着AI应用深入,网络流量结构正在发生变化。

一次业务请求背后,可能不再只是打开网页或播放视频,也可能涉及模型调用、Token生成以及多个Agent协同完成任务。陈云辉认为,网络基础设施需要解决的核心问题并未改变,即让服务更高效、更稳定地抵达用户。区别在于,CDN时代解决的是“让内容离用户更近”,而Token时代需要实现“让智能离用户更近”。

在CDN时代,网宿科技通过将网站、图片、视频等内容部署至靠近用户的边缘节点,并借助智能调度系统选择更优传输路径,应对突发流量。进入Token时代,模型推理对算力提出更高要求,算力分布在不同地域和节点,用户请求也呈现明显波峰波谷,系统需要在模型与算力之间精准匹配,并在响应速度、资源成本和服务稳定性之间实现平衡。同时,还需通过故障检测、自动切换等机制保障服务连续性。陈云辉表示,这些正是网宿科技长期积累的核心能力。依托二十多年边缘节点运营经验、智能调度能力及全链路安全防护体系,网宿科技正将服务对象从“内容”拓展至“智能”,推动业务能力从“内容传输”向“智能分发”延伸。

边缘AI网关构建企业统一入口

网宿科技将边缘AI网关定位为企业AI化的统一入口。企业通过边缘AI网关可接入200多个模型,并根据业务需求调用模型、启用安全能力,以及配置智能调度和缓存策略。陈云辉表示,网宿科技希望通过生产侧和运营侧的持续优化,让每一次用户请求都能得到高效、稳定、经济的响应。

目前,网宿科技围绕边缘AI网关重点构建三方面能力。

  • 智能路由与多模型融合:Auto可根据任务复杂度、成本约束和实时负载等因素,自动匹配适合的模型,在响应效果与使用成本之间实现动态平衡。Fusion则在网关层支持多模型并发、独立推理和结果共识提炼,通过组合不同模型能力,提升输出结果的稳定性与可靠性,并降低企业自建多Agent系统的开发和运维成本。
  • 分层调度与算力闲时复用:网宿科技通过分层算力架构,由边缘节点承接轻量级实时推理,区域GPU资源承接中等规模任务,中心集群承接复杂批量推理。在此基础上,结合跨时区、跨客户和跨业务的错峰调度,提升算力资源利用率,减少资源闲置及峰值扩容带来的成本压力。
  • 安全防护与统一治理:在安全方面,网宿科技构建了涵盖入口防护、网关管控、AI防爬和持续安全运营的边缘AI安全体系。在治理方面,通过统一AI治理(UAG),对AI应用的成本、安全和责任进行统一管理,提升企业AI应用的可控性与可持续性。

Token工厂与规模化落地关键

除边缘AI网关外,网宿科技还在持续探索Token生产与算力运营能力。据介绍,在江苏常州和浙江海宁,网宿科技正联合产业链伙伴共建城市级绿色Token工厂,围绕绿电供给、算力调度和Token标准化服务等环节,探索绿色化、标准化Token服务能力。在推理服务方面,网宿科技持续推进推理引擎优化,并探索算力闲时复用机制,以提升推理效率和资源利用率。陈云辉表示,通过生产、调度与优化环节的自动化闭环,最终形成“模型优化推理服务、推理服务承载模型”的能力循环。

随着AI应用从单轮问答向Agent、A2A(Agent to Agent)等复杂交互演进,单个任务涉及的模型调用和工具调用次数持续增加。与此同时,AI Coding等应用逐步实现商业化,多模态生成领域需求也在快速增长。陈云辉表示,随着Token消耗规模扩大,Token交付的市场空间将进一步拓展;随着业务对响应时延提出更高要求,边缘节点在就近计算和低时延服务方面的价值也将进一步凸显。

在多模态应用中,AI视频生成是网宿科技重点关注的方向之一。与语言大模型相比,部分视频模型参数规模相对较小,更适合在边缘节点部署。同时,视频生成、审核和推流通常需要在秒级时间窗口内完成,对就近计算能力和低时延网络链路提出更高要求。目前,网宿科技已围绕H3等开源视频模型开展定制化优化。据介绍,经过优化后,5秒视频的生成时间已由28秒缩短至3至4秒,实现生成速度快于播放速度,可为实时直播等场景提供支持。

陈云辉表示,模型决定生成效果的下限,而能否实现规模化落地,取决于模型之上的调度能力、成本控制和合规保障。这正是网宿科技从CDN向AIDN演进的核心机遇。