在生成式 AI 的新一轮竞赛里，真正烧脑的环节，已经从训练转向了推理。
黄仁勋最近有一句话，几乎说出了所有 AI 创业者的痛点：
推理已成为人工智能计算强度最高的阶段，需要在全球范围内实现实时推理。NVIDIA 与 Akamai 携手，将推理能力推向更靠近全球用户的位置，提供更快、可扩展性更强的生成式人工智能，为下一代智能应用的落地创造可能。
这背后站着的，正是 Akamai Inference Cloud（Akamai 推理云），一套专为智能体时代打造的分布式边缘推理平台。
在「非凡大赏 2025 · 北京」现场，Akamai 设立线下展台，和所有 AI 创业者、出海团队面对面聊：下一代 AI 应用，应该长什么样？又该跑在什么样的云上？
一、Akamai：从守护网络生活，到铺开一张全球分布式云
如果你曾在大促、世界杯、热门游戏或流媒体上线时抢过内容，很大概率已经在不知不觉中用过 Akamai 的能力。
Akamai 是一家致力于支持并保护在线商业活动的网络安全和云计算公司，为全球海量在线业务提供动力和防护。从 DDoS 防护、应用安全，到全栈云计算与内容分发。
过去二十多年，它一直在做一件事：把计算和内容，铺到离用户最近的地方。如今，Akamai 运营着覆盖全球的分布式云计算与边缘网络，拥有超 4200 个边缘节点，帮助企业在更靠近用户的地方，提供低时延、高可靠的服务。
当传统云还停留在几个大数据中心时，Akamai 已经把基础设施铺到了世界各地的路边和楼下。
这一分布式底座，正好击中了 AI 时代的新命题，推理必须尽可能挪到用户身边。
二、Akamai 推理云：让智能体站到离用户一米远的地方
今年，Akamai 正式发布 Akamai Inference Cloud（推理云），与 NVIDIA 深度合作，把 Blackwell 架构的算力，从核心数据中心继续扩展到互联网边缘端。
从技术栈上看，Akamai 推理云把几块关键能力整合成一套智能推理基础设施：
- 搭载 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU 的 RTX PRO 服务器，提供高吞吐、低延迟的推理能力；
- 通过 NVIDIA BlueField-3 / 4 DPU 加速数据路径和安全隔离，打通从核心到边缘的数据访问与推理任务；
- 借助 NVIDIA AI Enterprise 软件栈和 NIM 微服务，让模型部署、扩缩容和全生命周期管理更加标准化；
- 叠加 Akamai 自身的分布式云计算基础设施与全球边缘网络，把这一整套 AI 能力搬到 4200+ 个边缘位置。
更关键的是它的智能协调层：
常规推理可以直接在边缘通过 NIM 微服务即时执行，复杂推理则自动路由到中心化的 AI 工厂处理。对开发者来说，只有一个统一的平台入口，底层基础设施的复杂度被折叠在幕后。
用更接地气的话说，你只管设计好智能体的工作流程，Akamai 负责帮你把算力调度到最合适的地方。
三、为 Agentic AI、物理 AI 和实时决策而生
Akamai 推理云重点解决的，是当下几类最难落地、却最有价值的 AI 场景。
1. Agentic AI：多轮推理不再卡顿
智能体完成复杂任务，往往需要长链路、多轮推理：理解需求、检索信息、调用工具、协商交易……任何一次网络抖动或延迟放大，都足以让体验崩塌。
依托边缘原生架构，Akamai 推理云能在靠近用户和设备的位置完成大部分推理请求，让 Agentic AI 在长工作流中保持接近人类对话般的响应速度，适用于欺诈检测、安全支付加速、跨境电商风控、实时推荐等场景。
2. 物理 AI：让决策速度跟得上现实世界
自动驾驶、工业机器人、智慧城市基础设施，这些物理 AI系统需要毫秒级决策，任何延误都可能演变成安全风险。
Akamai 推理云通过将推理能力下沉到工厂车间、无人机航线、城市路口附近的边缘节点，让系统可以就地完成传感器数据处理和决策执行，把自动驾驶网络、工业产线、手术机器人等高风险场景，变成可与人类安全共存的响应式智能系统。
3. 下一代智能体验：从更聪明到更贴身
当推理能力真正贴着用户部署时，很多过去只存在于概念视频里的想法，才开始变得现实。
- 能主动替你谈价格、比方案、做交易优化的购物代理；
- 能在市场波动中实时给出洞察、自动执行策略的金融智能体；
- 能根据地理位置、设备状态、行为轨迹实时调整体验的跨端应用……
Akamai 推理云的目标，就是让这些体验，不再只是 Demo，而是可以在全球范围被大规模复制与扩展的平台能力。
四、安全，是 Akamai 的底层设定
AI 基础设施如果没有安全，只是更大的攻击面。
Akamai 以安全见长多年，积累了从应用防护、DDoS 防护、API 安全到威胁情报的一整套能力，为金融、互联网、零售等行业提供深度防御，帮助企业保护关键数据与业务系统。
在 AI 时代，这套安全基因被进一步延伸到：
- 保护 LLM 应用免受提示注入、恶意输出、敏感数据泄露等新型攻击；
- 在边缘节点就近识别与拦截恶意流量，防止 AI 服务被薅流量、刷接口、刷资源；
- 帮助企业在多云、分布式架构下，依然维持可观测、可追溯、可合规的安全态势。
对正在加速出海、拥抱全球用户的中国 AI 创业公司来说，这意味着：性能、成本和安全可以同时被考虑，而不是三选二。
关于 Akamai 推理云、边缘云计算和安全防护的最新实践案例，欢迎现场的 AI 创业者、开发者、平台方，带着具体问题和项目想法来聊聊：
如果你正在思考这些问题，可以在现场找到 Akamai 的展台，和他们的技术与业务团队深入交流，看看有没有可以落地的合作机会。
在训练模型这件事上，世界可能已经有了足够多的 GPU。
接下来真正的竞争，是谁能用更聪明、更靠近用户的方式去做 推理。
Akamai 正在尝试，和 NVIDIA 一起，把这块推理地板铺到全世界。
而在北京这次线下相遇，也许就是你和这张全球底座之间的第一块接触点。