聚焦边缘 AI 推理,Akamai 发布最新云与 AI 战略
出品 | CSDN 云计算
从发明 CDN 技术到提供云服务,资深技术厂商 Akamai 已拥有云、安全、CDN 三位一体的全球分布式计算平台。目前,Akamai 服务遍布全球 130 个国家 1200 多个运营商网络,有超过 4000 个边缘节点, 26 个核心云计算节点和10个分布式节点,可以帮助中国企业出海发展全球化业务。AI 爆发式增长,边缘侧设备部署与边缘原生应用成为下一个重要的增长趋势。Akamai 近日发布了最新的云与 AI 战略,并重点阐述了边缘侧 AI 推理场景的技术。
在百模大战、DeepSeek 横空出世成为现象级大模型之后,让 AI 落地,加速端侧推理性能成为业界关注技术重点。边缘端 AI 推理作为将 AI 从云端下沉至数据源附近的关键技术,需要保证计算、存储、延迟、带宽、可靠性、数据安全性等多个方面。例如,工业边缘需要确定性低延迟的 TSN 网络,而自动驾驶中需要过滤处理低价值数据,使用高价值数据去做推理与决策。
为用户提供多年的 CDN 与云服务后,Akamai 总结了其分布式云计算平台上的一些典型的应用场景,边缘侧 AI 推理也将多发生于这些场景中。应用场景包括:
- 网络加速——建立安全远程连接,加速业务访问通道
- 广告竞价——降低延时提高广告RTB交易效率,大幅节省流量成本
- 数据存储——提高本地化数据体验、保障数据主权,媒体数据存储管理;
- AI 推理——加速人工智能推理工作负载,优化效率和成本
- SaaS 服务——一致的全栈应用程序安全性,广泛的基础设施位置选择,经济实惠、易于操作
- 视频编转码——提高转码性能,提高上传和下载效率,提供端到端的服务体验
- 数据可视化——规模化、低成本的收集和监控日志数据,确保用户体验、安全性和业务/IT运营效率
- 游戏主机——利用分布式服务改善玩家体验
AI 时代,Akamai 的 AI 战略重点将聚焦于 AI 边缘应用与 AI 安全两部分。Akamai 产品分布于 AI 边缘应用从基础设施到推理、网络、观测、应用各层,最终希望帮助用户可在全球拓展模型推理,实现低延时、低成本,以及基于 CPU 的边缘推理。AI安全领域 Akamai 将在近期发布产品与解决方案,例如基于 AI 的防火墙,为用户在部署 AI 模型的同时提供有效保护。
具体产品层面,Akamai 提供了加速型虚拟机,配备英伟达RTX 4000 Ada 的 GPU 虚拟机以及 VPU 虚机,去实现边缘 AI 推理工作。其中视频相关推理,Akamai 是业界首个和唯一推出基于视频转码和视频 AI 专属硬件的一家厂商,针对视频转码的专属加速硬件 VPU 可提供超过 GPU14 倍的计算能力,加速转码效率的同时降低转码成本。
另外,Akamai 还推出了增加扩展性、稳定性和安全性的 K8s 托管 LKE 企业版与 K8s 应用服务平台,可一站式构建 K8s 应用运行环境。并将推出托管式的内存数据库和托管式的 NoSQL 数据库,完整 Akamai 的数据库即服务产品体系。网络方面,Akamai 发布了企业级的 VPC 支持、更高性能的负载均衡,以及与合作伙伴共同推出的 API 网关。
以上这些,让 AkamaiAI 推理的服务相较于传统云计算厂商的基础设施可以帮助企业提升 3 倍的推理吞吐能力,降低60%的推理时延,并且相比于降低使用成本高达 86%之多。
对于中国企业用户,Akamai 提供了领先的游戏行业的“出海”、游戏服务器的托管,社交和工具领域的 UGC 直播、转码、低时延、WebRTC、IP 摄像头服务。另外还有长视频的直播、转码、低时延直播、用户体验的分析,数据&AI 方面提供海量的分布式的数据分析存储,以及基于 GPU 和 VPU 的 AI 推理服务。
作为全球云市场的重要玩家,Akamai 最新的 AI 战略与产品值得开发者重点关注。CSDN 将持续报道云计算行业最新动态。