《陈云辉—网宿边缘智能平台与AIGC探索.pdf》由会员分享,可在线阅读,更多相关《陈云辉—网宿边缘智能平台与AIGC探索.pdf(22页珍藏版)》请在三个皮匠报告上搜索。
1、TOD边缘智能平台的应用实践与AIGC的探索网宿边缘智能平台资深架构师:陈云辉#page#目录边缘智能平平台应用实践大模型时代AIGC的探索台#page#网宿边缘智能平台网宿边缘智能平台(EdgeCloudContainerLite)是基于网宿丰富的节点管理和调度能力,针对边缘计算场景推出的云边一体化协同托管方案。既能纳管网宿广泛的边缘设备,也能纳管客户的边缘设备,将云上应用延伸到边缘,满足客户对边缘计算资源的远程管控、数据处理、分析决策、AI应用等诉求。平台特性:本地资源云端托管,快速构建边缘计算的云原生基础设施。23A安全可靠AI应用极简轻量快速部署开放兼容云边建立双向加密通道边缘设备只需
2、少量资源只需简单配置,即可实基于Kubernetes构建,可以将AI能力延伸到边双向消息收发通过证书空间即可作为边缘节点现应用的快速上线部署可以纳管丰富的资源类缘,支持视频智能分析、认证、加密。终端设备进行纳管,纳管方案极图像识别等,就近提供支持便捷的批量启动容型,支持多种服务形态使用证书进行身份认证。简轻量,器,提升托管便利性。提供多样的架构。实时智能边缘服务。#page#网宿边缘智能平台架构架构特点应用1、极轻极简智慧农业PCDN/HomeCDN园区安防工业互联支持轻量化容器,最小可支持1C128M的边缘设备;极简运维设备批量接入、大规模管理统一监控运维边缘应用边缘节点API镜像服务生命周
3、期生命周期云存储Server2、异构、开放、兼容联复pnoi管理兼容XB6,ARM、GPU等异构设备统一纳管,支持多样系统架构及多种服务形态3、安全接入公网/专线/VPN灵活的边缘云网络接入VPN、专线、互联网边缘应用边缘安全边缘AI4、离线自治PODPODPOD边缘断网或网络不稳定时,业务可本地自治PODEgde5、高兼容性ARM/XB6/GPU/FPGA架构课机/虚拟机/智能盒子100%兼容Kubernetes原生API,可实现管理边缘节点和设备MQTT6、接入方式丰富终端设备/摄像头/传感器、二进制程序方式接入,保障新老设备都能管理#page#网宿边缘智能平台应用管理中on5部署调度容器
4、配置支持规格设置(CPU、内存、GPU等资源限客户只需申明所需规格,由平台统一资源调度制)、部署需求配置(资源池、实例数)、容器自动完成镜像下发和部署操作。运行所需环境配置(存储管理、启动命令、环境变量、服务健康检查、配置管理等)cl状态监控基本管理支持实时查询应用容器状态,查看线上容器数可以对应用进行管理、进行滚动更新升级、启动镜像版本、应用状态监控查看、更新时间等信息。停止、扩缩容和和删除的操作,支持销毁容器实例#page#目录边缘智能平平台应用实践大模型时代AIGC的探索台#page#网宿科上网宿边缘智能平台:节点纳管北京CDN边缘节点需求背景CDN节点进一步下沉,通过边缘网络的闲置资源
5、提供高质量、高性ARM盒子价比的内容分发服务。下沉设备数量达到十万级别转同/切片/造业务痛点福州CDN边缘节点构需对全球海量的CDN边缘设备进行管理,包括部署升级、调度、监控等。想使用云原生技术对架构进行升级改造,更好的支撑资源复X86银机用等场景。转用/切片/追案苏州CDN边缘节点实现方案日志上折使用网宿边缘智能平台ECCLite在全国各地的设备上运行容器,然后X86物理机在容器上运行CDN服务,中心管理平台实现边缘站点进行统一管理5/切片/植帮助用户实现应用自动化调度、边缘站点和边缘应用运维#page#网宿边缘智能平台:节点纳管内部业务长期考验公司内部产品已稳定使用3年+纳管十万级别边缘机
6、器中心节点高可用架构,交换机采用维叠架构,同一台服务器同时接2台交换机;节点内管理组件采用主备备架构,降低管理组件故障风险。E全方位监控网宿边缘智能平台监控服务依托于CDN虚拟机、容器监控交换机监接平台大型运维监控体系(10万+服务器提供监控agent,监规模),具有全面、成熟、及时等等优是否岩机、端口异常、宿主机监控测虚拟机、容器进程丢包、跑高等。势。对边缘计算平台的资源监控全面到是否正常。是否岩机、重启、位,保障服务的稳定持续。云节点网络监控管理组件监控Cpu温度过高、cpu降频、网卡丢包等。网络是否中断、丢包