《027-于大伍.pdf》由会员分享,可在线阅读,更多相关《027-于大伍.pdf(12页珍藏版)》请在三个皮匠报告上搜索。
1、助力AI 云-边-端协同创新RISC-V&OpenHarmony于大伍江苏润开鸿数字科技有限公司 副总裁OpenHarmony RISC-V SIG 副组长随着AI应用深化,计算架构必将从云端走向云边端协同进化大模型完成价值验证后因 场景需求、数据隐私、响应速度必将向边缘侧、端侧发展AI 1.0 时代云小模型边缘计算边端协同大模型云基座大模型AIDC&Cloud智慧场景大模型边端落地AI PCAI PHONEAI IoTAI RoboticsAI 2.0 时代润开鸿已构建了企业级AI大模型应用技术能力基于RISC-V&OpenHarmony技术底座,形成云边端协同全栈AI交付方案AI 边+端A
2、I 云+端AI 终端云端协同专-垂直行业大模型应用能力边端协同精-精准的业务场景智能化能力端侧AI私-高隐私的本地AI助理RISC-V&OpenHarmonyAI 云桌面AI boxAI 平板云+端:基于私有化部署的AI办公解决方案大模型+RAG技术私有云桌面私有云+私域数据库智能问答 智能问书智能报告 智能审核定制化场景行业大模型数据安全基于RISC-V&OpenharmonyAI 云桌面AI算力一体机云端实践:金融行业AI智能审核系统基于私有化部署的云+端协同,结合RAG技术,实现报告的智能审核,在数据格式,上下文一致性,表格和文本内容一致性,和财务表格数据串行等典型场景应用方面,错误检查
3、的效果更明显。能够 提出问题点和不合理的数据和语句,并且给出准确的修改建议。边+端:面向垂直场景的商用AI解决方案未戴安全帽识别吸烟识别打电话识别垃圾满溢识別水面漂浮物识别非法入侵未穿工装识别人脸识别光伏板清洁度识别火情识别反光衣识别书写识别拍照识别人员数量非法逗留安全绳识别高空非法作业电瓶车识别后厨动火离人报警无人在岗识别人员携带识别绝缘子破损识别表盘模糊识别裏盘破碎识箱门闭合异常识别压板状态识别识别越过安全线潜式焰断器绝缘置缺失杆塔塔顶损坏线夹保险销子脱落绑扎带导线未绑扎绝缘子污秽绑扎带导线不规范基于RISC-V&OpenharmonyAI BOX金融医疗交通教育智慧城市电力在多个行业领域
4、已经累计了50+AI算法可以快速为客户提供成熟可商用的AI方案。实践:电动自行车棚AI智能灭火系统视频监控鸿蒙边缘计算终端鸿蒙智慧屏(选)鸿蒙环境监测(选)灭火系统主机消防供水模块消防管路及喷头鸿蒙缆式火灾探测器鸿蒙灭火系统控制器鸿蒙分布式软总线物联物联采集终端实时获取消防设施运行状态.消防监督单位管理信息统计警情分析物联设备告警处置火灾研判.实时监控、边缘计算设备联动、智能研判指挥中心物业安全负责人消防救援大队客户痛点城市电瓶车数量增加,管理难度大;电动车起火燃烧速度快、燃烧时间长、有爆炸隐患,具有交大的安全风险客户价值智能研判:AI辅助进行综合研判,在10秒内完成火情上报。精准灭火:分区精
5、确灭火,区域内全覆盖交叉灭火解决方案边缘侧AI能力加持,实施监控,快速完成火情上报,实现精准灭火端侧AI:初步实现在平板电脑上部署语言模型基于RISC-V&OpenharmonyAI 平板TH1520 8+32G 4T算力平板电脑成功部署alpaca模型,实现OpenHarmony设备本地部署语言模型。端侧AI落地仍面临诸多难点,需要硬件、软件、算法协同创新A模型参数量大、显存与资源占用高B开发、微调、部署、推理成本高,端侧算力有限C端侧部署模型压缩后精度损失大端侧模型”笨“D基础模型、垂直模型层出不穷,并不断更新端侧硬件环境碎片化分布,部署周期长AIRUNS 训推一体化平台数据工厂文本数据标
6、注文本数据向量化图像数据标注图像数据向量化音视频数据标注音视频数据向量化数据标注数据向量化模型工厂模型开发运行发布模型管理运维行业大模型仓库金融测试大模型银行业务大模型AI编码大模型交通安全管理大模型证券投研大模型视觉巡检大模型(电力/化工版).LLaMABAICHUANQwenGLM基础大模型仓库解决方案工具包RAG+解决方案包决策生成精准检索数据问答智能撰写计算机视觉解决方案数字人解决方案包检测识别分类交互拟人动作金融(银行、证券、保险)能源、化工智能信审智能风控知识问答