当前位置:首页 > 报告详情

计算机行业:从关键论文看边缘AI-240701(15页).pdf

上传人: b**** 编号:166757 2024-07-02 15页 1.17MB

下载:
word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
本文主要介绍了苹果公司发布的个人智能系统Apple Intelligence,该系统集成了多个功能强大的生成模型,用于用户的日常任务,并可即时适应用户当前的活动。Apple Intelligence包含一个30亿参数的设备端语言模型和一个更大的在服务器上运行的语言模型。苹果在基础模型上增加了许多适配器,针对总结、校对、邮件回复、音调调整、查询处理、友好性、紧急情况等不同具体任务进行了优化。在多项评测中,苹果的设备端模型和服务器模型都取得了优秀的成绩。 苹果还发布了一篇论文《LLM in a flash:Efficient Large Language Model Inference with Limited Memory》,提出将模型参数存储在闪存中,按需将其引入内存,解决了高效运行超过可用内存容量的大模型的挑战。论文中使用窗口化技术通过重用以前激活的神经元来减少数据传输,行列捆绑增加了从闪存读取的数据块的大小。这些方法一起作用,允许运行模型的大小是可用内存的两倍。 此外,OpenAI和谷歌也纷纷布局边缘侧AI,加速边缘侧智能助理的产业变革。OpenAI推出GPT-4o,可以实时推理音频、视觉和文本。谷歌展示其最新的Astra项目,探索了AI助手的未来,展示了在手机以及智能眼镜设备上运行的效果。 综上所述,苹果、OpenAI和谷歌等科技巨头在AI领域不断进行创新探索,推动边缘侧AI应用的发展,有望打开各类终端软硬件的新增长空间。
苹果发布Apple Intelligence,自研端+云模型能力如何? 苹果如何解决边缘侧性能问题,技术储备如何? 科技巨头纷纷布局边缘侧智能助理,产业变革将如何发展?
客服
商务合作
小程序
服务号
折叠