程桥-LLM技术在有道词典笔上的应用实践.pdf

1、演讲人：程桥0102030401有道词典笔 能扫能拍还能教 AI教育大模型 支撑全科学习有道AI答疑笔 国内首款AI原生学习硬件 随时随地9科答疑有道AI学习机学习机、学练机、专属电脑三合一家庭辅导一步到位有道听力宝 既是听力神器 更是口语教练 新一代英语听说学习神器自2018年以来，网易有道已先后推出20余款智能学习硬件，其中,明星产品有道词典笔开创了智能词典笔品类，广受用户好评。2023年8月，有道词典笔X6 Pro发售，成为首个搭载子曰教育大模型的硬件产品，能实现互动式深度学习。2024年7月，有道词典笔X7上市，行业首创内置AJ摄像头，独家搭载两款大模型应用：AI全科家庭教师小P老师、

2、虚拟人口语私教Hi Echo，帮助用户打通从查词翻译到全科学习的全学习场景。网易有道于2025年2月推出了有道AI答疑笔spaceone,开创了“AI答疑笔”这一学习硬件的新形态。AI答疑笔将前沿AI技术与答疑辅导场景深度融合，以强大的答疑能力与便携性，突破了传统的学习辅导模式与时空限制，开创了智能辅导的新范式。AI答疑笔重新定义了学习硬件的功能与价值，通过软件与硬件强大的协同创新，推动学习硬件行业向深度答疑与个性化辅导的方向迈进，为未来教育智能化趋势树立了新的行业标杆。02密度定律模型网络架构不断创新 MoE、SSD 知识蒸馏 量化、压缩、剪枝Densing Law of LLMs：http

3、s:/arxiv.org/abs/2412.04315 不依赖网络 保护数据隐私 低延迟 算力弱 内存小 算力强 内存大 依赖网络 数据不安全端侧AI云端AIXAI PC智能穿戴 智能手表 眼镜、VR/ARAI手机教育智能硬件2024年教育智能硬件市场规模突破千亿元，至2027年将进一步突破1400亿元。以硬件为基础以内容和交互为核心 学习产品功能聚焦离线功能以AI为技术LLM、OCR、NMT、TTS、ASR等 端侧AI不依赖网络、隐私性、低延迟、高可靠Qwen 0.5/0.6B、1.5B、3B、7BLlama 3.2 1B、3B、8BMiniCPM3-4BPhi-3-mini 3.8B算力限

4、制内存限制功耗限制成本限制算法质量多应用部署平台FP32算力(TFLOPS)int8算力(GOPS)内存(GB)云侧4090 GPU82.6606.624端侧RK35620.057CPU:0.35NPU:11倍数1434CPU：2637NPU：606.624质量成本内存功耗速度032023年7月26日网易有道正式发布“子曰”大模型2023年11月4日2024年1月3日2025年1月2025年1月22日2025年6月23日“子曰”教育大模型正式通过相关备案 国内首个教育领域的垂直大模型正式推出子曰教育大模型2.0子曰翻译大模型2.0上线，在翻译质量、效率以及鲁棒性等方面实现飞跃发布并开源国内首个

5、输出分步式讲解的推理模型“子曰-o1”“子曰3数学模型”正式开源云端GPU部署，线上服务 pro版+lite版 质量大幅优于原有NMT 2023年Q4 1.0，仅面向Web用户 2024年Q1 2.0，面向App、PC和Web用户 2025年Q1，图片翻译全线切换到大模型翻译 2025年Q1，文档翻译质量行业第一子曰LLM翻译词典笔学习机听力宝教育智能硬件小P老师LLM功能Hi Echo语法精讲文言文讲解阅读理解子曰大模型离线LLM、OCR、NMT、TTS、ASR、CAPT离线虚拟人AI核心能力云端CPU+GPU硬件平台端侧CPU+NPU大小模型结合云端结合输入-端侧计算输入拍照（OCR）语音

6、输入（ASR）文本输入教师人格启发式学习全科知识多轮问答善于鼓励检索增强RAG知识库教辅资料题库资源基座模型意图理解通用能力知识理解数理逻辑讲解问题（类真人TTS）输出-端侧计算云处理小P老师纯离线，本地算力词典笔离线大模型翻译201820192020202120222024RNNTransformerLLM0.0230.0370.0500.0590.5离线翻译网络结构模型(B)创新自研EMLLQ8量化混合专家Q4+Q8量化离线OCR离线TTS产品有道翻译王有道词典笔2有道词典笔3有道词典笔X7有道词典笔X3s有道词典笔X5&6CPU版离线OCRCPU版离线TTSNPU版本TTS模型增大1倍，