6-1 机器翻译在跨境电商的应用与研究.pdf

《6-1 机器翻译在跨境电商的应用与研究.pdf》由会员分享，可在线阅读，更多相关《6-1 机器翻译在跨境电商的应用与研究.pdf（25页珍藏版）》请在三个皮匠报告上搜索。

1、机器翻译在跨境电商的应用与研究杨宝嵩 阿里巴巴 算法专家|01阿里翻译技术平台概览02翻译在跨境电商中的应用03最新技术探索目录CONTENT|01阿里翻译技术平台概览阿里翻译技术平台概览|5阿里翻译技术平台概览|论文&专利发表60+CCF A/B类会议/期刊论文100+项专利ACL2022 Outstanding Paper Award国际评测 WMT 21国际顶级机器翻译评测 Quality Estimation Task 9个语向第一 Metrics Task 5个语向第一 术语翻译任务 英中第一 2021年CommonGen文本生成大赛5月登顶LeaderBoard WMT 18国际顶

2、级机器翻译评测 翻译任务 5语向第一奖项 工信部新一代人工智能重点任务揭榜计划、第一期人工智能产业创新“多语言智能翻译平台”揭榜优胜单位（仅3家）“面向全球电子商务的多语言处理技术与平台”获得浙江省科学技术进步二等奖6|02翻译在跨境电商中的应用翻译在跨境电商中的应用-商品内容展示|标题单位UI框架英语版俄语版阿语版8翻译在跨境电商中的应用-商品内容展示|尺码详情描述英语版俄语版阿语版9翻译在跨境电商中的应用-商品内容展示|评论英语版俄语版阿语版10翻译在跨境电商中的应用-商品内容展示|问大家英语版俄语版阿语版11翻译在跨境电商中的应用-更多的跨语言场景|买卖家沟通商品搜索12翻译在跨境电商中

3、的应用-多模态场景|图片翻译13翻译在跨境电商中的应用-多模态场景|直播/视频翻译14|03最新技术探索最新技术探索|模型改进质量评估领域适应知识融合翻译连续语义增强（ICLR21、ACL22）UniTE（ACL 22）领域适配器（NeurIPS20、EMNLP 20、TASLP 21）KNN-MT（ACL 21、EMNLP 21、ACL 22）多粒度表示迁移（ACL 21）个性化个性化机器翻译（ACL21，ACL22，NAACL22）16模型改进：连续语义增强(ACL 22 Outstanding Paper)|问题：回译等离散表示数据增强方法，数据多样性差、利用效率低，且易产生语义偏移解决

4、方法：连续语义空间扩充训练样本的数据分布，结合邻域风险最小化策略优化翻译模型17质量评估：融合不同类型的标注数据的UniTE（ACL22）|问题：三种评估场景(原文,译文)、(译文,参考译文)、(原文,译文,参考答案)采用的技术、语料均不相同，标注资源不能得到充分利用解决方法：基于区块化Attention掩码的模型结构，利用跨语言预训练和多任务联合训练，实现不同类型标注资源的知识迁移WMT21 Metrics比赛第一单一模型（WMT 2019 所有语向）超越三个评估场景的SOTA模型18领域适应：轻量训练的Adapter（NeurIPS 20，EMNLP20，TASLP 21）|问题：训练好的

5、翻译模型如何快速迁移至新领域？Finetuning有灾难性遗忘问题，需要调整全部参数，部署代价大解法：引入Adapter，固定训练好模型的参数，仅调整Adapter参数以适配新领域Self-AttentionFeed ForwardAdaptive LayerAdaptive LayerEmbedding MSelf-AttentionCross-AttentionAdaptive LayerDecoder OutputEmbedding NFeed ForwardXYUp ProjectionReLUDown ProjectionTransformer特点：不影响译训练好模型的性能部署代价小

6、，每个领域仅增加Adaper参数中英 BLEU领域内领域外均值Baseline35.2848.8742.08Baseline+Finetune36.9849.0543.02Baseline+Adapter45.4743.7244.6019领域适应：无需训练的 KNN-MT(ACL 21,EMNLP 21，AAAI 22,ACL 22)|问题：finetuning、Adapter都需要训练，应用代价大，能否在不训练情况下，实现领域适配？解决方法：寻找最相似句子，利用译文动态干预解码过程自动学习k与lambda关系领域适应ITKoranLawBase22.9910.1633.36Base+KNN-