香港大学：2024年英文语境下的人工智能大语言模型评测报告（23页）.pdf

1、蒋镇辉，苗霄宇，李佳欣香港大学经管学院深圳研究院人工智能研究所英文语境下的人工智能大语言模型评测（2024 年 2 月）1英英文文语语境境下下的的人人工工智智能能大大语语言言模模型型评评测测蒋蒋镇镇辉辉，苗苗霄霄宇宇，李李佳佳欣欣（香香港港大大学学经经管管学学院院深深圳圳研研究究院院，深深圳圳）一一、评评测测体体系系概概述述1.1 评评测测目目标标随着日新月异的技术进步，人工智能大语言模型（LLMs）为广大用户带来了新奇的使用体验和工作便利。然而，用户也会经常困惑于不同大模型的使用体验，并亟待一个用户视角的、系统的大模型测评。根据这一现实需求，本项目组构建了一个通用大语言模型的综合评价体系，于

2、 2024 年 1 月推出了中文语境下的人工智能通用大语言模型评测报告1，并公布了中文语境大模型排行榜2，共涵盖了 14 款中外主流大模型。在中文语境工作的基础上，本报告将研究视野扩展至英文语境。在本次评测中，项目组构建了全新的英文测试集，并在中文报告涵盖的 14 个大模型的基础上增加了几款国际主流的通用大模型，包括由 Google 开发的 Gemini、Meta 开发的 Llama 2 70B（此前中文语境评测使用的是经过中文增强的小参数版本），以及 Anthropic 开发的 Claude 2。本次测评有两个核心评测目标。首先，我们致力于从用户视角出发，全面评估国内外主流大模型在英文语言和

3、文化情景中处理多种复杂语言任务和应对敏感话题的能力，生成大模型排行榜（详见 https:/hkubs.hku.hk/aimodelrankings/en）。其次，考虑到以英文为原生语言的国外大模型在英文语境下可能存在潜在优势，本报告将以这些大模型为参照，深入评估和分析国产大模型在英文场景中的优势和局限性，并探究它们在英文领域的应用潜力。1.2 评评测测范范围围本评测共涵盖 16 个主流 AI 大语言模型，包括 7 个国外公司或团队开发的大1https:/www.hkubs.hku.hk/aimodelrankings/report2https:/hkubs.hku.hk/aimodelrank

4、ings/c英文语境下的人工智能大语言模型评测（2024 年 2 月）2模型，和 9 个国内商业大模型（如表 1 所示，表中大模型按首字母排序）。具体来说，在国际大模型部分，本测评涵盖了OpenAI公司的GPT系列（GPT 3.5-turbo、GPT 4 及其增强版本 GPT 4-turbo）模型，和由 Google、Meta 等领先科技企业和Anthropic、BigScience 等独角兽 AI 企业和科学家团队开发的大模型。在国内大模型部分，本测评纳入了包括文心一言 4.0、智谱清言（ChatGLM3）、通义千问 2、百川大模型 2、讯飞星火 3.0 和悟道天鹰在内的代表性大模型。以上绝

5、大多数大模型，如 GPT 系列、Claude 2、文心一言和通义千问 2 等，已经开始商业运营，而 Gemini Pro 也已通过 Google Bard AI 助手向公众免费开放。这些大模型代表了技术的发展现状，也更适宜从用户视角进行评测。表 1 评测模型列表1.3 评评测测体体系系本报告延续了 中文语境下的人工智能通用大语言模型评测报告 中划分的英文语境下的人工智能大语言模型评测（2024 年 2 月）3三大关键能力方向：自然语言能力3、专业学科能力以及安全与责任。其中，每个能力方向被进一步细划分为两个难度水平和细分为多个子任务，形成了一个全面的评测框架（见图 1）。图 1 英文语境下的大

6、模型评价体系自然语言能力被划分为两个难度级别：基础语言能力和进阶语言能力。基础语言能力包含自由问答、内容总结、内容创作等 6 类子任务。这些子任务既反映了大模型处理语言任务和创造文本内容所需的基本能力，也是广大用户在实际应用中频繁用到的功能。进阶语言能力包含场景模拟和角色扮演两类子任务，这类任务要求大模型展现出对人类角色、微妙情感和文化语境的深入理解，并在更复杂和多样化的情境中准确理解和响应指令。专业学科能力旨在考察大模型对人类学科知识的掌握，采用的是人类的多学科考试题目，也被划分为两个难度等级：中学水平和大学水平。安全与责任的测试则分为一般攻击和指令攻击两种。一般攻击测试模型处理包括危险话题