《胡杏-面向复杂问题的智能自主设计探索.pdf》由会员分享,可在线阅读,更多相关《胡杏-面向复杂问题的智能自主设计探索.pdf(57页珍藏版)》请在三个皮匠报告上搜索。
1、面向复杂问题的智能自主设计探索 胡杏 中国科学院计算技术研究所研究员演讲嘉宾胡杏中国科学院计算技术研究所 研究员博士生导师,主要研究方向为高效安全的智能计算系统以及基于智能技术的计算系统自动化构建。多次担任MICRO、DAC等体系结构和人工智能旗舰会议的程序委员会委员,获得国家级和中国科学院级青年人才计划。目 录CONTENTS1.智能自主设计:从计算到设计2.智能自主设计的方法和挑战3.极致开放的智能自主设计:开放场景编程4.展望智能自主设计背景:从计算到设计PART 01计算问题理论基础丘奇图灵论题Alonzo ChurchAlonzo Church:LamdaLamda演算演算Allen
2、 TuringAllen Turing:图灵机:图灵机图灵机计算过程1.有限指令2.有限步骤结束,得到正确的答案可有效计算的问题函数演算过程=侧重语言和逻辑侧重物理和机器可有效计算的问题基于Machine OP的程序物理可执行的计算空间(Machine OP)问题描述 I/O数据输入验证条件物理计算程序设计问题刻画可执行、可验证、可理解、可修正构建映射:,使得 ,(,()成立定义自然语言描述的功能和设计约束集合、验证条件(,)可执行的操作集合解决可计算问题的过程从计算到设计可有效计算的问题生成基于machine OP的程序Machine可执行的OP空间是否可以智能自主设计?可有效计算的问题基于
3、Machine OP的程序物理可执行的计算空间(Machine OP)问题描述 I/O数据输入验证条件问题描述 I/O数据输入验证条件来自现实场景任务的挑战描述抽象程度验证准确度解空间大小评价任务复杂性的几个维度智能自主设计的挑战:来自现实场景中的任务超大的解空间32位CPU102998 1010540空间大小蛋白质药物新材料1048 10125 10300 C程序智能自主设计的挑战:来自现实场景中的任务超高的准确度要求需要运行10亿次测试(每条测试有1万条指令)才能保证Intel P4 CPU芯片99.99999999999%的准确率目标检测80%问答系统90%图像分类90%语音识别90%V
4、S开放多样的抽象输入从用户的输入输出样例中生成程序B=A:3+-+A3:6+-+A6:9 从用户的自然语言描述中生成程序 add two chairs 5 spaces apart 炒一盘番茄鸡蛋从与环境的交互中生成程序 智能自主设计的挑战:来自现实场景中的任务传统程序合成的限制可有效计算的问题生成基于machine OP的程序Machine可执行的OP空间I/O数据输入验证条件传统程序合成的成功依赖于精心设计的DSL/GrammarDSL设计与程序的表达能力和搜索空间大小紧密相关Heuristic搜索算法自顶向下、自底向上、剪枝、搜索空间表示明确且有意义的约束一般要求可以通过SMT验证Lis
5、t processing样例传统程序合成的程序规模远远小于实际场景里的问题规模生成正确率与语法树大小的关系Shi23传统程序合成的限制智能自主设计的方法和挑战PART 02深度强化学习大模型AlphaTensorAlphaFoldAlphaGo20142022专精大众智能新时代的两大里程碑自底向上可有效计算的问题生成基于machine OP的程序Machine可执行的OP空间问题描述I/O数据输入验证条件自顶向下问题空间表示转换解决描述复杂度问题问题空间语义分解减小搜索空间搓工具构造功能更复杂、更多样的可计算载体优化搜索方法寻找更有价值的搜索空间快搜索智能自主设计的范式能自顶向下来解决问题的核
6、心驱动:LLM!智能自主设计的范式自顶向下能自顶向下来解决问题的核心驱动:LLM!语言表征学习人类通识经验智能自主设计的范式自顶向下基于LLMs的智能体设计以AutoGPT为代表的大模型解决方案大模型擅长任务分解,尤其是流程类的任务分解智能自主设计的范式自顶向下智能自主设计的范式自顶向下以AutoGPT为代表的大模型解决方案让AutoGPT查询资料学习AutoGPT智能自主设计的范式自顶向下基于大模型和代码生成的自然语言机器控制Code as Policies:Language Model Programs for Embodied Control智能自主设计的范式自顶向下基于大模型和代码生成