02-AI 赋能 Rust 编程：实时指导与个性化学习的智能体 -Miley Fu.pdf

1、AI powered Rust programming and LLM AgentsMiley Fu-WasmEdgeCNCF AmbassadorKubeCon+Open Source Summit+AI_Dev China 24 Co-Chairhttps:/ on LlamaEdge03Multimodel agents to localize Rust Learning content02ContentCalling for Contributors04RustCoderhttps:/ coding assistantRustCoder:AI 助力 Rust 学习Rust 编码助手，可

2、以解释 Rust 概念、编写 Rust 代码、完成 Rust 算法并修复错误。兼容 OpenAI API：可以与任何流行的 AI IDE 集成，如 bolt.new、cursor、Zed 和 ContinuePowered by Open Source知识：书籍、Rust 示例和数据结构与算法（Rust 语言）运行时：WasmEdge模型：QwenCoderHost：Gaia效果展示:开放原子大赛与开源操作系统训练营联合推出的Rust数据结构与算法学习赛效果展示这是如何做到的许多开源模型现在支持长达 128k token 的长上下文长度，例如 llama-3.2-3B 和Qwen-2.5-co

3、der更长的上下文长度可以处理大量文本，但也有弊端：推理时间增加。计算资源要求更高。我们的解决方案：根据用户问题选择并提供最相关的章节或部分作为上下文。优化效率，同时保持高质量的响应。如何使用 RustCoder通过与 OpenAI 完全兼容的 API Point 与 AI IDE 相结合，比如 Cursor 和 ZedCursor+RustCoder Demo在自己本地运行支持更多的 Rust 知识库清华 Rust 训练营未来计划将 RustCoder 与 Rust Playground 集成利用 Rust 编译器强大的错误检测功能使用错误消息和 RustCoder 高效地调试生成的 Rus

4、t 代码。支持更多的 Rust 知识库Translation Agent for English Workshops/TutorialsVideoL:High quality translated videosPowered by WasmEdge and Gaia18WhisperTranscribe text with timestamps.Supports 90 languages.LLMMultiple LLMs to clean up transcribed text,translate,and check translation quality.TTSUse user-define

5、d LORA to generate voice that is natural sounding for specific domains.AI models on the edgeTakeawaysSupports multiple GenAI modelsLightweight(20M of total application size)Portability across GPU platformsTakeaway scale the inferenceRequires multiple specialized modelsRequires app to be tightly coup

6、led with the modelRequires efficient use of GPU computeBoth agents built on LlamaEdgeLlamaEdge:a universal GenAI runtime OpenAI compatible API serverSupport multimodal APIsSupport tool callsSupport built-in searchSupport RAG(OpenAI assistant API)A component library for developers to roll-your-own ti