红薯《基于模力方舟开发 AI 应用的最佳实践》.pdf

1、基于模力方舟开发 AI 应用的最佳实践红薯，开源中国 CTO 模力方舟(Gitee AI)是一个面向开发者、终端用户与产业场景的 AI 应用共创平台，提供高可用的模型服务能力、Serverless 应用构建能力与 API 组合能力，帮助开发者打造可落地的 AI 应用，并与用户、行业场景形成商业闭环。从代码到应用，从模型到场景：模力方舟的使命与实践依托 Gitee 全球第二大开发者平台的 DevOps 能力，整合代码管理、持续交付等全流程工具链，支持公有云与私有化部署。AI 模型广场为开发者和企业提供 70 款精选大模型 API，以及稳定灵活的分布式算力接入能力，让服务开箱即用、稳定可靠、安全可

2、控，帮助开发者快速构建 AI 应用，无需关心底层部署。提供包括微调、强化学习、参数插拔等在内的模型定制服务，助力企业客户快速打造专属 AI 能力，适配业务场景，高效落地应用。模力方舟核心能力模块通过系列 AI 技术活动，包括前沿技术分享、场景化实战训练营等，为开发者打造学习与交流空间。同时为企业提供展示技术能力、产品方案的合作窗口，共建开放共创的 AI 生态。提供覆盖 AI 应用“开发 上架 展示 变现”全流程服务，助力开发者高效实现从创意到产品、从产品到用户的完整闭环。共创 AI 应用生态，链接创意、用户与算力价值链。模型定制AI 开发者教育AI 应用共创5AI 模型广场：快速、稳定、可定制

3、 开箱即用的 API 服务：标准化模型接口，支持私有化部署与 Serverless 调用 算力广泛兼容：已适配昇腾、天数、沐曦等主流国产 AI 芯片，同时支持英伟达等国际主流硬件环境，满足多样化部署需求。极简接入降低开发门槛高性能推理 支撑真实业务场景 推理成本最高可降90%：Serverless架构显著降低开发与部署负担 稳定高可用的服务通道：API Token独立绑定，支持高并发调用 智能推理缓存机制：内置多级缓存与模型复用机制，提升响应效率。灵活扩展 支持模型与场景定制 多类型模型支持：兼容 Diffusion、多语言、多模态、RAG 等主流模型 LoRA 动态加载：支持运行时热插拔轻量

4、化模型参数，快速实现个性化微调 能力组合和多模型链路：支持多 API编排与工作流式调用，构建个性化AI应用。OmniKnow 模力方舟应用开发实例OmniKnow 个人知识库怎么才是一个面向最终用户的知识库产品？安装便捷无需复杂设置，上手即用无需理解专业术语（模型、提示词、RAG、Agent、Markdown、JSON。）OmniKnow 的技术栈选型面向最终用户的知识库产品的要求：体积小、下载快速无依赖，鼠标点击即可完成安装，开箱即用最终的技术栈：TauriSvelteKit+Shadcn SQLite+SQLite-Vec+SQLite FTS Extension OmniKnow 的模型

5、选择主模型嵌入模型向量化：jina-clip-v2重排：jina-reranker-m0视觉模型Qwen2-VL-72B-InstructInternVL2.5-78B文档解析模型PDF-Extract-Kit-1.0调用模力方舟的 APIhttps:/ AI 应用到模力方舟从创意到上线，AI 应用发布流程注册认证注册账户，并完善个人信息认证成为应用开发者新建应用填写应用名称、介绍和类型及功能分类010203调用集成在后端接入相应模型 API，集成用户体系与计费接口，支持灵活发版与快速迭代，便于持续优化应用体验。04应用发布完成应用测试，上架平台，进入AI应用共创生态，开启真实用户体验应用信息

6、设置界面应用数据统计页面从上线到运营，开发者的全流程控制中心应用信息设置界面应用数据统计页面从上线到运营，开发者的全流程控制中心模力方舟为开发者提供完整的应用管理控制台从基础配置、调用计费，到用户数据与收入统计一应俱全。从创意到使用，AI 应用触达真实用户终端用户界面模力方舟开发者终端用户发现满足需求的应用开发 AI 应用（常规）模型调用、计费与分润机制一览开发者如何通过调用计费、收益分成、活动激励，调用计费方式模型 API 按调用次数计费，实时记录 模型专属部署与持续运行按 CPU/GPU 时长计费按量付费、无隐藏成本，资源可自由配置用户付费由平台与开