原作者：依依│百度飞桨产品经理
一乔│飞桨开发者技术专家

分享内容

01:大模型应用简介
02:LLM应用开发范式
03: Al Studio大模型社区
04:AI对话类应用开发技巧
大模型技术爆发，各类应用产品涌现

文心产业级知识增强大模型




工作中的“超级助手”——智能总结

工作中的“超级助手”——智能编程
基于大语言模型的应用开发

三种LLM应用开发范式

低投入Prompting耗时短，效果有限,

受token限制

中投入建立数据索引库开卷考试:耗时适中,受检索效果、token限制

高投入

Supervised Fine Tuning闭卷考试:效果较好泛化性强

耗时较久门槛较高
文心一言微调经验总结
1.适当构建ICL和COT数据可提升指令理解
与多轮对话能力
2.w条以上的数据有更好的效果3.数据多样性重要性大于数据规模4.尽量筛选掉无意义和错误的内容

共创社区生态、让大模型开发更简单

大模型社区:支持分享、交流与共创

• 支持公开作品至创意坊
• 热门内容与日榜/周榜实时更新
• 点击作品即可收藏、制作同款
  大模型社区:支持分享、交流与共创
  支持作品分享至频道
  支持共创交流
  支持表情点赞等多反馈操作
  点击作品即可查看详情
  大模型应用:支持体验、创作
• 支持大模型极致推理
• 性能模型参数自动填写
• 提供Prompt最佳实践
  大模型应用:支持体验、创作
  知识灵活挂载
  自动建立数据索引
  ·支持大模型高效微调
  LoRA、DreamBooth.
  SFT、Prefix-Tuning
  √文心一言√开源大模型
  ·专业模式展示中间过程
  灵活调试大模型效果
  社区应用一键克隆

实践举例:基于Al Studio构建飞桨智能问答助手

AI Studio大模型社区AI对话类应用创建技巧

系统基础Prompting
你需要根据以下任务中的描述进行角色扮演，你只能以任务角色的身份应答，而不是语言模型。任务:角色身份设定
希望LLM扮演的角色/完成的任务描述，对于任务描述越细节效果越好
格式:人设+任务及解决方式+附加条件陈述

角色身份设定*R

请输入AlI应用代表的角色名称、身份定位、背景说明等信息，1024字符以内（例:角色名称为“钢铁侠”，他是美国漫威漫画旗下的超级英雄，由斯坦·李、赖瑞-理柏、唐·赫克和杰克·科比联合创造。钢铁侠全名安东尼·爱德华·托尼·史塔克，出生于1970年5月29日，他是斯塔克工业的CEO，因场阴谋绑架中，胸部遭弹片穿入，生命危在旦夕，为了挽救自己的性命，在同被绑架的物理学家何·银森的协助下托尼制造方舟反应炉从而逃过劫，利用方舟反应炉作为能量运转的来源，暗中制造了套装甲杀出重围后逃脱。后来钢铁侠参与创立复仇者联盟。)
角色身份设定
原则:人设+任务目标及解决方式+附加条件完整陈述
举例:
你现在是一个提示生成器，专业生成提供给大语言模型人设设定的提示词。
系统基础Prompting
请基于以下已知信息回答我的问题，不允许进行编造与作假，如仍无法回答，请说你不知道如何作答。
已知信息:外挂数据集检索结果,用作建立向量索引库，纯文本效果会更好

自定义数据检索
提供给LLM的背景材料，例如对业务名词的介绍解释、背景知识的文字片段、需要被处理的样本输入等
系统基础Prompting
请参考并模仿以下示例的应答风格。
示例;输入1输出1输入2输出2
Few-Shot Learning
提供LLM学习的示例对话，结合角色身份设定让LLM更加理解任务及回答的方式与风格
我的问题:你的输入
你好，我是大语言模型的提示词生成器，请提供你今天想要大语言模型扮演的角色/任务（如扮演代码审阅助手)。
更多Tips:示例对话及验证参数
示例对话:提供LLM学习的输入输出的样本演示
验证参数:用于验证应用创建效果
Tips
1.可以针对特殊回答、语气设计输入输出
⒉数量在5对以上效果更佳

图文实践展示

大模型应用开发实战
张一乔PPDE/飞桨开发者技术专家。2022年被评选为PPDE
·给Al Studio平台赛题贡献多个基线，如、《百度网盘Al大赛-图像处理挑战赛:文档检测优化赛》《百度网盘AI大赛-图像处理挑战赛:∵"水印智能消除赛》等。
在Al Studio上公开多个开源项目，例如《基于边缘部署(PC/AiBox/Jetson)的实时预览美甲机》。
对飞桨框架进行贡献，如进行飞桨框架中英文API文档修复工作、为框架移除LoDTensor的使用，自2.3版本以来，多次获得开源贡献证书~
在Al Studio平台的多个比赛中，使用PaddlePaddle获得名次，如2022国际自主智能机器人大赛企业赛道荣获第二名、百度网盘Al大赛-图像处理挑战赛荣获前十名等。
·在飞桨特训营等项目中指导学员完成应用开发。
实战内容:以一个【广告文案生成器】为例快速开发大模型应用·应用概述:根据对服装特征的描述，例如颜色，版式等信息词汇，生成完整的广告语说辞。讲解流程:
·基于已有优质prompt创建基础应用实际示例演示与观察

更多优化方式实操

需要先申请相应权限才能进行实操。