本文介绍: 百度智能云千帆大模型平台再次升级!在原有API基础上,百度智能云正式上线Python SDK(下文均简称千帆 SDK)版本并全面开源,企业和开发者可免费下载使用!千帆SDK全面覆盖从数据集管理,模型训练,模型评估,到服务部署等方面的功能,我们开发者可基于千帆SDK通过代码接入并调用百度智能云千帆大模型平台的能力,轻松实现LLMOps全流程的落地,快速构建属于我们自己的大语言模型应用。
前言
百度智能云千帆大模型平台再次升级!在原有API基础上,百度智能云正式上线Python SDK(下文均简称千帆 SDK)版本并全面开源,企业和开发者可免费下载使用!千帆SDK全面覆盖从数据集管理,模型训练,模型评估,到服务部署等方面的功能,我们开发者可基于千帆SDK通过代码接入并调用百度智能云千帆大模型平台的能力,轻松实现LLMOps全流程的落地,快速构建属于我们自己的大语言模型应用。
一、SDK的优势
SDK当前主要的价值在于可快速使用API能力,并完善API使用的周边工具链,同时提供cookbook用于实践。
1、快速使用API能力,不需要我们这些开发者去实现http客户端以及鉴权逻辑;并在此基础上做了可配置重试,流量控制,提升了API功能的使用体验。
2、结合实际的案例和应用场景提供了响应的cookbook,使得开发者可以快速上手,甚至复用大部分已实现代码。
3、拓展了LLM应用的基础能力,例如结合LLM应用层常见的Agent等概念进行了封装,提供了基于Agent的应用模板类。
二、千帆SDK:快速落地LLM应用
千帆SDK支持对话补全、续写补全、语义向量、插件、文生图等一系列功能,帮助我们轻松愉快的完成应用开发。
三、如何快速上手千帆SDK
百度智能云千帆大模型平台为我们开发者提供了详细的操作手册,包括SDK快速启动、大模型开发基础功能快速入门和Langchain接入方法,我们可通过以下步骤更加快速的使用千帆SDK。
3.1、SDK快速启动
在该模块,我们通过必要快速上手步骤,以及以Chat对话为调用示例,介绍了如何快速进入LLM的应用开发。
3.2. SDK进阶指引
对于对模型有微调训练需求的开发者,千帆SDK提供了模型训练和管理的能力。
3.3. 通过Langchain接入千帆SDK
为什么选择Langchain
4、开源社区
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。