本文介绍: 可以通过open ai所提供的方法去对我们的 Prompt 去进行拆分,拆分成tokens。文档第三项: Making requests 菜单。核心的 chat 接口,菜单第五项, Chat。可以通过官方提供的方法去计算tokens的数量。2 )通过 python 程序处理。1 )通过 curl 命令来访问。使用python程序测试下。
Open AI 的 api 调用示例
- API的调用的文档:https://platform.openai.com/docs/api–reference/introduction
- ChatGPT官方提供了 Python版的包 和 Nodejs版的包
- 我们使用 python3.8版本来安装: $
sudo python3.8 -m pip install openai
- 大家可以在自己的python环境里面呢进行一下安装
- 官方python版的 OpenAI 模块,除了最基础的对于Chat的API的调用,还封装了很多其他模型,其他场景的一些使用方法
- 我们直接通过python版的 OpenAI 去调用是比较简单的,是比较容易看到效果的
- 对于 Open AI, 它的API是需要API Key去进行认证的
import os
import openai
openai.proxy = "http://127.0.0.1:7890"
openai.api_key = "此处填入您的 api_key"
openai.Model.list()
Open AI 聊天接口的调用
-
-
https://platform.openai.com/docs/api–reference/making–requests
curl https://api.openai.com/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $OPENAI_API_KEY$" -d '{ "model": "gpt-3.5-turbo", "messages": [{"role": "user", "content": "Say this is a test!"}], "temperature": 0.7 }'
-
{ "id": "chatcmpl-abc123", "object": "chat.completion", "created": 1677858242, "model": "gpt-3.5-turbo-0301", ... // 此处省略后续 } ```
-
-
- https://platform.openai.com/docs/api–reference/chat/create
- 我们看一下这个接口:
https://api.openai.com/v1/chat/completions
- body
- model [Required]
- messages [Required]
- functions [Optional]
- temperature [Optional] 较高的温度值让输出更加随机,较低的温度值会使输出更稳定
- top_p [Optional] 控制输出的随机性
- n [Optional] 返回几个结果,默认是1个结果
- stream [Optional] 交互是否是流式的,默认是 false
- stop [Optional] 停用词
- max_tokens 所允许的最大的token的数量, 这里是设置的是模型生成的最大的输入长度,可以控制模型生成文本的长度
- presence_penalty 存在惩罚,决定模型是否偏好新词语的参数,设置较高值会让模型倾向于生成新出现的词而不是重复已有的词
- frequency_penalty 频率惩罚,决定模型是否偏好常见词语的参数,设置较高值会让模型倾向于生成不常见的词语
- …
-
返回
{ "id": "chatcmpl-123", "object": "chat.completion", "created": 1677652288, "choices": [ { "index": 0, "message": { "role": "assistant", "content": "nnHello there, how many I ..." }, "finish_reason": "stop" } ], // 用于计算本次会话 tokens 的数量 "usage": { "prompt_tokens": 9, "completion_tokens": 12, "total_tokens": 21 } }
-
import os import openai openai.proxy="http://127.0.0.1:7890" openai.api_key = '您的api_key' pcomletion = openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Hello!"}, ] ) print(completion.choices[0].message)
-
"role": "assistant", "content": "Hello! How can I assist you today?"
原文地址:https://blog.csdn.net/Tyro_java/article/details/134737628
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:http://www.7code.cn/show_30580.html
如若内容造成侵权/违法违规/事实不符,请联系代码007邮箱:suwngjj01@126.com进行投诉反馈,一经查实,立即删除!
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。