简介:GPT3.5模型支持自定义函数输入消耗token价格比之前减少4分之一新的3.5模型支持16K的token数量接下来详细说说为什么这是史诗
来源: ChatGPT迎来史诗级更新,OpenAI又要刷屏了~多少产品正在瑟瑟发抖-今日头条
简介:
- GPT3.5模型支持自定义函数
- 输入消耗token价格比之前减少4分之一
- 新的3.5模型支持16K的token数量
接下来详细说说为什么这是史诗级更新
首先,之前只有GPT-4模型才支持8K以上token数量,能够处理大型文本,例如一篇论文的总结或者修改,翻译等等。但是GPT4不仅贵了很多倍,还需要申请和排队才能开通,实用性远不及3.5版本。
模型 |
输入价格 |
输出价格 |
gpt-3.5 |
$0.002/1K tokens |
$0.002/1K tokens |
gpt-4(8K) |
$0.03/1K tokens |
$0.06/1K tokens |
gpt-4(32K) |
$0.06/1K tokens |
$0.12/1K tokens |
新gpt-3.5 |
$0.0015/1K tokens |
$0.002/1K tokens |
注意:token和字符数不是一一对应,为帮助理解可以“暴力不准确的”将一个汉字等于2~4个token去感受下16K的意义,通常1000个Token约等于750个英文单词或者400~500个汉字。
接下来说说重头戏:自定义函数
举个简单的例子
GPT是用固定文本训练出的模型,所以不具备实时性,所以看似简单的“今天上海天气咋样”都无法完成,除非开发对应的插件。
而现在请求时定义函数即可,只需关注请求时加了一个functions对象,告诉chatGPT啥时候命中函数调用,并且包含些什么参数。
openai.ChatCompletion.create(
model="gpt-3.5-turbo-0613",
messages=[{"role": "user", "content": "上海天气咋样?"}],
functions=[
{
"name": "get_current_weather", // 函数名称
"description": "通过定位获得天气", //描述
"parameters": { //参数对象
"type": "object", // 类型:对象
"properties": { // 参数
"location": { // 位置
"type": "string", //类型
"description": "城市,县区,例如上海,云南昆明,北京海淀区", //命中描述
},
"unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},
},
"required": ["location"],
},
}
],
function_call="auto",
)
当你询问“上海天气咋样时”,可以根据回复信息的function_call熟悉获得是否命中了函数
message = response["choices"][0]["message"]
if message.get("function_call"):
function_name = message["function_call"]["name"]
然后就可以调用函数,进行返回
以上只是一个查询天气的例子,看上去可能不会太震撼,延续上述再进一步做一个助手机器人。
设置几个函数:
- 判断天气是否下雨
- 短信发送
- 飞书机器人调用
- 手机闹钟设置
查询近来7天上海会不会下雨,如果下就短信通知爸妈记得带伞,并且飞书通知后勤部门取消本周的户外团建活动,另外设置手机闹钟在下雨那几天提前半小时叫我起床
上述是非常口语化的描述,如果使用app直接语音输入,花十几秒,就把三件事妥妥安排,这就是自定义函数能够带来的可行性。
不仅如此,之前很火的autoChatGPT可以用自定义函数轻松实现,并且更加灵活强大。
如图,实现一个基于上下文的复合功能机器人也会变得相对容易。
感觉科幻电影的场景已经到来,每个人都能像老板一样,动动嘴就把事儿给办了
最后,欢迎大家关注我。以后也会为大家带来对应的新闻,想法和实践产品。
原创文章,作者:曾确令,如若转载,请注明出处:https://www.zengqueling.com/chatgptyinglaishishijigengxinopenaiyouyaoshuapingleduoshaoch/