ChatGPT重磅更新!新增API函数调用,上下文飙升4倍,价格打“骨折”
大数据文摘出品
刚刚!OpenAI 对 GPT系列发布了重大更新。其中包括最核心的是API新增函数调用(Function calling)能力。
此外还有:
- 更新和更可控制的gpt-4和gpt-3.5-turbo版本。
- 新推出的gpt-3.5-turbo 支持16k的上下文输入。
- gpt-3.5-turbo输入token成本降低25%。
- 最先进embeddings model降价75%
- 开放gpt-3.5-turbo和gpt-4 API,不再设置等待时间表。
在这次更新中,OpenAI 重点介绍了函数调用:开发者不用手动选择函数,只需要模型描述需要用到的函数,何时调用哪个函数都是模型根据提示词自己决定的,与GPT-4调用插件的机制一样。
这些模型已经进行了微调,可以检测到何时需要调用函数,也可以生成符合函数签名的JSON响应。换句话说,函数调用使得开发者能够更可靠地从模型中获取结构化数据。
更新模型:GPT-4和gpt-3.5-turbo大升级
GPT-4/GPT-3.5-turbo有两个模型,编号都是0613(意为:6月13号更新?)。
其中,gpt-4-0613包括一个更新且改进的模型,具有函数调用功能;gpt-4-32k-0613包括与gpt-4-0613相同的改进,同时扩展了上下文长度,以便更好地理解较大的文本。
gpt-3.5-turbo-0613 包括与 GPT-4 相同的函数调用以及通过系统消息提供的更可靠的可控性;gpt-3.5-turbo-16k 的16k 上下文意味着该模型现在可以在单个请求中支持约 20 页文本。
此次更新OpenAI提供了更多的服务,但却只收取更低的价格,妥妥的业界良心啊:
“text-embedding-ada-002 将成本降低 75% 至每 1K Token 0.0001 美元。
gpt-3.5-turbo-16k 的定价为每 1K 输入Token 0.003 美元,每 1K 输出Token 0.004 美元。
gpt-3.5-turbo’s 输入Token的成本降低了 25%”
价格计划更新后,有网友表示:OpenAI好像、貌似给免单了。
API使用示例,解放开发者双手
关于函数调用功能,OpenAI给出了以下几个示例。
1.请求转换
“给Anya发邮件,看她是否想在下周五喝咖啡”这样的请求转换为函数调用:
send_email(to: string, body: string)
“波士顿的天气如何?”转换为函数调用:
get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')。
2.将自然语言转换为API调用或数据库查询
本月前十名的客户是谁?
get_customers_by_revenue(start_date: string, end_date: string, limit: int)
Acme公司上个月下了多少订单,能转换为SQL查询:
sql_query(query: string)
3.从文本中提取结构化数据
定义函数提取Wikipedia文章中提到的所有人物:
extract_people_data(people: [{name: string, birthday: string, location: string}])
图注:调用外部API执行操作或回答问题
OpenAI 和它的GPT计划
在最近的一次访谈中,OpenAI的掌舵人Sam Altman公布了最近两年的GPT计划。例如2023年的计划是降低GPT-4的成本,以及提高响应速度,其他还包括:
- 更长的上下文窗口,可能会支持100w的token;
- 微调API,帮助开发人员更好的开发;
- 支持会话状态的API。
显然,这次更新是对更长的上下文窗口,帮助开发人员更好开发的承诺的一种回应。果然,这种纯粹创业团队,更多的是考虑如何让AI技术更好的服务更多的人群。而非像某公司,动不动就商业化、赋能啥的,把技术包装成普通用户用不起的样子。
如果细数OpenAI,会发现它是一家坚持梦想的机构,且想把事情做到极致的公司。
OpenAI最初是一个非盈利性人工智能研究实验室,2016年获得了萨姆•奥尔特曼和埃隆•马斯克10亿美元的资助。
2019年OpenAI转型为盈利性人工智能研究实验室,以吸收投资者的资金。
在实验室支持其研究的资金已所剩无几的时候,微软又宣布将在实验室投资10亿美元。
CEO Altman 表示,在早期的时候,GPT-4 非常慢,还有bug,很多事情做得不好。但是,最早期的计算机也是这样,它们仍然指向了我们生活中将要变得非常重要的东西的道路,尽管需要几十年的时间才能发展。换句话说,这家公司并没有因为初始的KPI不好,就放弃计划。
正如微软亚洲研究院前副院长、澜舟科技创始人周明在一次采访中提到的:
OpenAI最大的功绩是把各方面做到极致,是集成创新的典范。
世界上有几类人,有人就是要研究底层创新。有的是在底层创新上做应用,一般的应用是解决单项任务。还有的是做集成创新,把所有工作、应用、算法都在一个大平台上体现,形成里程碑。OpenAI 恰好集成创新做得非常好。
参考链接:
- https://mp.weixin.qq.com/s/p42pBVyjZws8XsstDoR2Jw
- https://openai.com/blog/function-calling-and-other-api-updates