GPT-4 API大规模测试资格发放启动
编者按：本文源自微信公众号“量子位”（ID:QbitAI），作者梦晨克雷西，经微想智云授权转载。ChatGPT再次实现突破性进化，OpenAI集中推出多项重大更新！其中最核心的革新是API新增函数调用（Function calling）能力，这一功能与网页版插件机制类似，使API得以调用外部工具。这一能力将开发者的需求转化为现实，ChatGPT API原本缺失的功能如今可通过第三方服务实现。业界普遍认为，这是自ChatGPT API发布以来最具颠覆性的升级。此外，本次更新不仅提升了能力上限，还优化了成本结构：
– 推出全新gpt-4-0613和gpt-3.5-turbo-0613模型
– gpt-3.5-turbo上下文长度提升400%，从4k扩展至16k
– gpt-3.5-turbo输入token价格下调25%
– 最先进的embeddings模型价格削减75%
GPT-4 API的全面开放引发国内大模型领域的广泛关注，不少从业者将其视为重大挑战。
### 函数调用机制详解
根据OpenAI官方说明，函数调用功能同时兼容GPT-4和GPT-3.5模型。开发者只需描述所需函数，模型将根据提示词自主决定调用时机与方式，这一机制与ChatGPT调用插件的逻辑高度一致。官方提供了三个典型应用场景：
1. **智能客服自动化**：通过API调用外部服务执行操作，如发送邮件或查询天气
2. **自然语言转结构化查询**：将口语化指令转化为SQL语句，例如“统计上月的订单数量”自动生成数据库查询
3. **文本信息提取**：定义目标数据结构（如人名、生日、地点），输入维基百科链接即可批量提取结构化信息
这一创新功能迅速获得开发者群体的高度认可，普遍反映其能显著提升开发效率。此前，实现GPT函数调用需依赖LangChain工具，尽管后者在理论上具备更高运行效率，但稳定性仍不及OpenAI的定制化方案。
### 新旧版本迭代与价格策略
当前，新版本模型已逐步进入迭代阶段。gpt-4-0613、gpt-3.5-turbo-0613及支持超长上下文的gpt-4-32k-0613均支持函数调用功能。值得注意的是，gpt-3.5-turbo-16k虽提供4倍上下文长度（支持约20页文本），但暂不支持该功能。
旧版本模型将逐步淘汰：初始版本gpt-3.5-turbo和gpt-4用户将于6月27日自动升级。开发需求较长的团队可选择手动保留旧版本，但需注意9月13日后所有旧版本请求将彻底失效。
在价格方面，OpenAI呈现“量增价减”的态势：
– gpt-3.5-turbo（4k token版）输入token价格降至0.0015美元/千token（约1美元覆盖66.6万token），输出token为0.002美元/千token（1美元覆盖50万token）
– embeddings模型价格暴跌75%，降至0.0001美元/千token（1美元覆盖千万token）
– 新推出的16k token版gpt-3.5-turbo在提供4倍处理能力的同时，价格仅翻倍，输入/输出token价格分别为0.003/0.004美元/千token
部分用户反馈当月账单从百美元骤降至几美分，具体原因尚待官方解释。
### 开发者生态新格局
OpenAI的新功能引发关于与Langchain竞争的讨论。有观点指出，函数调用机制与Langchain的“Tools”模块高度相似，甚至有猜测认为OpenAI可能继续复制Langchain的Chains和Indexes等核心功能。作为大模型领域最受欢迎的开源框架，Langchain近期获得千万美元种子轮融资，但面对OpenAI的竞争仍需积极应对。
Langchain在OpenAI官宣更新的10分钟内迅速作出反应，宣布启动兼容性开发，不到1小时即发布新版本，不仅支持函数调用功能，还能将现有tools模块转换为OpenAI的functions格式。这一快速迭代能力引发开发者对OpenAI潜在竞争的担忧。
OpenAI首席执行官Sam Altman近期在公开场合表示，将避免与客户直接竞争（除消费级ChatGPT应用外），但开发工具似乎不在其限制范围内。
### 微软Azure的竞争策略
作为OpenAI最大股东，微软通过Azure云服务提供OpenAI API的并行版本。近期开发者反馈，从OpenAI切换至微软Azure后，性能显著提升：
– median latency从15秒降至3秒
– 95th percentile latency从60秒降至15秒
– token处理速率提升300%（8个/秒→24个/秒）
结合Azure的折扣政策，部分用户成本甚至低于原版API。
尽管Azure的更新周期通常滞后OpenAI数周，但其在性能优化和成本控制上展现出独特优势。开发者可采用“开发阶段用OpenAI，部署阶段转Azure”的混合策略。
### 结语
OpenAI的函数调用功能正重塑大模型开发生态，为开发者带来效率革命的同时，也引发关于技术竞争和商业模式的深度思考。对于有需求的开发者，GPT-4 API测试资格排队通道已开放（传送门见文末）。
更新公告：https://openai.com/blog/function-calling-and-other-api-updates
GPT-4 API排队：https://openai.com/waitlist/gpt-4-api
参考链接：
[1]https://news.ycombinator.com/item?id=36313348
[2]https://twitter.com/svpino/status/1668695130570903552
[3]https://weibo.com/1727858283/N5cjr0jBq
[4]https://twitter.com/LangChainAI/status/1668671302624747520
[5]https://twitter.com/hwchase17/status/1668682373767020545
[6]https://twitter.com/ItakGol/status/1668336193270865921
本文为专栏作者梦晨克雷西授权微想智云发表，版权归原作者所有。文章系作者个人观点，不代表微想智云立场，转载请联系原作者。如有任何疑问，请联系http://gpt.idea2003.com/。