大家好!我是韩老师。
上周五,我在做一个功能的性能优化。只加了一个字母,性能就提升了一倍!
你猜猜,是什么字母?
有人猜是:#
# sleep(10)
有人猜是:a
sync -> async
不过,还是有大佬猜对了!那就是:o
gpt-4 -> gpt-4o
应该有不少粉丝都知道,我最近都在做 Azure API Center 相关的 Developer Experience。
今年年初,Azure API Center extension 发布了,是 VS Code Marketpalce 中,全球首个与 GitHub Copilot Chat 集成,提供 Chat 功能的 extension:
前几个月,VS Code 把 Chat API 和 LLM API 拆分开来,如此以来, VS Code extension 就能在任意地方调用 GitHub Copilot 强大的 LLM API,而不是只局限于 Chat 窗口。
上个月,Azure API Center extension 基于 LLM API,发布了一个功能:能从任何编程语言的 REST API Code 生成 OpenAPI 文档!
在上个月,VS Code LLM API 只提供了 gpt-4 和 gpt-3.5-turbo 两种 model。
gpt-3.5-turbo 速度很快,但是生成的效果不行。
gpt-4 速度较慢,但是生成的效果还是挺不错的。
当时在权衡之下,选择了 gpt-4。
而就在最近,最新的 VS Code LLM API 提供了最强大 gpt-4o 模型!
上周五,针对我们生成 OpenAPI 文档的功能,我分别对 gpt-4o 和 gpt-4 进行了测试。
结果,gpt-4o 效果拔群!
我使用 117 行代码的 JavaScript Express 代码,分别对运行时间进行了 3 次的测试。
测试结果如下:
使用 GPT-4:
20981 ms
10062 ms
14559 ms
使用 GPT-4o:
7930 ms
5954 ms
9603 ms
如此看来,GPT-4o 基本上把性能提升了差不多一倍!
更多关于 VS Code LLM API:
https://code.visualstudio.com/api/extension-guides/language-model#send-the-language-model-request
关于 Azure API Center extension:
https://github.com/microsoft/vscode-azureapicenter
我们的代码完全开源,使用最新的技术,欢迎来围观或者使用~
无论你是在使用 OpenAPI、GraphQL、gRPC、SOAP、WebSocket,或是其他类型的 API,你是否在为如何更高效地开发、管理、治理、复用你的 API 而感到困扰?
Azure API Center 为你的 API 开发保驾护航!
https://marketplace.visualstudio.com/items?itemName=apidev.azure-api-center