加了一个字母,性能提升了一倍!

大家好!我是韩老师。

上周五,我在做一个功能的性能优化。只加了一个字母,性能就提升了一倍!

你猜猜,是什么字母?

有人猜是:#

# sleep(10)

有人猜是:a

sync -> async

不过,还是有大佬猜对了!那就是:o

gpt-4 -> gpt-4o

应该有不少粉丝都知道,我最近都在做 Azure API Center 相关的 Developer Experience。

今年年初,Azure API Center extension 发布了,是 VS Code Marketpalce 中,全球首个与 GitHub Copilot Chat 集成,提供 Chat 功能的 extension:

全球首个!

前几个月,VS Code 把 Chat API 和 LLM API 拆分开来,如此以来, VS Code extension 就能在任意地方调用 GitHub Copilot 强大的 LLM API,而不是只局限于 Chat 窗口。

上个月,Azure API Center extension 基于 LLM API,发布了一个功能:能从任何编程语言的 REST API Code 生成 OpenAPI 文档!

f13135bbe94bb0c26d1a86931ca88143.png

在上个月,VS Code LLM API 只提供了 gpt-4 和 gpt-3.5-turbo 两种 model。

gpt-3.5-turbo 速度很快,但是生成的效果不行。

gpt-4 速度较慢,但是生成的效果还是挺不错的。

当时在权衡之下,选择了 gpt-4。

而就在最近,最新的 VS Code LLM API 提供了最强大 gpt-4o 模型!

上周五,针对我们生成 OpenAPI 文档的功能,我分别对 gpt-4o 和 gpt-4 进行了测试。

结果,gpt-4o 效果拔群!

我使用 117 行代码的  JavaScript Express 代码,分别对运行时间进行了 3 次的测试。

测试结果如下:

使用 GPT-4:

  • 20981 ms

  • 10062 ms

  • 14559 ms

使用 GPT-4o:

  • 7930 ms

  • 5954 ms

  • 9603 ms

如此看来,GPT-4o 基本上把性能提升了差不多一倍!

更多关于 VS Code LLM API:

https://code.visualstudio.com/api/extension-guides/language-model#send-the-language-model-request

关于 Azure API Center extension:

https://github.com/microsoft/vscode-azureapicenter

我们的代码完全开源,使用最新的技术,欢迎来围观或者使用~

无论你是在使用 OpenAPI、GraphQL、gRPC、SOAP、WebSocket,或是其他类型的 API,你是否在为如何更高效地开发、管理、治理、复用你的 API 而感到困扰?

Azure API Center 为你的 API 开发保驾护航!

https://marketplace.visualstudio.com/items?itemName=apidev.azure-api-center

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值