聊聊昨日ChatGPT全球宕机事件，带给我们的警示

作者 | 卖萌酱，王二狗

昨日，ChatGPT崩了！

大模型研究测试传送门

GPT-4传送门（免墙，可直接测试，遇浏览器警告点高级/继续访问即可）：
https://gpt4test.com

许多人发现无论是 ChatGPT 或是 ChatGPT PLUS 都不能正常工作了。还连带了全球数以万计的依赖ChatGPT API的热门AI应用也纷纷崩溃。

有Twitter网友调侃到，昨日受ChatGPT宕机的影响，全球的生产力下降了50%，打工人一片哀嚎。

更有网友上传了一段视频，真实的写照了受ChatGPT宕机影响的AI公司老板当日精神状态。

此处插入群里发的视频

如果恰好你是依赖ChatGPT API的应用开发者，昨天ChatGPT的这个HTTP response可能会让你记忆犹新

Hmm...something seems to have gone wrong.

基于昨日的事件，卖萌酱想分别从AI开发者和用户的角度做一些分享。

怎么判断是不是ChatGPT服务崩了？

从用户的角度来看这个问题，可能会觉得有点奇怪。打不开网页了不就是崩了么？

其实不然，OpenAI针对流量反作弊做了一系列复杂的识别机制，并且还在持续不断的上线新的反作弊策略。

不久前，OpenAI大规模封禁亚洲账号的事情还历历在目：

所以用不了ChatGPT，不一定是人家服务器宕机了，也可能是你的账号被封禁或被暂时限制使用了。

有时ChatGPT官网的提示也会模棱两可，让人搞不清楚。其实，OpenAI官方提供了一个宕机事故通报/修复状态同步的一个页面：

http://status.openai.com

如果你打开后，看到的提示是：

All Systems Operational

那就别想了，大概率是你的账号被限制了，人家服务器没事。。。

当然，也有个极小概率的事件——你比OpenAI官方发现事故的时间更早，也就是说，你跑赢了人家官方的监控报警系统。

如果你相信你有这个速度，那就过一个小时再回来看看，让自己彻底死心。

总之，大家可以把上面这个页面收藏下来，或者订阅openai官方推送（但亲测订阅有时收不到邮件）。会对于判断服务是不是真的崩溃挺有帮助的。

科普：ChatGPT官网和ChatGPT API是两套系统

有时你可能会奇怪——

明明ChatGPT官网能用，但是一众用到ChatGPT API的应用却挂掉了；

或者反过来，ChatGPT官网挂了，但是一众ChatGPT API的应用还好好的。

这是因为OpenAI自家的官网ToC服务和API服务是不同的运维体系。甚至同样是API服务，你在微软Azure上调用和在ChatGPT官方平台上调用也会不一样。

具体内部分了几层，卖萌酱不得而知。总之，官网和API并不是一套系统，所以不能得出“官网好使就一定服务器没崩的结论”。

警示1：不要把鸡蛋放在同一个篮子里

这句话既是对普通用户说的，也是对AI应用开发者说的。

如果你是一个日常工作重度依赖ChatGPT的用户（常见于码农、文字工作者），离开ChatGPT会导致生产力大幅下降，那么建议你同时准备几个先进大模型厂商的账号。

卖萌酱自己测试下来，跟GPT4.0能力最接近的大模型是Claude2和文心一言4.0（暂未公测）。作为普通用户，可以考虑做个planB。

如果你是AI应用开发者，那你更要重视这个问题。

大模型厂商的API服务崩了，你可能没得选，你一顿“王德发”之后，还是要乖乖去用大模型厂商的API。

根据卖萌酱了解，绝大部分AI应用公司都没有大模型研发和运维能力：）

因此，如果你没有模型自研能力，重度依赖API，那么一定不要把自己的业务都交给同一家大模型厂商的API来做处理，大模型厂商不会为你的用户流式和经济损失负责，你需要有灾难预见的能力。

另外，在选择API的时候，也不要只关注模型效果，还要关注API的响应/生成速度和稳定性。

一般来说，像百度、阿里这类有10亿规模流量冲击经验的公司，会有更高的系统效率和系统稳定性的工程意识和优化经验，理论上来说会更稳定些。

总之一句话，鸡蛋不要放在同一个篮子里。

警示2：大模型&应用厂商要重视系统稳定性

昨天，有个朋友打电话问卖萌酱——

ChatGPT服务崩了，一群用户找上门了，我们要赶紧切换一家厂商的API兜底，哪家靠谱？国内外都行！

卖萌酱问，啥叫靠谱，效果层面打平？

朋友：效果差不多就行，我们这个流量很大，核心关注点是找个能抗住并发的API，要求能快速接入，要求服务稳定！

国内所谓的百模大战，更多比拼的是大模型的效果。

这就出现了一些比较奇怪的现象——

有些大模型，虽然效果很好，榜单排名靠前，但是响应速度可以慢到一秒一个字，一个机器翻译任务能跑10分钟；

有些大模型，虽然榜单排名低，但是响应速度非常快又服务稳定，效果虽然不是第一但是够用；

有些大模型，模型效果和响应速度都不错，但发几十个request就能有一个丢包或返回异常。

如果你是应用厂商老板，你会选择用哪个？

因此，对大模型厂商来说，在各个大模型效果没有拉开显著差距的情况下（或者厂商以为拉开了显著差距，但其实下游应用可能对这个差距不敏感），其实响应速度和稳定性才是成熟的下游应用厂商更加关注的指标。如果效果够用，速度、稳定性够用，那么就是拼价格了。

对于应用厂商来说，更要关注系统稳定性，跟用户/客户建立信任不容易，但摧毁信任，可能只需要一两次系统崩溃：）

最后，简单总结一下

ChatGPT虽好，可不要贪杯哦～