Stack Overflow临时禁用ChatGPT生成内容，网友：人类和AI快打起来！

衡宇 Alex 发自 凹非寺
量子位 | 公众号 QbitAI

AI届当红炸子鸡ChatGPT，刚刚被程序员问答社区Stack Overflow禁用了！

芜湖，难道是因为有人感慨，ChatGPT非常强大，可以取代Stack Overflow？

但其实，Stack Overflow给出的官方公告里，是这样说的：

（这样做）的目的是减缓使用ChatGPT创建的大量答案流入社区。

因为从ChatGPT得到错误答案的概率太高了！

不过，官方也说了，这个措施只是临时的。

到底要不要永久在社区里禁用ChatGPT尚待研究，暂未决定。

“回答正确率太低”

昨天，OpenAI的CEO在推特上高兴地宣布，ChatGPT这个出生不满一周的家伙，已经拥有了超百万用户。

不过，大喜之余，有个小悲，那就是——

Stack Overflow临时禁止在社区内发布ChatGPT生成的文本。

Stack Overflow，程序员meme经常出现的段子之一，把自己活成了ChatGPT爆红时期最引人注目的段子。

这到底是为什么？

看了官方给的公告，总结下来不外乎一个原因。

最主要的目的，就是减缓使用ChatGPT创建的大量答案流入社区。

目前在Stack Overflow站内搜索，还能看到公告发布前，许多用ChatGPT在问题下的回答。

Stack Overflow官方认为，和ChatGPT对话得到的答案，正确率太低了。

而且，无论答案正确与否，它的所有回答看起来都很正儿八经。

但是ChatGPT的火热和极低的门槛，让很多人用它创建的答案在社区里进行询问和回答。

但是很多人在发帖时，缺乏相关专业知识，在发布之前又没有验证一下答案的正确性。

而且，ChatGPT给出回答的消息源也不能追溯。

对于一个程序员问答社区来说，这是非常有害的。

为了应对这个现象，可苦了Stack Overflow为管理基础设施质量的志愿者们。

他们只能没日没夜在铺天盖地的海量帖子中，去确认ChatGPT生成的问答到底是不是对的。

而且对想要找到保真问答的程序员来说，ChatGPT“入侵”Stack Overflow，也加大了他们的获取有效信息的成本。

为了从源头杜绝这种现象发生，StackOverflow做出决定：先禁止！

目前，Stack Overflow已经不允许发布ChatGPT创建的答案来提问或回答文章了。

临时措施发布后，如果还有用户在用ChatGPT搞事情，那Stack Overflow就不客气了——

将对这类用户实施制裁（具体咋制裁木有说）。

还是“格杀勿论”那种，哪怕除了使用ChatGPT外，用户的提问和回答行为和内容都是符合社区规定的。

现在，只是在站内搜索“ChatGPT”这个关键词，也因为要证明一下你不是机器人哦～

但无论怎么说，这个措施怎么说也只是临时的。

关于ChatGPT和其它类似AI问答软件，社区到底会有啥样的最终策略， Stack Overflow工作人员还在紧急讨论中，尚不确定。

公告评论区里，用户已经七嘴八舌说开了。

有人拍手称快，嚷着“永久封了它”。

有人也趁机表达了拿AI问答软件来社区互动的不满。

当然，也有人投出了自己的赞成票。

语言大模型的应用引起担忧

再来说下Stack Overflow到底是为何物。

简而言之，这是很多程序员都会用到的一个免费问答网站。

该网站有几个特点，一是不像一般的论坛，它没有闲聊区。

另外，那些观点类、可能引起激烈讨论的问题一般都会被临时“和谐”掉，得是能出确切答案的问题才行。

也就是说，假如你在该网站上提出一个很主观的问题，网站很可能不会公开显示出来，直到你把问题修改到合规为止。

新用户起初只能提出问题或给出回答。但是你可以通过问答等赚积分（这里是Reputation），然后解锁各种功能。

包括评论、编辑他人的帖子、选择隐藏或展示别人的问题，最高等级的用户还能网站内部的工作人员一起来搞分析维护。

而ChatGPT，则是OpenA最近新推出的聊天AI，能生成代码、修复 bug，其回答各种问题的能力更是惊艳了一大波人。

不过，目前Stack Overflow以及不少AI专家已经对背后的语言大模型产生了担忧，至少是有些顾虑。

Lecun也说，基于语言大模型开发出的文本生成类工具，可能会使广泛传播错误信息变得更容易。

IBM科学家Grady Booch的态度则更坚定。

还有人指出，即使AI回答正确，但这对于不少内容创作者来说，将是一场不小的打击。

One More Thing

对于Stack Overflow临时禁用ChatGPT生成的答案，我们询问了ChatGPT本尊的看法。

我们还问，如果StackOverflow确定禁用的话它会怎么办。

结果人家倒是很淡定：

ChatGPT传送门：
https://chat.openai.com/chat

参考链接：
[1]https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned
[2]https://www.reddit.com/r/programming/comments/zd71vl/chatgpt_ai_generated_answers_banned_on_stack/
[3]https://stackoverflow.com/tour?mnu=1

— 完 —

量子位「MEET2023智能未来大会」

12月14日，线上直播

点这里关注我 👇 记得标星噢 ~