马斯克开源了Grok，说说程序员在大模型时代的机会

最新推荐文章于 2024-11-06 10:31:45 发布

喝不喝奶茶丫

最新推荐文章于 2024-11-06 10:31:45 发布

阅读量457

点赞数 5

文章标签：开源人工智能语言模型大模型 AI大模型 agi 程序员

本文链接：https://blog.csdn.net/2401_85377976/article/details/140839900

版权

前天晚上，Elon Musk又搞事情了，开源了xAI的大模型Grok。开源到什么程度？

Grok的开源协议遵循Apache 2.0，几乎是对使用者最开放的开源协议了：

可商用：用户可以自由地将软件用于商业目的，不必支付许可费。
可修改和分发：用户可以修改源代码，并且可以在修改后的软件上施加同样的许可证进行再分发。
专利授权：该许可证自动授予软件用户任何专利权利，这意味着贡献者不能对软件用户提起专利诉讼。
保留版权和许可声明：在分发软件或其修改版本时，必须保留原有的版权声明和许可证声明。
不承担责任：提供一定的保障，但软件作者或贡献者不必为软件可能引起的任何损失承担责任。

一句话总结，就是你可以随便打个包做成产品卖，只需要声明一下用了它就可以了。

—

如何使用

目前基于Grok的聊天机器人只针对Twitter的 X Premium+会员开放，登录地址：https://grok.x.ai/。不过也不用着急，估计和ChatGPT也差不了多少，早晚会放开的。

ChatGPT也来凑个热闹，但钢铁侠在嘴活上从来就没怕过谁：

—

程序员的机会

大模型的高技术门槛，注定了不能像互联网一样，需要那么多开发人员。而且，前两天时间出来的AI程序员，更加增加了部分人的焦虑感。

如果程序员要参与到大模型相关的工作中，都能干什么呢？现在能看到的最好的机会就是AI****大模型应用开发。

应用场景

目前大模型应用还处于探索阶段，还没有成熟的应用。但是已经有公司在探索使用在智能客服等场景，我来看依托大模型的智能客服应用，它们的整体架构是什么样的。

从上就是一个生产可用的智能客服应用的典型架构，这里面主要包含几个点：

大模型的可插拔性，这个架构中大模型提供生成对话的功能，所以系统需要设计成可无感切换不同大模型的能力。
本地知识库接入，通过RAG技术将本地知识库离线加工清洗，在和大模型对话时，通过Prompt提供给大模型。以便生成的答案符合现有的业务。
向量存储，本地知识库需要转换成向量存储在向量数据库中，在用户对话时可实时查询相关知识。
插件支持，部分对话必须依赖数据，比如用户问我的订单发货了没有，这时候离线的知识库无法满足要求，就需要以插件的形式实时查询业务数据，提供给大模型生成回答。

以上，就是基于大模型的智能客服系统架构的关键点。这里面用到的技术，其实跟AI算法没有太大关系，程序员可在其中发挥很大的作用。

技术储备

对于程序员来说，要学习大模型的应用开发，或者入职相关岗位，需要学习如下技术：

大模型API的使用，这个技术门槛很低，唯一要做的就是学习一下Python。大家不要觉得这个东西技术含量不高，当别人都不会的时候你会那机会就是你的。况且能把对话接口和图片生成、插件等接口结合起来，提供针对不同大模型的抽象，还是需要一点架构功底的。
向量数据库知识，目前向量数据的库的选择有开源实现、也有商业化产品，PostgreSQL、ElasticSearch等也通过插件支持向量存储。懂向量数据库的选型、运维，在市面上还属于是稀缺人才。程序员如果对这个感兴趣，还是值得作为职业方向的。
大模型和本地知识库的交互，涉及到数据召回、重排、填充等优化技术。以便提高对话的准确性和速度，如果使用的是商业大模型，顺便还可以节约API费用，目前懂这个全套技术的人还是很少的。
大模型的本地部署，商用大模型虽然足够强大，但是有些项目是无法用的，比如金融项目，这时候私有大模型部署和微调就成为刚需。这个技能足够有想象空间，当然学习门槛也足够高。但是对程序员来说也没到不能学会的程度，毕竟门槛越高你的护城河越深。

—

总结一下

大模型出来以后，对程序员是机会也是挑战。现在AI类应用除了客服还没找到强使用场景，这时候提前入局储备技术，就是最大的机会。

当然，随着AI的程序员越来越聪明，它早晚会胜任底层程序员的工作。我们要做的就是打不过就加入，而不是等着被替代。

如何学习AI大模型？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述