想转行AI大模型开发但不知如何下手？掌握这四个开源工具，让你领先一步！

最近有很多小伙伴问我，之前从事的其他领域的编程，现在想要学习AI大模型开发的相关技能，不知道从哪下手，应该学习些什么，下面四个是我认为从事大模型开发，必须掌握的四个开源工具，大家可以作为参考：

1、Hugging Face（抱抱脸）

Hugging Face是现在最大的AI开源社区，里面提供了很多的预训练模型，是一个模型库，很多人会把自己训练好的模型上传上去，大家可以免费下载使用。下载下来之后，我们就可以在此基础之上，进行微调或者推理，不用从0去训练一个大模型。并且大家可能都知道，微调模型时，数据的准备是一件费时费力的事，而在Hugging Face上也有很多的数据集，可供大家下载使用。所以Hugging Face也被人称作：AI领域的GitHub。

2、PyTorch

现在你从Hugging Face下载了一个模型之后，下一步要开始微调了，此时就需要用到PyTorch了。PyTorch是一个基于Python的开源机器学习库，可以说现在已经成为最流行的机器学习和深度学习框架了，它提供了一套简洁且强大的API，使得模型的构建和操作更加直观，你只需通过几行代码就可以构建自己的大模型。

3、DeepSpeed

通过上面两步的操作，你已经从Hugging Face上下载了一个模型，用PyTorch写好了微调的代码，现在准备要在服务器上进行训练或微调了，这时候我们就需要用到下面的这个工具了：DeepSpeed。因为大模型在服务器上进行训练或微调时，不可能只在一台服务器上，而DeepSpeed的作用是可以将你的模型快速放在多台服务器上进行并行化的训练或推理，所以你还需要继续完善代码，添加对DeepSpeed的支持。

上面的步骤都完成之后，你可以真正的在服务器上去训练或微调你的大模型了。最后你会得到一个训练或微调后的大模型文件，自己可以推理测试下，看看被你用于微调的数据集，是不是可以被推理出来。

4、LangChain

大模型被训练后，主要的作用是要用来进行推理。而我们可以开发一些AI应用，去调用大模型完成推理，例如去构建一个结合RAG+LLM的企业内部知识库系统，去开发一个基于AI的聚合搜索引擎，去开发某个领域的AI智能体应用等等。这时候，我们需要用到这个框架：LangChain。LangChain的定位是一个用于构建基于LLM驱动的应用程序开源框架，方便我们快速构建基于LLM的应用程序。里面内置很多API，简化了对大模型的操作。所以如果要基于大模型去开发应用程序，LangChain必不可少。

------------------

通过上面介绍的四款开源工具，我们可以从0去构建一个大模型了，并且还可以在此基础上去开发应用程序。我相信，上面这四款工具，现在已经成为了从事AI领域开发从业人员必备的4件套了。

但是上面的四款工具，如果你不是搞大模型的，只是单纯的开发大模型应用程序，掌握LangChain就可以了，无需掌握其他三个。

题外话

黑客&网络安全如何学习

今天只要你给我的文章点赞，我私藏的网安学习资料一样免费共享给你们，来看看有哪些东西。

1.学习路线图

攻击和防守要学的东西也不少，具体要学的东西我都写在了上面的路线图，如果你能学完它们，你去就业和接私活完全没有问题。

2.视频教程
网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己录的网安视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。

内容涵盖了网络安全法学习、网络安全运营等保测评、渗透测试基础、漏洞详解、计算机基础知识等，都是网络安全入门必知必会的学习内容。

（都打包成一块的了，不能一一展开，总共300多集）

因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取

🐵这些东西我都可以免费分享给大家，需要的可以点这里自取👉:网安入门到进阶资源

3.技术文档和电子书
技术文档也是我自己整理的，包括我参加大型网安行动、CTF和挖SRC漏洞的经验和技术要点，电子书也有200多本，由于内容的敏感性，我就不一一展示了。

因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取

🐵这些东西我都可以免费分享给大家，需要的可以点这里自取👉:网安入门到进阶资源

4.工具包、面试题和源码
“工欲善其事必先利其器”我为大家总结出了最受欢迎的几十款款黑客工具。涉及范围主要集中在 信息收集、Android黑客工具、自动化工具、网络钓鱼等，感兴趣的同学不容错过。

还有我视频里讲的案例源码和对应的工具包，需要的话也可以拿走。

🐵这些东西我都可以免费分享给大家，需要的可以点这里自取👉:网安入门到进阶资源

最后就是我这几年整理的网安方面的面试题，如果你是要找网安方面的工作，它们绝对能帮你大忙。

这些题目都是大家在面试深信服、奇安信、腾讯或者其它大厂面试时经常遇到的，如果大家有好的题目或者好的见解欢迎分享。

参考解析：深信服官网、奇安信官网、Freebuf、csdn等

内容特点：条理清晰，含图像化表示更加易懂。

内容概要：包括 内网、操作系统、协议、渗透测试、安服、漏洞、注入、XSS、CSRF、SSRF、文件上传、文件下载、文件包含、XXE、逻辑漏洞、工具、SQLmap、NMAP、BP、MSF…

因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取

🐵这些东西我都可以免费分享给大家，需要的可以点这里自取👉:网安入门到进阶资源
————————————————

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。