LLM
文章平均质量分 85
菲斯奇
Python & Qt; C++ 地震处理\数字图像处理\NLP(自然语言处理) \ Tensorflow \Deeplearning
展开
-
大模型之路3:趟到了Llama-Factory,大神们请指点
各种AI工具和框架层出不穷,为开发者和研究者提供了前所未有的便利。当然了,也有困扰。尤其是对于动手能力越来越弱的中年油腻老程序员来说,更是难上加难。据说,嗯,据师弟说,说LlamaFactory凭借其独特的功能和优势,在AI领域(他所下载的代码和工具里),引起了广泛的关注(能够调试通过的)。当然,由于硬件环境的缘故,他的3个6000卡不好用,可能是有点老了吧,导致虽然能调试通过,但是运行一个开始就完了。今天,我在自己这边的环境上,也尝试了,感觉还可以。有坑是自然的。原创 2024-04-02 21:36:00 · 1281 阅读 · 3 评论 -
大模型之路2.x:路边的小野花
大模型聊天还是很有好处的,尤其是在你不懂的地方。原创 2024-04-01 22:44:30 · 255 阅读 · 0 评论 -
大模型之路2:继续趟一条小路
继续趟一条大模型尝试和体验的小路,可谓是充满了曲折,当然,必不可少的还是坑。原创 2024-04-01 22:34:22 · 814 阅读 · 0 评论 -
大模型之路1:趟一条小路
在人工智能的浪潮中,大模型以其强大的性能和广泛的应用前景,成为了研究者和开发者们关注的焦点。个人感觉,自用的桌面电脑,最好采用14900K+4090+128G内存+液冷,相对来说性价比还是比较高的,现在192内存有点太贵了不合适。13B的模型是跑不起来的。推荐大家使用JupiterNotebook, 这样可以一次加载模型,进入的是类似PyCharm的调试状态,能节约时间,相对来说感觉好一点的。(4)在新服务器上,用的是8*A800的小型环境,之前的7B没尝试,直接上的13B,感觉十来秒就能对话。原创 2024-03-31 14:21:15 · 928 阅读 · 0 评论