昨晚,Meta(也就是脸书)
发布了目前最强的开源大模型Llama 3
AI圈又嗨起来了
它有两款不同的参数模型——Llama 3 8B与Llama 3 70B。
性能再次突破,基本全面碾压同类参数的选手,甚至能越级和GeminiPro等打的有来有回。
-
Llama 3 8B在关键测试中超越前代Llama 2 70B模型,性能力压群雄。
-
训练速度是Llama 2的三倍,节省时间,提升效率。
-
超大数据集:训练数据超过15T token,是Llama 2的7倍以上
-
长文本处理:支持最长达8K的文本输入
在众多基准测试中居于领先地位,推理和编码能力大幅增强。
既然是开源模型,咱就自己部署运行一个!
看看在自己的电脑上,运行大模型是一种什么体验。
话不多说,上教程!
官网下载安装较为麻烦
这里我找到一个Llama3懒人整合包!
一键安装运行,保你会用!
(Llama 3 8B版本,8个G左右,电脑内存至少16G以上,老电脑就别强求了,直接官网https://www.meta.ai/体验吧)
公号对话框回复:Llama3 即可下载
下载解压后得到以下两个文件
然后跟着操作:
1、双击安装LM-Studio-0.2.20-Setup.exe
装完后,桌面上有了个快捷方式
2、桌面双击打开LM-Studio快捷方式
然后通过以下两步,打开存放模型的文件夹,然后将解压包里的FaradayDotDev
文件,整个复制到模型文件夹内。
3、LM-Studio切换到聊天界面
然后选择好模型,加载好后,就可以直接在对话框中开始用了。
就是这么简单,你就成功部署好了自己的本地AI大模型,真正的离线使用,永久免费,也不用担心数据安全问题!
我随便问了一句,你和GPT4谁比较厉害?
哈哈,Llama还挺诚实!
大方承认了自己还不如GPT4,但是会努力学习进步!
大家装好后,可以自行试玩,非常方便!
需要注意的是,本地运行需要占用本地电脑内存和算力,所以如果性能不够强的话,可能会有卡顿。
虽然我们可以在meta官网,或者其他第三方工具体验到,更加流程丝滑的使用体验。
但是用自己电脑安装运行,还是更有意思,我的算力和数据,我自己做主!
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓