Llama3懒人整合包!本地运行开源AI大模型!永久免费

昨晚,Meta(也就是脸书)

发布了目前最强的开源大模型Llama 3

AI圈又嗨起来了

它有两款不同的参数模型——Llama 3 8B与Llama 3 70B。

性能再次突破,基本全面碾压同类参数的选手,甚至能越级和GeminiPro等打的有来有回。

  • Llama 3 8B在关键测试中超越前代Llama 2 70B模型,性能力压群雄。

  • 训练速度是Llama 2的三倍,节省时间,提升效率。

  • 超大数据集:训练数据超过15T token,是Llama 2的7倍以上

  • 长文本处理:支持最长达8K的文本输入

在众多基准测试中居于领先地位,推理和编码能力大幅增强。

既然是开源模型,咱就自己部署运行一个!

看看在自己的电脑上,运行大模型是一种什么体验。

话不多说,上教程!

官网下载安装较为麻烦

这里我找到一个Llama3懒人整合包!

一键安装运行,保你会用!

(Llama 3 8B版本,8个G左右,电脑内存至少16G以上,老电脑就别强求了,直接官网https://www.meta.ai/体验吧)

公号对话框回复:Llama3 即可下载

下载解压后得到以下两个文件

然后跟着操作:

1、双击安装LM-Studio-0.2.20-Setup.exe

装完后,桌面上有了个快捷方式

2、桌面双击打开LM-Studio快捷方式

然后通过以下两步,打开存放模型的文件夹,然后将解压包里的FaradayDotDev文件,整个复制到模型文件夹内。

3、LM-Studio切换到聊天界面

然后选择好模型,加载好后,就可以直接在对话框中开始用了。

就是这么简单,你就成功部署好了自己的本地AI大模型,真正的离线使用,永久免费,也不用担心数据安全问题!

我随便问了一句,你和GPT4谁比较厉害?

哈哈,Llama还挺诚实!

大方承认了自己还不如GPT4,但是会努力学习进步!

大家装好后,可以自行试玩,非常方便!

需要注意的是,本地运行需要占用本地电脑内存和算力,所以如果性能不够强的话,可能会有卡顿。

虽然我们可以在meta官网,或者其他第三方工具体验到,更加流程丝滑的使用体验。

但是用自己电脑安装运行,还是更有意思,我的算力和数据,我自己做主!

😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓

  • 4
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值