iphone本地运行ai

1.本地ai的好处

本地AI在本地设备上运行,具有数据隐私性强、低延迟、成本低、灵活性高等优势。数据无需上传云端,避免泄露风险,适合医疗、金融等敏感领域;实时响应,适合自动驾驶等场景;减少云服务费用,硬件一次性投入;完全控制模型,适配特定硬件。适用于智能家居、医疗健康、自动驾驶等领域。尽管面临硬件限制和部署复杂性等挑战,但随着边缘计算发展,本地AI应用前景广阔。

2.准备软件:PocketPal(App Store可下载)

3.开始使用

点开左侧栏目,选择models,查看可选择的ai模型,此时直接下载可能会存在网络问题 可打开huggingface镜像站hf-mirror.com选择相应模型下载(注意为gguf格式)

右上角选择Downloaded Models,

 

选择本地下载好的模型即可

4.tips

尽量选择较小的模型,以提高回答速度 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值