不多逼逼,直接玩
ps:需要有google账号
https://colab.research.google.com/drive/1l8Y0dOUDmFdiGgtOOZJFUR7swiXiJ55R#scrollTo=2Sn-I8M6hbRV
效果
我爱学习
谷歌Colab是真滴好!
免费版存在内存不足导致无法加载模型的问题,但有大佬解决了
https://github.com/facebookresearch/llama/issues/120
背景
周末想玩下llama,但身边的显卡(8G显存)跑不了llama,然后尝试了cpu版(https://github.com/ggerganov/llama.cpp)
效果一言难尽