【自然语言处理与大模型】魔塔社区免费实例中使用ollama快速部署llama3

在ModelScope魔塔社区提供的免费实例，部署开源llama3模型。

一、申请使用魔塔免费实例

注册登录进入魔塔社区后点击左侧的“我的Notebook”即可申请免费的GPU环境免费实例。 

Notebook功能概述 · 文档中心https://modelscope.cn/docs/notebooks/intro 【注】魔塔社区的这个免费实例是没办法访问huggingface外网的。带有一个数据盘/mnt/workspace可以持久化存储100G。以及自带了ModelScope的SDK。

二、安装ollama并部署模型

使用ollama来本地化部署非常便捷，并且开放了API供外部调用llama3模型。

# ollama的下载地址
https://olla