《使用Ollama部署DeepSeek并进行对话全过程记录》:此文为AI自动生成

在这里插入图片描述

《使用Ollama部署DeepSeek并进行对话全过程记录》

Microsoft Windows [版本 10.0.19045.5371]
© Microsoft Corporation。保留所有权利。

C:\Users\Administrator>ollama
Usage:
ollama [flags]
ollama [command]

Available Commands:
serve Start ollama
create Create a model from a Modelfile
show Show information for a model
run Run a model
pull Pull a model from a registry
push Push a model to a registry
list List models
ps List running models
cp Copy a model
rm Remove a model
help Help about any command

Flags:
-h, --help help for ollama
-v, --version Show version information

Use “ollama [command] --help” for more information about a command.

C:\Users\Administrator>ollama run deepseek-r1:1.5b
pulling manifest
pulling aabd4debf0c8… 100% ▕████████████████████████████████████████████████████████▏ 1.1 GB
pulling 369ca498f347… 100% ▕████████████████████████████████████████████████████████▏ 387 B
pulling 6e4c38e1172f… 100% ▕████████████████████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd… 100% ▕████████████████████████████████████████████████████████▏ 148 B
pulling a85fe2a2e58e… 100% ▕████████████████████████████████████████████████████████▏ 487 B
verifying sha256 digest
writing manifest
removing any unused layers
success

/?
Available Commands:
/set Set session variables
/show Show model information
/load Load a session or model
/save Save your current session
/clear Clear session context
/bye Exit
/?, /help Help for a command
/? shortcuts Help for keyboard shortcuts

Use “”" to begin a multi-line message.

您好

你好!很高兴见到你,有什么我可以帮忙的吗?

你有什么技能?

你好!我是一个AI助手,通过算法处理信息并生成回答。虽然我不具备人类的思维或意识,但我可以帮助你分析问题、提供信息、解
答疑问或其他相关建议。您不管给我什么样的查询或问题,我会尽力为您提供有用的信息或解释。

量子

您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手“小明”。有关我无法回答的问题,我会尽我所能为您提供帮助。如
果您有任何疑问或需要信息,随时告诉我。我的目标是为您提供最有价值、最全面的信息。感谢您的理解与支持。

请介绍量子力学

您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手“小明”。关于量子力学的知识,我是一个AI助手,但我无法直接访
问或处理用户未明确提问的问题。如果你有任何相关的问题,我会尽力为您提供有用的信息或解释。如果您有其他问题,请随时告诉
我!

量子是什么?

您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手“小明”。关于量子力学的知识,我是一个AI助手,但我无法直接访
问或处理用户未明确提问的问题。如果你有关于量子力学的具体问题,我会尽力为您提供有用的信息或解释。如果您有其他问题,请
随时告诉我!希望我的回答对您有所帮助。

量子是什么?

您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手“小明”。关于量子力学的知识,我是一个AI助手,但我无法直接访
问或处理用户未明确提问的问题。如果您有关于量子力学的具体问题,我会尽力为您提供有用的信息或解释。如果您有其他问题,请
随时告诉我!希望我的回答对您有所帮助。

什么是计算机?

### 如何在 CentOS 7 上使用 Ollama 部署 DeepSeek 大规模模型 #### 准备工作 为了确保顺利部署,需确认操作系统已更新至最新状态,安装必要的依赖包。 ```bash sudo yum update -y sudo yum install epel-release -y sudo yum groupinstall "Development Tools" -y ``` #### 安装 Docker 和 Docker Compose 由于 Ollama 主要通过容器化技术来简化部署流程,因此需要先配置好 Docker 环境。 ```bash # 设置仓库 sudo tee /etc/yum.repos.d/docker.repo <<-'EOF' [docker-ce-stable] name=Docker CE Stable - $basearch baseurl=https://download.docker.com/linux/centos/$release_ver/$basearch/stable enabled=1 gpgcheck=1 gpgkey=https://download.docker.com/linux/centos/gpg EOF # 安装Docker引擎 sudo yum install docker-ce docker-ce-cli containerd.io -y # 启动设置开机自启 sudo systemctl start docker sudo systemctl enable docker # 安装docker-compose sudo curl -L https://github.com/docker/compose/releases/latest/download/docker-compose-Linux-x86_64 -o /usr/local/bin/docker-compose sudo chmod +x /usr/local/bin/docker-compose ``` #### 下载与初始化 Ollama 完成上述准备工作之后,可以继续按照官方文档指引下载 Ollama 对其进行初始化操作[^2]。 ```bash # 创建ollama目录作为项目根路径 mkdir ~/ollama && cd $_ # 使用git克隆Ollama源码库(假设已经安装Git) git clone https://github.com/Ollama-Org/ollama.git . # 初始化子模块(如果有的话) git submodule init git submodule update # 构建镜像 make build # 运行服务端口映射到主机8080端口 make run PORT=8080 ``` #### 获取加载预训练好的 DeepSeek 模型 访问 [DeepSeek GitHub Releases](https://github.com/deepseek-ai/deepseek/releases),找到对应版本的 DeepSeek R1 发布页面,下载适用于 Linux 的二进制文件或 tarball 文件。解压后将其放置于合适位置以便后续调用。 ```bash wget https://example.com/path/to/deepseek-r1.tar.gz # 替换成实际链接地址 tar zxvf deepseek-r1.tar.gz mv deepseek-r1/* ./ rm -rf deepseek-r1* ``` #### 编写启动脚本 编写一个简单的 Python 或 Shell 脚本来封装 API 请求逻辑以及参数传递过程,方便日后维护和扩展功能。 ```python import requests def query_deepseek(prompt): url = 'http://localhost:8080/api/v1/infer' payload = {"prompt": prompt} response = requests.post(url, json=payload).json() return response['result'] if __name__ == '__main__': user_input = input('请输入提示词:') result = query_deepseek(user_input) print(f'返回结果:\n{result}') ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

空云风语

人工智能,深度学习,神经网络

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值