使用OllamaSharp库,你的桌面程序也能对接DeepSeek大模型

在这里插入图片描述

1. 引言

随着人工智能技术的飞速发展,大语言模型(LLM)在自然语言处理领域展现出了强大的能力。Ollama作为一个本地LLM运行框架,支持多种开源模型如Qwen2.5、DeepSeek-R1等。为了方便.NET开发者使用,OllamaSharp应运而生,它是一个与Ollama API交互的C#库,能够轻松将AI模型集成到.NET应用程序中。
在这里插入图片描述

2. OllamaSharp核心功能

OllamaSharp 库的核心功能主要包括:

  • 文本生成:使用 Ollama 提供的大模型生成自然语言文本。
  • 模型交互:与 AI 模型进行对话式的交互,支持多轮对话。
  • 输入处理:处理用户输入并向 Ollama 发送请求,获取模型响应。
  • API 错误处理:帮助处理与 API 交互时可能出现的错误或异常。

3. 使用场景

OllamaSharp库适用于多种应用场景,包括但不限于:

  1. 智能客服:为客服系统提供自然语言处理能力,自动回答用户问题,提升客服效率。
  2. 对话机器人:实现聊天机器人功能,支持多轮对话,增强用户互动体验。
  3. 文本生成:根据用户输入自动生成文章、摘要、评论等内容,提高内容生产效率。
  4. 知识库查询:将模型与现有知识库对接,提供智能问答服务,助力知识检索。

4.使用案例详解

以下是一个简单的OllamaSharp使用案例:

1.安装 OllamaSharp

首先,新增Winform项目 OllamaSharpApp,
在这里插入图片描述

在项目中引用 OllamaSharp
在这里插入图片描述

Install-Package OllamaSharp

然后,确保 Ollama 已经在本地运行。如果没有安装,可以在 Ollama 官网 下载并启动。

默认情况下,Ollama 运行在 http://localhost:11434

2. 创建Form页面

在OllamaSharpApp项目中,创建一个显示和发送数据的页面
在这里插入图片描述

编码实现,通过 OllamaApiClient 创建一个客户端来访问 Ollama API。

using OllamaSharp;

namespace OllamaSharpApp
{
    public partial class Form1 : Form
    {
        OllamaApiClient client;
        public Form1()
        {
            InitializeComponent();
        }

        private async void btnSend_Click(object sender, EventArgs e)
        {
            bool bThink = false;
            await foreach (var response in client.GenerateAsync(richTextBox2.Text))
            {
                if (response == null) return;

                string text = response.Response;
                if (text.Contains("<think>"))
                {
                    bThink = true;
                    continue;
                }
                if (text.Contains("</think>"))
                {
                    bThink = false;
                    continue;
                }
                if (bThink == false)
                {
                    richTextBox1.AppendText(text);
                }
            }
        }

        private void Form1_Load(object sender, EventArgs e)
        {
            client = new OllamaApiClient(new Uri("http://localhost:11434"));
            client.SelectedModel = "deepseek-r1:7b"; // 选择默认模型
            richTextBox2.Text = "介绍一下你自己";
        }
    }
}

运行查看

在这里插入图片描述

3. 进行聊天交互

使用 GenerateAsync 方法可以与 Ollama 进行聊天。

await foreach (var response in client.GenerateAsync("介绍一下人工智能"))
{
    Console.Write(response.Response);
}

在这里插入图片描述

4. 管理模型

4.1 下载模型

如果本地没有某个模型,你可以使用 PullAsync 下载:

await client.PullAsync("deepseek-r1:7b");
Console.WriteLine("模型下载完成");
4.2 获取可用模型列表
var models = await client.ListLocalModelsAsync();
foreach (var model in models)
{
    Console.WriteLine(model.Name);
}

输出

qwen2.5:latest
deepseek-r1:7b
deepseek-r1:1.5b
deepseek-r1:latest
qwen2:latest
qwen2:7b
llama3:8b
llama3:latest
qwen:latest
4.3 删除模型
await client.DeleteAsync("deepseek-r1:7b");
Console.WriteLine("模型已删除");

5. 结论

OllamaSharp作为一款与Ollama API交互的C#库,为.NET开发者提供了便捷的AI模型集成方案。通过OllamaSharp,开发者可以轻松实现聊天、嵌入、管理模型等功能,将Ollama的强大能力融入到自己的应用程序中,为用户带来更加智能化的体验。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

dotnet研习社

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值