解锁GraphRag.Net的无限可能：手把手教你集成国产模型和本地模型

最新推荐文章于 2024-08-24 11:11:57 发布

Python_金钱豹

最新推荐文章于 2024-08-24 11:11:57 发布

阅读量1k

点赞数 27

文章标签： .net 数据库 flask python 后端 transformer 架构

本文链接：https://blog.csdn.net/Python_cocola/article/details/141230980

版权

为什么选择GraphRag.Net？

GraphRag.Net采用了Semantic Kernel作为基础，让我们能够非常简洁地抽象出会话与向量接口。因此，用户可以非常方便地实现自己定制的解决方案。接下来，我们会通过一个具体的例子，展示如何将本地模型和国产模型集成到GraphRag.Net中。

默认配置方法

首先，我们来看看如何进行默认配置：

// OpenAI配置``builder.Configuration.GetSection("OpenAI").Get<OpenAIOption>();``// 文档切片配置``builder.Configuration.GetSection("TextChunker").Get<TextChunkerOption>();``// 配置数据库连接``builder.Configuration.GetSection("GraphDBConnection").Get<GraphDBConnectionOption>();``   ``// 注意，需要先注入配置文件，然后再注入GraphRag.Net``builder.Services.AddGraphRagNet();

这里，我们将在默认配置中注入OpenAI的配置、文本切片的配置和数据库连接的配置。然后，依次注入这些配置文件和GraphRag.Net的服务。

自定义配置方法

如果需要自定义模型或本地模型，可能需要实现一些额外的服务接口，下面是自定义配置的示例：

var kernelBuild = Kernel.CreateBuilder();``kernelBuild.Services.AddKeyedSingleton<ITextGenerationService>("mock-text", new MockTextCompletion());``kernelBuild.Services.AddKeyedSingleton<IChatCompletionService>("mock-chat", new MockChatCompletion());``kernelBuild.Services.AddSingleton<ITextEmbeddingGenerationService>(new MockTextEmbeddingGeneratorService());``kernelBuild.Services.AddKeyedSingleton("mock-embedding", new MockTextEmbeddingGeneratorService());``   ``builder.Services.AddGraphRagNet(kernelBuild.Build());

在这个自定义配置示例中，我们引入了三个自定义服务接口：ITextGenerationService、IChatCompletionService和ITextEmbeddingGenerationService。

实现自定义服务接口

接下来，我们需要为每个服务接口提供具体的实现。以下是三个接口的具体实现：

实现`IChatCompletionService`

  `public class MockChatCompletion : IChatCompletionService`  `{`      `private readonly Dictionary<string, object?> _attributes = new();`      `private string _chatId;``   ``   `      `private static readonly JsonSerializerOptions _jsonSerializerOptions = new()`      `{`          `NumberHandling = JsonNumberHandling.AllowReadingFromString,`          `Encoder = JavaScriptEncoder.Create(UnicodeRanges.All)`      `};``   `      `public IReadOnlyDictionary<string, object?> Attributes => _attributes;``   `      `public MockChatCompletion()`      `{``   `      `}``   `      `public async Task<IReadOnlyList<ChatMessageContent>> GetChatMessageContentsAsync(ChatHistory chatHistory, PromptExecutionSettings? executionSettings = null, Kernel? kernel = null, [EnumeratorCancellation] CancellationToken cancellationToken = default)`      `{`          `StringBuilder sb = new();`          `string result = $"这是一条Mock数据，便于聊天测试，你的消息是：{chatHistory.LastOrDefault().ToString()}";`          `return [new(AuthorRole.Assistant, result.ToString())];`      `}``   `      `public async IAsyncEnumerable<StreamingChatMessageContent> GetStreamingChatMessageContentsAsync(ChatHistory chatHistory, PromptExecutionSettings? executionSettings = null, Kernel? kernel = null, [EnumeratorCancellation] CancellationToken cancellationToken = default)`      `{`          `StringBuilder sb = new();`          `string result = $"这是一条Mock数据，便于聊天测试，你的消息是：{chatHistory.LastOrDefault().ToString()}";`          `foreach (var c in result)`          `{`              `yield return new StreamingChatMessageContent(AuthorRole.Assistant, c.ToString());`          `}`      `}`  `}`

实现`ITextGenerationService`

 `public class MockTextCompletion : ITextGenerationService, IAIService` `{`     `private readonly Dictionary<string, object?> _attributes = new();`     `private string _chatId;``   `     `private static readonly JsonSerializerOptions _jsonSerializerOptions = new()`     `{`         `NumberHandling = JsonNumberHandling.AllowReadingFromString,`         `Encoder = JavaScriptEncoder.Create(UnicodeRanges.All)`     `};``   `     `public IReadOnlyDictionary<string, object?> Attributes => _attributes;``   `     `public MockTextCompletion()`     `{``   `     `}``   `     `public async Task<IReadOnlyList<TextContent>> GetTextContentsAsync(string prompt, PromptExecutionSettings? executionSettings = null, Kernel? kernel = null, CancellationToken cancellationToken = default)`     `{`         `StringBuilder sb = new();`         `string result = $"这是一条Mock数据，便于聊天测试，你的消息是：{prompt}";`         `return [new(result.ToString())];`     `}``   `     `public async IAsyncEnumerable<StreamingTextContent> GetStreamingTextContentsAsync(string prompt, PromptExecutionSettings? executionSettings = null, Kernel? kernel = null, CancellationToken cancellationToken = default)`     `{`         `StringBuilder sb = new();`         `string result = $"这是一条Mock数据，便于聊天测试，你的消息是：{prompt}";`         `foreach (var c in result)`         `{`             `var streamingTextContent = new StreamingTextContent(c.ToString(), modelId: "mock");``   `             `yield return streamingTextContent;`         `}`     `}` `}`

实现`ITextEmbeddingGenerationService`

  `public sealed class MockTextEmbeddingGeneratorService : ITextEmbeddingGenerationService`  `{`      `private Dictionary<string, object?> AttributesInternal { get; } = [];`      `public IReadOnlyDictionary<string, object?> Attributes => this.AttributesInternal;`      `public MockTextEmbeddingGeneratorService()`      `{``   `      `}`      `public async Task<IList<ReadOnlyMemory<float>>> GenerateEmbeddingsAsync(`        `IList<string> data,`        `Kernel? kernel = null,`        `CancellationToken cancellationToken = default)`      `{`          `IList<ReadOnlyMemory<float>> results = new List<ReadOnlyMemory<float>>();``   `          `float[] array1 = { 1.0f, 2.0f, 3.0f };`          `float[] array2 = { 4.0f, 5.0f, 6.0f };`          `float[] array3 = { 7.0f, 8.0f, 9.0f };``   `          `// 将数组包装为ReadOnlyMemory<float>并添加到列表中`          `results.Add(new ReadOnlyMemory<float>(array1));`          `results.Add(new ReadOnlyMemory<float>(array2));`          `results.Add(new ReadOnlyMemory<float>(array3));``   `          `return results;`      `}``   `      `public void Dispose()`      `{``   `      `}`  `}`

看到这里，你可能已经发现，集成自定义模型和本地模型非常简单。只需按照上述步骤，实现相应的接口并注入配置，你就可以在GraphRag.Net中使用这些自定义的功能。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述