- 博客(20)
- 收藏
- 关注
RSS订阅原创 七、使用ONNX Runtime Extensions进行文本标记化
类具有使用CLIP模型文本编码器对文本提示进行标记化和编码的函数。我们可以利用ONNX Runtime Extensions中的跨平台CLIP标记器实现，而不是在C#中重新实现CLIP标记器。ONNX Runtime Extensions具有一个文件标记器，用于对文本提示进行标记化。
2026-02-09 07:59:46
424
原创 六、使用Python和Hugging Face Diffusers理解模型
在操作预构建模型之前，了解模型管道很有帮助。此代码基于Hugging Face Diffusers库和博客。有关更多详细信息，请查看Hugging Face的博客文章。
2026-02-09 07:49:13
305
原创 五、使用C#和ONNX Runtime进行Stable Diffusion推理
本教程将介绍如何使用C#和ONNX Runtime对流行的Stable Diffusion深度学习模型进行推理。Stable Diffusion模型可以根据文本提示生成相应的图像。
2026-02-09 07:46:06
51
原创 四、C# 教程：使用 ONNX Runtime 进行 ResNet50v2 图像识别
图像预处理：必须严格按照模型训练时的参数进行（Resize 方式、归一化均值/方差、通道顺序 NCHW）。零拷贝优化：使用直接包装现有内存，是提升性能的关键，尤其对于高频推理场景。资源管理OrtValueRunOptions均实现了必须使用using语句确保原生资源被及时释放。模型输入名：务必使用 Netron 等工具确认 ONNX 模型的实际输入节点名称（本例中为 "data"），否则会报错。Softmax：大多数分类模型输出的是 Logits，需要手动计算 Softmax 才能得到概率值。
2026-02-09 07:25:11
624
原创 三、在 Windows 11 上为 C# ONNX Runtime 配置 GPU (CUDA + cuDNN)
版本匹配是核心：严格对照表格安装 CUDA 和 cuDNN。手动复制 cuDNN：记得将 cuDNN 的文件复制到 CUDA 安装目录。代码启用：使用。资源释放：始终使用using语句管理和，防止显存泄漏。这是对您提供的“使用 C# 和 ONNX Runtime 进行 ResNet50v2 图像识别”教程的整理和翻译。内容已进行结构化处理，并补充了关键的技术解释和中文注释。
2026-02-09 07:18:39
572
原创 二、C# 教程：使用 ONNX Runtime 进行 BERT 自然语言处理推理
资源管理OrtValueRunOptions等所有 ONNX Runtime 相关的类都实现了。必须使用using语句来确保它们被及时释放，否则会导致严重的原生内存泄漏。模型导出：在 Python 中导出模型时，务必正确设置和，并确保它们与 C# 代码中的键和维度匹配。数据预处理：C# 端的分词和编码必须与 Python 端训练时使用的方法完全一致。库简化了这一过程。性能OrtValueAPI 和方法提供了高性能的数据访问方式，避免了不必要的数据拷贝，应优先使用。灵活性。
2026-02-08 22:19:58
586
原创 一、C# 教程：ONNX Runtime 推理入门
始终使用using：对所有对象（OrtValueRunOptions等）使用using语句，防止内存泄漏。优先使用OrtValueAPI：这是现代、高效的方式，避免使用已弃用的旧类。注意数据类型和维度OrtValue使用long[]表示维度，而使用int[]，转换时要小心。高效访问数据：使用直接访问原生内存，避免不必要的数据拷贝。预分配输出：如果性能至关重要且输出形状固定，考虑预分配输出OrtValue以减少Run方法内部的内存分配。处理字符串：使用和来高效地构建字符串输入。
2026-02-08 22:18:31
619
原创 七、Microsoft Agent Framework 之 结构化输出
企业 Agent 应用中，从 AI 的自然语言回复中提取结构化数据，用于后续的业务处理、数据存储或系统集成。
2026-01-18 18:54:18
176
原创 五、Microsoft Agent Framework 之 DevUI 可视化调试
DevUI 是 Microsoft Agent Framework 提供的一个交互式 Web 界面，它允许开发者：：无需编写客户端代码即可与 Agent 对话。：清晰展示 User 和 Agent 之间的消息交互。：支持切换不同的 Agent 和 Workflow 进行测试。：只需简单的配置即可集成到 ASP.NET Core 应用中。可以向DevUI内部添加 “提示词工程”，“工作流”，“Agent”，“Tools”，“过滤器”等。
2026-01-17 19:17:32
409
原创 Microsoft.Extensions.AI 使用手册万字长文看这一篇就够了
【代码】Microsoft.Extensions.AI 使用手册万字长文看这一篇就够了。
2026-01-06 07:44:51
153
原创 四、Microsoft Agent Framework 之 创建回话线程
摘要：本文介绍了AI对话中的回话线程（AgentThread）机制，该技术使智能体能够记忆历史对话内容，实现多轮上下文交互。对比了使用线程和不使用线程的区别：不使用线程时每次对话独立，无法记忆历史；使用线程则能保持上下文。文章详细说明了AgentThread的特性（隔离性、自动管理、可复用性等）以及应用场景（用户信息记忆、个性化服务等），并提供了同步和流式两种对话方式的代码示例。最后总结了AgentThread的核心作用和生命周期管理。
2025-11-19 07:24:54
203
原创 三、Microsoft Agent Framework 之 创建简单运行代理
【代码】二、Microsoft Agent Framework 之 创建简单运行代理。
2025-11-18 07:29:12
444
原创 二、Microsoft Agent Framework 之 AI代理介绍
AIAgent类为所有代理类型提供一致的接口。借助代理框架可以轻松与不同的推理服务创建代理。实现的任何推理服务都可用于生成代理。Microsoft.Agents.AI.ChatClientAgent是用于为任何IchatClient实现提供代理的代理类。2、使用本地聊天历史记录或服务提供的聊天历史记录进行多轮对话。3、自定义服务工具（MCP、A2A、代码执行）
2025-11-18 07:27:44
508
原创 一、Microsoft Agent Framework介绍
是一个开源开发工具包，主要用于实现AI代理、多代理工作流，它将（Semantic Kernel） 和功能汇聚一起，初次之外还提供了模型客户端（聊天完成和响应）、状态管理的代理线程、代理内存、截获代理中间件、MCP客户端。：使用LLM处理用户输入、做出决策、工具调用和MCP服务器调用，用于执行并生成响应的单个代理。基于图形工作流，用于连接多个代理和函数执行复杂的多步骤的任务。工作流支持基于类型的路由、嵌套、检查点和人工循环防御请求与响应。
2025-11-17 07:23:49
408
原创 PyTorch深度学习入门从0到1
PyTorch 是一个开源的机器学习库，主要用于进行计算机视觉（CV）、自然语言处理（NLP）、语音识别等领域的研究和开发。PyTorch由 Facebook 的人工智能研究团队开发，并在机器学习和深度学习社区中广泛使用。PyTorch 以其灵活性和易用性而闻名，特别适合于深度学习研究和开发。PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由C++实现，应用于人工智能领域，如计算机视觉和自然语言处理。PyTorch 最初由 Meta Platforms 的人工智能研究团队开
2025-09-17 07:17:55
933
原创 Ollama：本地运行AI大模型的终极指南
通过 Modelfile 定义自定义提示词或系统指令，使模型在交互中遵循特定规则。你还可以创建自定义客户端，来进一步控制请求配置，比如设置自定义的 headers 或指定本地服务的 URL。通过 Client，你可以自定义请求的设置（如请求头、URL 等），并发送请求。
2025-09-17 07:14:37
1682
原创 LangChain：大模型开发框架全解析 一
输出解析器是负责将语言模型的原始输出解析为更结构化、更容易程序处理的格式，例如：转换为对象、JSON、数组等。：CSV解析器，将模型输出解析为列表格式；：日期时间输出解析器，将模型输出解析为日期时间格式；：JSON输出解析器，将模型输出解析为JSON对象格式；：枚举输出解析器，让模型从给定的选项列表中选择回答；结构化输出：将非结构化的文本响应转换为结构化的数据格式；数据验证：确保输出符合预期的格式和内容要求；标准化：提供一致的输出格式，便于后续处理。
2025-09-16 07:25:53
680
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人