自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

Free Labor 的专栏

生活就像一杯白開水,每天都要去品償他!

  • 博客(107)
  • 资源 (5)
  • 收藏
  • 关注

原创 EmployeeAssistant 智能问答服务:基于 pgvector 与 LLM 的企业知识库助手

EmployeeAssistant是一款基于知识库的智能问答系统,采用前后端分离架构,前端为原生HTML/CSS/JavaScript,后端基于ASP.NET Core 10与EFCore,结合PostgreSQL/pgvector实现向量检索,通过本地或组织批准的LLM服务提供语义问答。系统支持多语言界面与自动语言识别,通过SSE流式返回答案并附带引用来源,具备文档添加、向量生成与健康检查功能。

2026-09-10 18:08:44 236

原创 LiteLLM 部署实战:Docker 环境

LiteLLM是一款开源的统一LLM网关,支持OpenAI、Anthropic等多模型接入,提供标准化API接口。本文介绍其本地快速启动、Docker部署及生产环境配置,涵盖数据库设置、密钥管理、VirtualKey机制与监控集成。通过统一接口、路由分发、成本追踪等功能,显著降低多模型接入复杂度。结合start.sh脚本与常见问题排查,可高效搭建稳定可用的LLM代理服务,助力企业实现灵活、可控的大模型应用。

2026-09-10 16:25:08 142

原创 .NET 会议录音与 AI 会议记录客户端开发实战

本文介绍了使用.NET 10和WPF开发会议录音客户端,通过NAudio采集音频,上传至Whisper服务转写为文字,再调用LLM API生成结构化会议纪要,实现从录音到成稿的自动化闭环,并展望了多说话人识别等扩展方向。

2026-09-02 18:26:35 220

原创 在 Linux 上部署 whisper.cpp 并启用 GPU 加速

本文介绍了在Linux服务器上部署whisper.cpp并启用GPU加速的完整流程,包括环境配置、CUDA编译、模型下载、HTTP服务启动及GPU推理验证。通过GGML_CUDA参数开启CUDA支持,可显著提升语音识别速度,适用于实时转写等场景。

2026-09-02 17:44:01 361

原创 K8S 免镜像部署:通过 API 上传文件动态创建服务(以 Ollama 为例)

本文提出了一种在Kubernetes(K8S)环境中动态部署服务的简化方案,通过“上传文件即服务”的功能,避免传统Docker镜像构建的繁琐流程。

2026-08-22 20:03:15 221

原创 使用 Chainlit 调用 TextGen API + 本地 LLM 实现 RAG Chatbot 应用

撞要:本文介绍了一个完整的本地化RAG(检索增强生成)解决方案,通过整合Chainlit前端、TextGen API和PostgreSQL向量数据库,实现高效的知识问答系统。方案架构包含:1)使用TextGen部署本地LLM服务(如Qwen模型);2)利用LangChain处理文档加载、分块和向量化;3)通过PGVector实现向量存储与检索;4)采用Chainlit构建交互式聊天界面。该方案支持多种数据源(Excel/PDF),提供流式响应能力,兼顾开发效率与部署灵活性,特别适合企业级知识管理应用。

2026-07-18 13:59:37 213

原创 TextGen 实现 RAG:从原理到实践

摘要:本文介绍如何使用TextGen框架构建RAG(检索增强生成)系统。RAG通过结合外部知识检索与大语言模型生成,提升回答的准确性和可解释性。TextGen提供文档处理、向量检索和生成等核心组件,支持快速搭建RAG应用。实施步骤包括:环境准备(安装TextGen和嵌入模型)、配置检索模块(如PGVector)、集成RAG到对话系统,并通过提示工程确保生成内容基于检索结果。文章还涉及多路检索、对话管理等高级特性,以及评估优化方法,帮助开发者构建高效可靠的私有知识问答系统。

2026-07-18 00:19:31 164

原创 TextGen 结合 all-mpnet-base-v2 与 PGVector:构建 PostgreSQL 向量检索系统

摘要:本文介绍了一个基于语义的向量检索系统构建方案,整合了TextGen文本处理工具、all-mpnet-base-v2嵌入模型和PostgreSQL的PGVector扩展。系统工作流程包括:通过TextGen预处理文本数据,使用all-mpnet-base-v2模型将文本转换为768维向量,并存储在PostgreSQL数据库中。检索时,用户查询同样被向量化,通过PGVector进行相似度搜索。实现语义搜索功能,适用于推荐系统、问答机器人等多种应用场景。

2026-07-17 23:58:47 248

原创 TextGen 启用 embedding 并安装 all-mpnet-base-v2 模型教程

摘要: 本文详细介绍了在TextGen框架中启用embedding功能并集成all-mpnet-base-v2模型的步骤。首先需配置Python环境并安装TextGen及其依赖(如sentence-transformers和torch),随后通过Git或ModelScope下载模型文件。通过设置环境变量OPENEDAI_EMBEDDING_MODEL和OPENEDAI_EMBEDDING_DEVICE指定模型路径和运行设备(CPU/GPU)。文中提供了代码示例展示文本向量化及相似度计算,并给出优化建议

2026-07-17 23:17:00 218

原创 TextGen for Local LLM

摘要: TextGen是一个开源工具(GitHub可获取),简化本地大语言模型(如Llama、Mistral等)的部署与管理。核心特性包括:统一模型管理(支持HuggingFace/ModelScope)、多推理后端适配(vLLM/llama.cpp等)、OpenAI兼容API及交互式Web界面。用户可通过下载预置环境版本(如v4.9)快速启动,加载GGUF/Safetensors格式模型(如Qwen3.5-4B),并通过WebUI或API调用模型。支持角色预设、量化模型优化及跨平台硬件适配,适合从开发验证

2026-07-17 22:26:36 312

原创 【APM】Observability Solution

Observability Solution

2025-04-17 22:45:24 280

原创 【APM】How to enable Trace to Logs on Grafana?

本文将介绍如何在Grafana上启用 Trace to Logs。

2025-04-17 22:35:04 746

原创 【APM】NET Traces, Metrics and Logs to OLTP

前一篇分享了Observability(可观测性)环境的安装,本篇继续分享其应用。一、Create a new project by NET本文介绍了 NET Traces, Metrics and Logs to OLTP,以及如何在Grafana呈现 Traces 和 Trace to Logs。下篇文章将介绍 Trace to Logs 是如何实现?

2025-04-17 21:57:07 967

原创 【APM】Build an environment for Traces, Metrics and Logs of App by OpenTelemetry

在现代化的分布式应用程序中,Observability(可观测性)对于监控、排查故障和优化性能至关重要。本系列文章显示如何整合OpenTelemetry、Opentelemetry-Collector、Tempo、Prometheus、Loki和Grafana来提升.NET应用程序的可观测性,以及使用Promtail收集Nginx access log,.NET应用程序通过Serilog 记录日志到Loki。

2025-04-17 20:46:41 1065

原创 How to use pgbench to test performance for PostgreSQL?

pgbench是一个用于测试 PostgreSQL 数据库性能的基准测试工具。通过模拟多个客户端并发执行 SQL 查询,它可以帮助你评估数据库的性能。以下是使用pgbench。

2025-03-26 13:13:54 1146

原创 How to delete a package on private NuGet server?

【代码】How to delete a package on private NuGet server?

2025-02-14 13:32:38 317

原创 How to use the ‘git log‘ command to get change log for each file?

这段脚本的目的是从 Git 仓库中提取提交日志信息,并将其格式化为 CSV 文件。

2024-11-29 00:10:01 593

原创 Clean Docker Images and Container by Cron Job

【代码】Clean Docker Images and Container by Cron Job。

2024-11-28 09:18:26 438

原创 How to use gitlab-runner to execute CI?

【代码】How to use gitlab-runner to execute CI?

2024-11-27 19:16:43 711

原创 docker-build.sh and docker-run.sh

平常在docker上调试应用程式,由于指令繁多,需要经常查看资料。为简化步骤,编写docker-build.sh和docker-run.sh文件。

2024-08-14 15:39:10 553 1

原创 .NET SDK/Runtime installation on Linux

【代码】.NET SDK/Runtime installation on Linux。

2024-08-14 15:22:18 292

原创 .NET App accesses MSSQL to report TLS issue on Linux and Docker

1.使用.NET6开发一程式,它需要访问MSSQL,在Linux和Docker下都报:A connection was successfully established with the server, but then an error occurred during the pre-login handshake. (provider: SSL Provider, error: 31 - Encryption(ssl/tls) handshake failed)

2024-08-14 15:16:39 496

原创 How to debug a appliction on local Linux or WSL?

由于K8S权限控制,当部署在上面的应用程式出现问题后,无法还原用户出问题的场景。所以需要把程式部署到本地的Linux或WSL。

2024-08-13 22:57:59 284

原创 How to push a docker image to harbor on wsl?

【代码】How to push a docker image to harbor on wsl?

2024-08-13 22:29:29 363

原创 Run .NetCore App on Linux

【代码】Run .NetCore App on Linux。

2024-08-13 22:19:14 161

原创 Compact vdisk of wsl2

【代码】Compact vdisk of wsl2。

2024-08-13 22:15:09 283

原创 wsl2 move to disk D

【代码】wsl2 move to disk D。

2024-08-13 22:09:32 252

原创 How to run angular CICD on gitlab-runner of wsl?

前提文件1.test.ts},"test": {...,},(\d+(?:\.\d+)?)%7.Command。

2024-08-13 22:02:15 463

原创 Docker commands on Linux (WSL)

【代码】Docker commands on Linux (WSL)

2024-08-13 21:43:36 485

原创 CompreFace Study

此文旨在记录学习CompreFace的过程。提示:以下是本篇文章正文内容,下面案例可供参考例如:以上就是今天要讲的内容,本文仅仅简单介绍了pandas的使用,而pandas提供了大量能使我们快速便捷地处理数据的函数和方法。

2024-08-13 20:53:35 790

原创 移动光猫(UNG853H)获取超级帐号和密码

移动光猫(UNG853H)获取超级帐号和密码

2024-07-31 11:06:28 11881 5

原创 How to authenticate on mulitple IdentityServer4?

背景:客户为增加系统可靠性,在公司内部分别部署了多套IndentityServer4,分别使用不同的AP、DB server和域名,我分别叫它们:IDS-A和IDS-B,程式都相同。例如:HR业务系统使用IDS-A,RD业务系统使用IDS-B,当用户登录HR业务系统后,打开RD业务系统仍需要重新登录。在登录其中一台IDS时,呼叫另一台IDS的API,那么用户将获得IDS-A和IDS-B的cookie,即实现了SSO。注册IDS服务(如下代码)时,并没有指定 issuer,如果指定,业务系统都无需修改。

2024-06-13 09:57:13 364

原创 How to limit request by IP on nginx?

这个配置指令将为每个客户端 IP 地址创建一个限制区域,并将其与请求速率设置关联。当 Nginx 收到请求时,会根据客户端的 IP 地址和限制区域来判断请求是否超过了设置的速率限制。是一个 Nginx 配置指令,用于定义请求限制区域和速率限制。

2024-05-23 16:37:16 357 1

原创 How to start a docker container on Linux?

【代码】How to start a docker container on Linux?

2024-05-23 16:04:44 200

原创 How to record real IP of user on nginx?

由于没有WAF权限,所以在 docker上启动了两个container,一个模拟WAF(r-proxy),一个模拟应用(webapp)。1.r-proxy (nginx下的 default.config, /etc/nginx/conf.d/default.conf)docker上如何启动container,查看另一篇文章。2.webapp (无需设置)

2024-05-23 15:50:06 269

原创 EFCore sharing

EF Core

2023-09-07 11:56:29 358

原创 [Angular] Import TranslateModule in Angular 16

Angular 更新至V16版后,支援 standalone,故移除了 NgModule,而TranslateModule 又要在AppModule中 import,那该如何做呢?

2023-07-24 22:10:42 1610

原创 [Angular] 主从表结构,从表记录在主表固定栏位上呈现

主从表结构,有时为了方便数据呈现,在UI上不显示从表资料,那么需要动态把从表的资料加载到主表的固定栏位上。例如:主表是人员信息,从表是银行卡信息,一个人在同一家银行可能有多张银行卡,且一个人可能在多家银行开户。

2023-07-24 20:57:53 342

原创 [Angular] Export excel from table or json

【代码】[Angular] Export excel from table or json。

2023-07-24 19:30:24 1486

原创 [Angular] Custom a DatePipe to support special time zone conversion from user

【代码】[Angular] Custom a DatePipe to support special time zone conversion from user。

2023-07-24 13:06:18 970

How to limit request by IP on nginx?

How to limit request by IP on nginx?

2024-05-23

web.config加密工具

web.config加密工具,本人无偿共享,支持中国共享软件发展

2007-09-15

A NiFi template

using NiFi to sync data between table to table.

2021-09-16

ThreadSample.7z

原创文章范例:多线程实现方法 (threadpool and async method) in .Net Core. https://blog.csdn.net/wish366/article/details/116754427?spm=1001.2014.3001.5501

2021-05-13

Web开发一些图示

Web开发一些图示,本人经典收藏

2007-09-15

ASP.NET徹底研究

ASP.NET徹底研究,供高级程序员使用,新手勿用

2007-09-15

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除