- 博客(42)
- 收藏
- 关注
RSS订阅
原创 开发个人Ollama-Chat--8 网站部署
平替aliyun的收费服务，白嫖白嫖白嫖, 以下功能全部白嫖。这次项目的前端服务。则完全托管到。是Cloudflare提供的一个静态网站托管服务，它允许开发者构建和部署现代化、高性能的网站。以下是。
2024-07-10 17:12:17
836
原创 开发个人Ollama-Chat--5 模型管理 (一)
开发一个chatGPT的网站，后端服务如何实现与大模型的对话？是整个项目中开发困难较大的点。
2024-07-05 15:58:26
1159
原创 开发个人Ollama-Chat--10 绑定域名
`域名购买`最好找`正规`的渠道购买，不要因贪图小便宜而多走很多的`弯路`。我就是第一次购买域名，到了一个坑壁的平台"西部数码"，`SSL`证书申请了2个月，没下来，客服也贼不专业，还不能退款，狗逼的平台，耽误网站上线的时间。
2024-07-14 20:03:05
348
原创 开发个人Ollama-Chat--9 Frp穿透
本地运行了一台服务器，专门跑大模型服务，使用nginx暴漏了 服务和端口。在aliyun上购买了一台低配 2 Cores, 2G 的服务器，能否通过 内网穿透 “frp” 服务，将本地服务器运行的服务暴漏到公网，方便其他人使用？
2024-07-12 13:31:54
385
原创 开发个人Ollama-Chat--6 OpenUI
Open WebUI 是一种可扩展、功能丰富且用户友好的自托管 WebUI，旨在完全离线运行。它支持各种 LLM 运行器，包括Ollama和OpenAI兼容的 API。
2024-07-09 17:36:30
504
原创 开发个人Ollama-Chat--7 服务部署
go-ChatGPT项目涉及的中间件服务较多，如何一键部署？并且配置正确，服务全部都正常运行？通过这篇项目手拉手带你部署。
2024-07-08 13:16:16
359
原创 开发个人Ollama-Chat--5 模型管理 (二)
这是该项目的最终效果，使用ollama的open-webui进行人与机器的对话功能，对话的后端服务则完全对接自己开发的Go项目。如何实现呢？则通过这篇文章，一一给大家剖析后端的原理及功能实现。
2024-07-06 15:29:29
1213
原创 开发个人Ollama-Chat--3 服务拆分
个人OpenUI项目可拆分用户服务（user），AI模型服务（AiModel），…每个服务都可以再分为api服务和rpc服务。api服务对外，可提供给app调用。rpc服务是对内的，可提供给内部api服务或者其他rpc服务调用。
2024-07-04 11:28:28
717
原创 开发个人Ollama-Chat--2 环境搭建
这里使用 `Docker Compose` 来编排管理我们的容器，`docker-compose.yaml
2024-07-02 13:51:37
348
原创 开发个人Ollama-Chat--1 项目介绍
本文将以一个使用Ollama部署的ChatGPT为背景，主要还是介绍和学习使用go-zero框架，开发个人OpenUI的服务器后端，使用Docker部署网站到公网，体验和了解微服务架构，发布微服务到网站的具体流程。
2024-07-01 18:04:33
568
原创 Golang笔记: channel
Golang笔记: channelChannel定义channel 基本特性数据结构Chan使用创建chan向chan中写入数据从chan中读取数据Chan关闭sendq、recvq G释放释放接收方释放发送方协程调度channel send/recv 分析sendrecv细节参考博客Channel定义不要通过共享内存来通信，而是通过通信来实现内存共享多个 goroutine 借助 channel 来传输数据，实现了跨 goroutine 间的数据传输，多者独立运行，不需要强关联，更不影响对方的 g
2021-01-14 14:55:28
420
原创 《Kubernetes in action》Pod的调度策略
Pod的调度策略Pod的调度策略主要概念主机层pod层污点（taints）与容忍（tolerations）调度使用指定主机组独占主机亲和性默认部署案例Pod的调度策略主要概念主机层nodeSelector备注:如果nodeSelectorTerms下面有多个选项的话，满足任何一个条件就可以了；如果matchExpressions有多个选项的话，则必须同时满足这些条件才能正常调度 POD。如果我们的目标节点没有可用的资源，我们的 Pod 就会一直处于 Pending 状态pod层亲和性：
2020-12-18 14:14:31
1166
原创 《Kubernetes in action》探针
Kubernetes 探针保持Pod健康存活探针创建有效的存活探针就绪探针就绪探针的实际作用另类就绪探针（服务依赖）参考博客保持Pod健康存活探针存活探针: Kubemetes 可以通过存活探针 (liveness probe) 检查容器是否还在运行。 可以为 pod 中的每个容器单独指定存活探针。 如果探测失败， Kubenetes 将定期执行探针并重新启动容器。Kubemetes 有以下三种探测容器的机制：HTTPGET探针对容器的 IP 地址（你指定的端口和路径）执行 HTTP GET 请
2020-07-20 17:18:15
299
原创 《Kubernetes in action》 集群服务(二)
Kubernetes 集群服务使用 headless服务来发现独立的pod产生背景创建headless服务通过DNS发现pod发现所有的pod一包括未就绪的pod排除服务故障StatefulSet + headless service使用 headless服务来发现独立的pod产生背景如果客户端需要链接到所有的 pod 呢？如果后端的 pod 都需要连接到所有其他pod 呢？通过服务连接显然不是这样的， 那是怎样的呢？通常， 当执行服务的 DNS 查找时， DNS 服务器会返回单个 IP一服务的集群
2020-07-20 13:53:47
167
原创 《Kubernetes in action》集群服务(一)
Kubernetes 集群服务《Kubernetes in action》集群服务通过kubectl expose创建服务podExposeServiceResult《Kubernetes in action》集群服务Kubemetes 服务是一种为一组功能相同的 pod 提供单一不变的接入点的资源。当服务存在时，它的 IP 地址和端口不会改变。 客户端通过 IP 地址和端口号建立连接，这些连...
2020-06-19 09:05:15
299
原创 Prometheus: kubernetes gpu metrics monitoring
Kubernetes prometheus pod gpu metrics monitoringpod-gpu-monitoringPrerequisitesDeploy on Kubernetes clusterRelated documentpod-gpu-monitoringgpu metrics monitoring of podgpuhubPrerequisitesNVIDIA Tesla drivers = R384+ (download from NVIDIA Driver Do
2020-06-18 16:39:02
821
1
原创 《Kubernetes in action》Kubernetes API权限认证(二)
Kubernetes API权限认证 二 kubernetes 部署PrometheusNvidia gpu 指标提取Prometheus 监控Grafana 部署参考博客kubernetes 部署Prometheus上一篇主要将了RBAC的权限认证, 主要是理论知识。这一篇主要通过部署Prometheus监控nvidia gpu来更加了解RBAC在应用上的实践，相对还是比较简单的, 没有涉及告警等其他组件项目文件: prometheus-github文件结构[root@SHPL009049015
2020-05-18 21:44:31
336
原创 《Kubernetes in action》Kubernetes API权限认证(一)
Kubernetes API权限认证了解认证机制用户和组ServiceAccount介绍ServiceAccount 资源创建ServiceAccount将 ServiceAccount 分配给 pod通过基于角色的权限控制加强集群安全介绍RBAC授权插件介绍RBAC资源了解认证机制API 服务器接收到的请求会经过一个认证插件的列表，列表中的每个插件都可以检查这个请求和尝试确定谁在发送这个请求。列表中的第一个插件可以提取请求中客户端的用户名、用户 ID 和组信息，并返回给 API 服务器。 API服务器
2020-05-18 20:34:15
415
1
原创 《Kubernetes in action》Kubernetes 自动扩缩容HPA
Kubernetes 自动扩缩容Hpapod的横向自动伸缩了解自动伸缩过程基于CPU使用率进行自动伸缩metric-service搭建测试HPA部署基于内存使用进行自动伸缩本章小结pod的横向自动伸缩了解自动伸缩过程自动伸缩 的过程可以分为三个步骤：获取被伸缩资源对象所管理的所有pod度量。计算使度量数值到达（或接近）所指定目标数值所需的pod数量。更新被伸缩资源的replicas字段。获取pod度量Autoscaler本身并不负责采集pod度量数据 ， 而是从另外的来源获取。 pod与
2020-05-18 13:50:30
323
原创 《Kubernetes in action》Pod基础
Kubernetes PodKubernetes Pod介绍Pod为何需要pod了解pod通过Pod合理管理容器检查现有 pod YAML/Json 描述文件向pod发送请求通过标签选择器列出pod子集介绍标签创建pod时指定标签修改现有pod的标签注解命名空间Kubernetes Pod介绍Pod为何需要podpod是一组并置的容器， 代表了Kubemetes中的基本构建模块。 在实际...
2020-04-04 22:05:17
209
原创 《Kubernetes in action》基础部分
Kubernetes引言1. Kubemetes 使开发者可以自主部署应用，并且控制部署的频率，完全脱离运维团队的帮助。ubemetes 同时能让运维团队监控整个系统，并且在硬件故障时重新调度应用 系统管理员的工作重 ，从监管应用转移到了监管 ubem tes ，以及剩余的系统资源，因为 ubemetes 会帮助监管所有的应用2. Kubemetes 抽象了数据中心的硬件基础设施，使得...
2020-03-22 17:16:39
241
原创 一图总结:RabbitMQ
一图总结:RabbitMQgithubRabbitMQsummaryAMQPfeaturepublish/consumeCluster
2019-11-20 13:43:15
142
原创 linux 深入理解计算机系统: 一
linux 深入理解计算机系统系统的硬件组成基础模块拆分与解析中央处理器（CPU，central processing unit）内部存储器(内存)计算机系统: linux kernel系统调用接口进程管理内存管理虚拟文件系统系统的硬件组成基础模块拆分与解析电子计算机三大核心部件CPU内部存储器输入/输出设备（IO设备)是数据处理系统的关键外部设备之一，可以和计算机本体进行交互使...
2019-08-22 22:21:00
293
原创 一图总结:MTP查询
一图总结:MTP查询xmindmtp.xmindsummarytreemtp_etherstorage_treempt_marshalmpt_ethermerkle
2019-08-14 18:05:32
166
原创 一图总结:区块信息
一图总结:区块信息xmindblockinfo.xmindsummarymerkle_treeinfoblock_header_1block_header_2
2019-08-14 16:27:27
431
原创 一图总结: 以太坊原理
一图总结: 以太坊原理xmindether.xmindsummary前言账户和状态gasblocktransactionpow
2019-08-14 16:00:23
1139
原创 TCP/IP如何确保网络通讯质量
TCP/IP通讯基础前言网络通讯基础tcp/ip模型WAN/VLAN通讯(ip/router)子网掩码(netmask)--同一子网内可以连网DNS(域名解析)--连网TCP/UDP的应用TCP（Transmission Control Protocol，传输控制协议）)TCP协议的特点是：面向连接、字节流和可靠传输。Tcp数据结构面向连接可靠性Tcp字节流tcp粘包/解决办法滑动窗口协议--控制...
2019-02-20 07:18:17
1056
原创 DPDK 快速发包流程
DPDK 快速发包流程Basic knowledgeDPDK compile and configDPDK FlowBasic knowledgedpdk_flow.png是对上一篇原理概述dpdk 架构与原理的总结和添加了自己的理解,若有不同意见,欢迎指出,共同进步Linux Kernel and CPUdpdk initDPDK Packet DistributorDPDK...
2019-02-14 13:34:05
3302
2
原创 一图总结:DPDK架构与原理
一图总结:DPDK架构与原理xmindsummarydpdk架构与框架特点关键技术summary关键技术1关键技术2关键技术3系统配置参考博客添加链接描述
2019-02-12 20:15:41
5466
原创 一图总结:Python 数据结构
一图总结Python 数据类型xmind总结xmind总结该xmind图，总结了python 数据结构…(无法放长图，请谅解)数据内存存储与意义连续存储存储结构参考博客顺序表的原理与python中的list类型...
2019-02-11 20:23:07
448
原创 一图总结:redis
一图总结redis面试常见问题xmind总结xmind总结该xmind图，总结了redis菜鸟教程|常见面试问题|延伸…(无法放长图，请谅解)Overviewsummary是什么为什么用持久化存储(RDB)持久化存储(Aof)内存清理redis–Key架构模式(单机/主从)架构模式(哨兵sentinel)架构模式(负载均衡)Python实现/常见性能...
2019-01-29 14:22:56
216
1
原创 区块链加/解密:非对称加密
区块链加/解密 二非对称加密:Rsa/ECCRsa:生成公私钥文件Rsa:公钥加密/私钥解密ECC:私钥签名/公钥解密参考博客非对称加密:Rsa/ECC加/解密算法中涉及的库及常用公钥标准pem: 实现了PEM数据编码;主要用于TLS密钥和证书x509: x509包解析X.509编码的证书和密钥。 x509.MarshalPKCS1PrivateKey(PrivateKey) :将...
2019-01-08 11:07:33
989
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人