- 博客(3)
- 收藏
- 关注
原创 解决 anaconda通过conda安装软件时报错:Collecting package metadata (current_repodata.json): failed 问题
解决conda安装软件报错:Collecting package metadata (current_repodata.json): failed的问题
2025-04-12 23:16:29
920
原创 从零开始到基于docker容器和llama.cpp/llama-cpp-python部署大模型的简易教程
llama.cpp是一个大模型推理平台,可以运行gguf格式的量化模型,并使用C++加速模型推理,使模型可以运行在小显存的gpu上,甚至可以直接纯cpu推理,token数量也可以达到四五十每秒(8核16线程,使用qwen2.5-1.5b模型),另外,该平台几乎兼容所有主流模型。本文介绍了如何使用docker部署llama.cpp和llama.cpp的python绑定llama-cpp-python
2024-11-04 00:58:51
2870
原创 什么及为什么智能运维(AIops),AIops中一些重要概念
智能运维,即AIOps(Artificial Intelligence for IT Operations),是指利用人工智能技术来处理和优化IT运维工作。它通过收集、分析大量的IT数据,如性能指标、日志文件等,自动发现潜在的问题,并提供解决方案,从而实现更加高效、精准的运维管理。AIOps能够帮助组织快速响应变化,提高服务质量和客户满意度。
2024-10-31 23:55:56
728
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人