ai
文章平均质量分 55
侧重于本地AI构建可能性研究和实践案例
优惠券已抵扣
余额抵扣
还需支付
¥49.90
¥99.00
购买须知?
本专栏为图文内容,最终完结不会低于15篇文章。
订阅专栏,享有专栏所有文章阅读权限。
本专栏为虚拟商品,基于网络商品和虚拟商品的性质和特征,专栏一经购买无正当理由不予退款,不支持升级,敬请谅解。
每日出拳老爷子
自古以来,人通过控制群体而获得超越自身的力量,因此充满了杀戮、谎言和残暴,这是黑暗的世界,存量的世界,丑恶的世界;
从今开始,我们可以通过控制机器来获得超越自身的力量,因此充满了创新,共享和智慧,这是光明的世界,拓展的世界,善良的世界;
唯有科技,是拯救人类的宝具。
唯有极客,是带领人类的先锋。
展开
-
【AI】生成式AI服务器最低配置
UI采用open-web-ui,模型用Ollama管理,在局域网做成SAAS服务。注意,之所以是最低配置,纯粹因为公司申请花钱麻烦,所以有条件的话当然直接双GPU,A100走起,320GDDR4走起。"技嘉(GIGABYTE)C102G全景式 机箱熏黑钢化玻璃侧透兼容360/240水冷散热器。一些基础的注意事项包括,主板看是否支持14代CPU,版型是ATX还是MATX等,机箱需要匹配。考虑数据安全,又想用AI赋能企业内部的日常工作,答案只有一个,本地部署。电源要看瓦数,目前这个配置至少要750W以上。原创 2024-06-19 18:22:09 · 551 阅读 · 0 评论 -
【AI】如何改换Ollama的模型存储位置
ollama在构筑AI应用时是用于统一管理模型库的核心组成部分。默认存放ollama模型库的位置是C盘的用户文件夹的.llama-》model下。但是这样C盘很容易占满。好了,有没有办法改变ollama的默认模型存放位置呢?插一句话,越来越觉得不分区有不分区的方便。原创 2024-06-19 16:34:34 · 2588 阅读 · 0 评论 -
【ai】如何在ollama中随意使用hugging face上的gguf开源模型
ollama的pull命令可以直接pull ollama列表中现有的模型,但是ollama可以直接pull的模型大都是英语偏好(llama2有直接可以pull的chinese版本),而hugging face上则有大量多语种训练的模型,如果能直接使用hugging face上的gguf开源模型,那就自由多了,本篇介绍方法。原创 2024-06-18 16:57:08 · 1149 阅读 · 2 评论 -
【AI】AI框架项目OpenWebUI如何追加模型
openWebUI是一个非常好用的AI框架项目,既可以用API形式连接各类外部AI模型,也可以直接连接服务器硬盘上部署的离线大模型。原创 2024-05-28 22:22:38 · 674 阅读 · 0 评论 -
【AI】如何用非Docker方法安装类GPT WebUI
本地LLM通信的能力需要做成局域网SAAS服务才能方便所有人使用。所以需要安装WebUI,这样既有了用户界面,又做成了SAAS服务,很理想。原创 2024-05-24 12:00:47 · 768 阅读 · 0 评论 -
【AI】如何让局域网PC能够访问langchain框架的AI服务
由于这个server.py的存在,我一开始以为langchain整套框架的服务都是基于flask的路由。原创 2024-04-23 10:38:33 · 313 阅读 · 0 评论 -
【AI】在Windows10下部署本地LLM RAG服务
如果出现permission denied警告,可能是之前失败的安装遗留下的文件造成的问题,在windows资源管理器中将提示给出的文件全部删除再重跑命令即可。RAG的后台向量库并不需要对LLM产生影响,LLM是人与向量库(知识库)之间的交流媒介。执行此命令后,windows当前路径下会生成一个叫privacy-chat的项目文件夹,后续的模板等项目相关的设置内容都会放到这个项目文件夹中。看一下项目源码的话可以知道,interface采用的框架是flask,所以用flask的知识可以自定义你的使用界面。原创 2024-04-18 17:59:36 · 568 阅读 · 1 评论 -
【AI】本地部署可以与文件沟通的GPT:Llama 2 + GPT4All + Chroma
还是继续致力于实践可以保护数据隐私的本地化LLM部署。这次用的是Llama 2 + GPT4All + Chroma实现RAG。与文档交互。做企业内部的知识库应用。原创 2024-04-16 16:00:47 · 1007 阅读 · 0 评论 -
【AI】安装web UI时总是报找不到yaml
text generation web ui是为本地hosting提供AI服务而出现的前端框架,后端可以自由下载hugging face上的model,load后就可以直接在Web UI上访问。先尝试在默认python目录安装了pyyaml(这台机器原本就有python环境),结果还是报一样的错,说明确实ai web ui用的不是系统原本python环境的lib,需要找到正确的web ui相关的那个mini conda的lib。我觉得挺满足自己需要,就在windows尝试安装。原创 2024-03-28 18:24:12 · 317 阅读 · 0 评论 -
【AI】发现一款运行成本较低的SelfHosting语言模型
大模型生成式AI与别的技术不同,由于资源要求高,玩儿起来都要些成本,与普通人似乎就比较远了。如果有一款能够selfHosting,本地运行的开源AI框架,会是希望获得AI能力的普通人的福音。有一款新的开源基础模型,名为Mixtral M8x7b。看一些使用过这一模型在本地运行的博主声称效果优于GPT3.5。内心燃起了希望有没有。OpenAI等大厂在某种程度上还是牢牢把持着AI的技术优势。奥特曼声称在基础模型上很难被超越,大有独孤求败的意思。原创 2024-03-23 19:16:56 · 641 阅读 · 0 评论 -
【感想】幻想利用新技术就能不劳而获者往往成为韭菜
表面上看似乎确实如此,但仔细看的话,同样使用AI作为手段,为什么有的人的作品人云亦云,千篇一律,而有的人的作品却能创出风格,直指人心或是非常贴切地满足特定人群的需求呢?而如今很多人对新技术给予的期望,是只需要很少的努力就能够实现想要的东西,更深层的逻辑是对不劳而获的渴望。任何一个需求都是针对人的需求,工具只是手段,所以创作和创造归根结底是从人出发,又以人结束,这个维度是高于实现的维度的。这样的相当然,是因为缺乏脚踏实地的经验,也是因为小看创作和创造所需要的投入,更是因为内心对“懒惰”的需求。原创 2024-02-18 16:21:24 · 189 阅读 · 0 评论 -
【AI】【GPT】如何用苹果Gift卡充值GPT Plug
在M2 Mini这样的PC市场上搜索是徒劳的,出现的APP都是李鬼。原创 2024-01-30 13:25:10 · 662 阅读 · 0 评论 -
【AI】【他山之玉】用AI写整本书后得到的经验
AI写书在整体上可能不节约时间,因为需要大量修改,但是它真正能做到的是让人写得更轻松,而不是精神枯竭,苦苦追寻灵感。想着用AI高效完成一些自己想尝试的创作,达到创作欲望和效率的平衡,于是先去找有经验的人学习,总结如下。你先让AI写一个片段,如果觉得比自己写得好就留着,不然就自己修改,这样无形中提高了你输出的平均水平。或者,从创作方法上讲,可以将多视角内容结合在一起,一个章节的内容就丰富了。所以一般来说,往往需要把AI生成的片段的结尾去掉,接续自己的下一个情节。结论1:AI是你的灵感拯救者,不必是时间拯救者。原创 2024-01-14 09:46:08 · 110 阅读 · 0 评论 -
【AI】【GPT4ALL】如何拥有本地GPT以及有无可能自己训练GPT
部署后,也可以通过自己连接它的AI后台,自建前台,在公司内部自建一个AI平台。直接下载下来的初始模型是没有太多数据,总大小只有4个多GB。所以需要再拿准备好的再训练模型进行一波训练,这些训练数据集都是GPT4ALL精选的高质量Prompt Pair数据集。GPT4ALL可以直接加载GPT3.5 turbo模型,并且可商用,这种情况下Retrain方法其实和OpenAI的GPT是相似的。这时你再提问一些训练集中的问题,可以看到答案几乎和案例给的一致,说明训练集生效了。这样就可以下载再训练用的数据集了。原创 2024-01-01 17:50:13 · 3736 阅读 · 0 评论 -
【AI】【工具】五个推荐的AI视频制作工具
https://www.bilibili.com/video/BV1aH4y11752/直接在线使用用修改文档的方法来编辑视频。导入视音频文件后Descript会生成相应的描述文档,通过修改此文档你就可以实时获得修改后的视频和音频。自动加字幕当然也很方便。还带有音频优化功能,自动去噪,让人声更完美,只需轻轻一按。费用:有免费功能也有收费计划。客户端形式使用。自动去除静音部分,预剪辑。亮点功能:自动剪辑,自动选取录得最好的一段,当你某些片段重复路过后不用不用人工筛选剪辑,他会自动帮你挑选最佳表现原创 2023-11-30 15:10:44 · 874 阅读 · 0 评论 -
【AI】如何在Pycharm中使用AI辅助Coding工具Aws Toolkit
今天向大家介绍如何在Pycharm中集成亚马逊的AI辅助Coding工具Aws Toolkit。具体来说是这个工具下的耳语者服务。原创 2023-10-19 09:47:35 · 1893 阅读 · 0 评论 -
【数字人生成】快速免费生成可以用于视频制作的数字人
有些条件下不具备录像和录音的条件,如果能够用虚拟方法,仅通过一张照片就让自己的数字人形象出镜做视频,甚至可以换成更丰富的数字形象来做视频,可以大大提高视频制作的效率和自由度。原创 2023-05-15 00:29:50 · 1583 阅读 · 3 评论 -
【GPT,Flask】用Python Flask结合OpenAI的GPT API构建一个可自主搭建的内容生成应用网站
Flask+GPT是一个实现GPT Web应用的便利组合,本篇给出的资源只是一个示例,重点在于API连接参数的理解,也就是理解Query函数,在此基础上,前端怎么写都可以自由发挥,并不需要照搬示例(难度不大)。原创 2023-08-29 18:01:53 · 1694 阅读 · 0 评论 -
【GPT】如何拥有离线版本的GPT以及部署过程中的问题
目前很多公司由于数据安全的问题,不能使用OpenAI的GPT,同时也没有必要非得使用如此泛用化的GPT。很多公司因此有训练自己的离线GPT的需求原创 2023-06-29 19:28:55 · 2765 阅读 · 0 评论