![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
AI编程实战
文章平均质量分 94
介绍AI领域的编程辅助工具和技巧,辅助提升开发效率。
技术狂潮AI
最前沿的人工智能、AI聊天机器人、AIGC以及JAVA等IT技术领域的技术文章和应用实践。致力于为技术爱好者提供一个学习、探究和交流技术的空间。
展开
-
RankLLM:RAG架构下通过重排序实现精准信息检索
RankLLM是一种基于大型语言模型(Large Language Models, LLMs)的重排序方法,它利用了LLM的强大能力来改进信息检索的结果。在信息检索的过程中,初步检索阶段可能会返回大量相关或不相关的文档,RankLLM 的作用是在这些文档中进行再次排序,以提高检索结果的相关性和准确性。RankLLM通过使用LLM作为“提示-解码器”(prompt-decoder),在没有特定任务训练数据的情况下(即零样本设置),对文档列表进行重新排序,优化诸如归一化折扣累积增益(nDCG)等检索指标。原创 2024-04-03 19:20:13 · 1208 阅读 · 0 评论 -
特定领域 RAG 新突破:LlamaPack 实现 RAFT 论文方法
RAFT 和 LlamaIndex 的协同作用是特定领域自然语言处理领域的一次重大进步。通过利用检索文档的力量,RAFT 使 LLM 能够轻松、准确地处理复杂的信息。随着我们将专业知识整合到 LLM 中的探索不断深入,RAFT 将指引我们走向人工智能真正理解和适应人类语言和语境复杂性的未来。原创 2024-04-03 19:17:30 · 1168 阅读 · 0 评论 -
Python 的 GIL 时代即将终结,迈向真正的多线程时代
那么,GIL 究竟是什么呢?GIL,即全局解释器锁,虽然不是 Python 特有的,但它是在 CPython 解释器的开发过程中引入的一个概念。简单来说,GIL 就像是一个保护机制,确保在任何时刻只有一个线程能够执行 Python 代码,以维护代码的线程安全。但 GIL 也有它的不足之处它限制了 Python 在多核 CPU 上的并行处理能力,因为不论有多少个线程,一次只能在一个核心上运行,这大大降低了程序的运行效率。原创 2024-03-23 01:00:43 · 893 阅读 · 0 评论 -
Python实战:分享4个提升Python编程技能的库
Python在数据科学和人工智能领域应该算是公认最常用的编程语言之一,同时也为程序员、数据科学家和数据分析师提供了非常丰富的库。就算我们使用Python已经有多年的经验,相信仍然会有很多隐藏的工具,会让你感到惊喜。本文我们将分享四个比较实用的Python库,它们将助于提高你的技能水平。你已经熟悉了一些最不为人知的 Python 库,用于日期和时间提取、模式匹配、代码调试以及在不丢失状态的情况下重新加载代码。原创 2023-10-13 00:16:52 · 173 阅读 · 0 评论 -
微调 Code Llama 完整指南
今天这篇文章将向大家详细介绍如何对Code Llama进行微调,让它变成适合 SQL 开发的有利工具。对于编程开发任务,经过适当微调后的 Code Llama 的性能通常都会比普通的 Llama 强很多,特别是当我们针对具体任务进行优化时:使用这个文本查询及其对应的SQL查询集合进行训练使用Lora方法,将基础模型的权重量化为int8,冻结权重,仅对适配器进行训练本文大多参考了项目,同时也进行了一定的改进与优化通过上述几点方法,相信我们能使Code Llama专注于SQL开发领域,获得更好的效果。原创 2023-10-13 00:08:36 · 3599 阅读 · 2 评论 -
GPT-Engineer:一个提示就能生成完整应用|全自动代码生成神器
对于编程初学者或者没有太多时间深入学习开发的人来说,GPT Engineer这个新型人工智能工具具有非常大的吸引力。它可以根据简单的自然语言提示,自动生成完整的应用程序代码,极大地简化了软件开发过程。GPT Engineer通过大规模预训练语言模型获得了强大的代码生成能力。它可以解析提示中的需求,根据指定的编程语言选择合适的框架,并生成遵循最佳实践的、可直接使用的代码。这使得软件开发无需手动编写重复代码,整个过程可以在几分钟内完成。原创 2023-10-10 09:33:47 · 1499 阅读 · 0 评论 -
Chainlit vs Streamlit和Gradio:为什么Chainlit是开发聊天机器人不错的选择
随着大语言模型(LLM)的快速发展,国内外越来越多的大模型蜂拥而至,真可谓是百花齐放,相当热闹的掀起了一次百模大战,甚至是千模大战。然而,面对这么多的大模型,个个都声称占据排行榜第一,到底实际效果如何,最终还得需要花大量时间去进行验证,有没有比较简单快速的方式来实现模型的快速体验呢。目前关于这方面比较成熟的方案包括 Streamlit、Gradio 等Web UI框架,基本上想要实现 ChatGPT/Claude 类似的聊天机器人或者文档机器人,只需要很少量的代码就可以实现。原创 2023-10-01 11:52:56 · 1646 阅读 · 0 评论 -
FastAPI + NGINX + Gunicorn:一步一步教你部署一个高性能的Python网页应用
部署一个FastAPI应用到你的服务器是一项复杂的任务。如果你对NGINXGunicorn和Uvicorn这些技术不熟悉,可能会浪费大量的时间。如果你是刚接触 Python 语言不久或者希望利用 Python 构建自己的Web应用程序,本文的内容可能会让你第一次部署时更节省时间。FastAPI 是用于开发API应用最受欢迎的Python库之一,用于开发API。它以其出色的性能和易用性而闻名。如果你在网页应用中使用机器学习模型,那么它很可能是你首选的工具。原创 2023-09-05 17:17:20 · 6751 阅读 · 3 评论 -
从开发到部署:使用 FastAPI 和 Docker 构建可扩展的 Python Web API
FastAPI 是一个现代、快速(高性能)的 Web 框架,用于基于标准 Python 类型提示使用 Python 3.7+ 构建 API。FastAPI 可简化使用 Python 编程创建 Web API 的过程。它允许开发人员快速轻松地构建 API,确保最佳性能和轻松管理,而不会影响代码质量和效率。它提供了许多优势,包括卓越的速度(基于 Starlette,使用 ASGI)、优于其他几个 Python 后端框架以及与 Express.js 等流行框架竞争。它具有以下主要特点:快速。原创 2023-09-01 10:32:09 · 1002 阅读 · 0 评论 -
Meta AI 重磅发布代码大模型 Code Llama
刚刚,Meta AI 如期而至发布了 Code Llama ,这是一个可以使用文本提示生成代码的大型语言模型 (LLM)。Code Llama 是针对代码任务的公开LLM的最先进技术,有可能使当前开发人员的工作流程更快、更高效,并降低学习编码人员的进入门槛。Code Llama有潜力用作生产力和教育工具,帮助程序员编写更强大、文档更齐全的软件。值得让人兴奋的是,Code Llama 完全开源,现已公开供研究和商业用途。原创 2023-08-24 23:45:44 · 501 阅读 · 0 评论 -
EasyLLM:简化语言模型处理,实现 OpenAI 和 Hugging Face 客户端的无缝切换
在这短短不到一年的时间里,国内外涌现的大型语言模型(LLM)可谓是百花齐放,不管是开源还是闭源都出现了一些非常优秀的模型,然而在利用LLM进行应用开发的时候,会发现每个模型从部署、到训练、微调、API接口开发、Prompt提示词格式等方面都存在或多或少的差异,导致如果一个产品需要接入不同的LLM或者快速切换模型的时候变得更加复杂,使用没有那么方便,也不便于维护。首先,LLM的使用和部署过程相对复杂。不同的LLM提供商和框架之间存在着差异,导致用户需要进行繁琐的配置和适配工作。原创 2023-08-14 10:23:52 · 1109 阅读 · 0 评论 -
基于OpenCV和Dlib的深度学习人脸识别技术实践与应用
计算机视觉技术在当前人工智能发展进程中已然达到较高成熟度,一系列基础算法与应用场景获得广泛实践与验证。在算法层面,图像处理、目标检测、语义分割等多个领域的技术不断突破,准确率与效率持续提升。在应用上,人脸识别、车牌识别、医学图像分析等已步入商业化应用阶段,被广泛应用于安防监控、智能驾驶、医疗辅助诊断等领域,大幅提升效率并创造新的应用形式。基于此,结合公司规划与业务需求,我们决定在人脸识别领域进行自主研发与应用。业务背景:主要应用于一些智能终端设备上,在进行权限验证和流程控制上需要进行人脸识别验证。原创 2023-08-03 09:40:52 · 2823 阅读 · 0 评论 -
如何使用 ChatGPT 构建Chrome浏览器扩展
这里主要是提供一个思路,如何通过ChatGPT来开发一个属于我们自己的Chrome浏览器扩展,大家完全可以根据自己的需求自行开发,基本上也不需要具备什么技术背景,懂基础的电脑办公,具备ChatGPT的使用条件和环境即可。除了ChatGPT聊天工具外,其实前面介绍的很多AI编程工具也可以完成此项工作,比如GitHub Copilot结合Chat,Codeium的Chat模块,Bito AI的Chat模块结合代码生成能力,都可以去实现,并不局限于使用ChatGPT。AI工具如何安装使用可以看前面的文章。原创 2023-08-01 16:05:32 · 3265 阅读 · 0 评论 -
如何利用 Cohere 文本嵌入技术实现语义搜索
语义搜索提供基于文本段落的上下文含义的搜索功能。它解决了替代方法(关键字搜索)的局限性。例如我们来查询:“吃饭的地方”。使用语义搜索模型就能够自动将其与“餐馆”联系起来,因为它们的含义相似。而通过关键字搜索却无法做到这一点,因为搜索结果将局限于“地点”、“去”和“吃”等关键字。这就像是与搜索引擎进行一场对话,它不仅理解你询问的内容,还理解你为什么要询问。这正是自然语言处理、人工智能和机器学习的魅力所在。它们共同努力理解用户的查询、查询的上下文以及用户的意图。语义搜索研究单词之间的关系或单词的含义,以提供比传原创 2023-08-01 15:50:22 · 1032 阅读 · 2 评论 -
Github Copilot VS Codeium ——哪款AI编程辅助工具更适合你
Codeium是一个建立在顶尖AI技术上的代码加速工具包,它提供了单行 + 多行代码生成、内置聊天和搜索等核心功能,同时支持70+的编程语言,支持17+主流IDEs,Codeium是一款功能强大的编程工具,能够帮助程序员更高效、更准确地编写代码。Codeium由的团队开发,该团队核心成员主要由华人组成,Exafunction通过优化深度学习推理工作负载,在资源利用率和成本改进方面可以提供10倍的性能和效益,专注于构建深度学习应用程序,而不是管理集群和微调性能。原创 2023-07-07 00:24:21 · 3068 阅读 · 0 评论 -
搭建个人专属的API中转站,解决本地OpenAI接口调用困扰
今天介绍了如何在本地环境中使用 LangChain 调用 OpenAI 接口。首先,我们需要搭建个人专属的 OpenAI 中转站。接下来,我们就基于 LangChain 开发和基于 OpenAI 原生 API 开发两种模式的环境及代码进行了介绍。原创 2023-07-05 11:28:48 · 14485 阅读 · 4 评论 -
Bito AI——智能编程辅助软件,提升10倍开发效率!(New)
其实对于Bito这款AI编程工具的介绍我早在4月26号就发布过了,为什么今天还会继续发布,主要考虑以下原因:1)、前面写这篇文章的时候,有一些问题跟官方沟通会在后续的版本发布,现在新版本发布了,今天会顺带在原来的基础上更新新版本提供的新功能和新特性。2)、可以免费白嫖GPT-4,其实Bito的聊天功能是基于OpenAI和ChatGPT的底层能力构建优化的,对于复杂的问题会自动路由到GPT-4模型来响应,简单的问题由GPT-3响应,所以细心的用户会发现这也是一个白嫖GPT-4不错的入口。原创 2023-06-17 21:23:08 · 3681 阅读 · 0 评论