自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(18)
  • 资源 (1)
  • 收藏
  • 关注

原创 【AI高效】利用AI解决程序开发问题

我们的项目是一个百万级别的并发项目,在这个项目中遇到mysql 8.0 版本下的sql 优化问题。

2024-09-13 22:11:06 170

原创 【AI高效】常用prompt

一、学习场景提示词操作步骤背书请逐字阅读后帮我总结这个文档,标识每章节和核心段落的内容,提供相关的论据与数字证明。并输出成Markdown格式,具有总标题,一级标题为目录中的内容二级标题要有至少3个分论点有爭论的内容请用表格输出上传PPT,再输入prompt,AI输出大纲背单词帮我找5个与美食相关的雅思单词,要有中文意思和用英语解释的意思、词性,音标、词根词缀的解析、每个单词需要生成3个例句和一个故事联想来帮助我记单词。请将以下内容用表格形式输出:第一栏写英文单词,第二

2024-09-12 23:29:32 641

原创 【AI大模型】未来一年,大模型发展趋势?

刚出来大家对大模型的期待非常高,好奇,所以提出一些不切实际的需求,但又没法实现,所以随着对大模型的认识提升,所以逐渐回归理性。

2024-09-10 22:08:09 159

原创 【AI大模型】为什么需要Agent?

当我们遇到复杂任务时,往往需要多个prompt进行实现,并且可能包含前后顺序要求,所以复杂度也随之提升。比如输出报告,需要先定义主题,再定义格式,再定义内容,…等。并且如果其中一步错误,需要重新回退,重新生成,非常麻烦。

2024-09-10 21:23:19 309

原创 【AI大模型】面试题集锦

因为减少token生成的矩阵运算, 比如预测第100个token,模型需要先处理前99个token的信息,对这些信息进行矩阵运算,而进行矩阵运算是非常耗时的,所以KV缓存就是为了减少这种矩阵运算,在推理过程中,会把键和值放到KV缓存中,这样模型在后续生成token的时候,直接访问缓存。

2024-09-09 22:51:06 634

原创 【AI大模型】LLM API开发的基本概念

Prompt最初是NLP研究者为任务设计的输入模板,随ChatGPT兴起,它成为与大模型交互的输入。每次向大模型(如ChatGPT)的提问即为Prompt,返回为Completion。后续将统一使用这些术语,并探讨如何通过设计Prompt来充分发挥LLM的能力。

2024-09-08 16:54:01 477

原创 【AI大模型】环境配置

基础环境配置部分:适用于环境配置初学者或新的服务器环境(如阿里云)。这部分介绍了如何生成 SSH key 并添加到 GitHub,以及在安装和初始化 conda 环境。通用环境配置部分:适用于有一定经验的用户、已有环境基础的本地安装或完全独立的环境(如 GitHub Codespace)。这部分介绍了如何新建和激活 conda 虚拟环境,克隆项目仓库,切换到项目目录,以及安装所需的 Python 包。为了加速 Python 包的安装,我们还提供了一些国内镜像源。

2024-09-08 11:30:29 699

原创 【AI大模型】提示工程、RAG、微调应用场景

一、提示工程是什么:提示工程是一种在人工智能领域中优化和引导模型表现的方法,通过设计和使用特定的文本提示或其他形式的引导来帮助模型生成所需的输出。为了解决什么问题:提示工程旨在提高AI模型的准确性和可控性,使其能够更准确地执行特定任务,同时提升用户的使用体验和效率。对应例子:在自然语言处理领域,提示工程可以设计用于生成文本的提示语句,如在文本摘要任务中,提示可以是给定文章的标题或关键段落,用于指导模型生成符合要求的摘要。二、RAG是什么:RAG是Retrieval-Augmented Ge

2024-09-07 23:29:22 267

原创 【AI大模型】为什么训练AI, 都在用英伟达的GPU

然而,就目前而言,英伟达显卡依然是AI计算硬件领域的佼佼者,它以其卓越的表现和广泛的影响力,为AI的未来发展注入了强大的动力和信心。对于AI开发者而言,选择一款合适的计算硬件是至关重要的。在AI的浩瀚探索之旅中,英伟达显卡仿佛是一位深谙并行计算之道的智者,其核心的CUDA技术如同智慧的火花,点燃了TensorFlow、PyTorch等AI框架的璀璨光芒。CUDA,这一并行计算的先锋技术,不仅引领了数据处理的革新潮流,更为AI模型的训练与推理提供了前所未有的加速体验,让AI的梦想照进了现实。

2024-09-07 22:44:48 267

原创 【AI大模型】搭建GitHub Codespaces

代码空间是托管在云中的开发环境。可通过将配置文件提交到存储库(通常称为“配置即代码”)来为 GitHub Codespaces 自定义项目,这将为项目的所有用户创建可重复的 codespace 配置。有关详细信息,请参阅“

2024-09-06 00:07:19 545

原创 【AI大模型】如何开发LLM应用

嘿,说起这个大模型开发啊,它可真是个有意思的活儿。简单来说,咱们就是拿那些大语言模型当宝贝,它们就像是超级大脑,既有超强的理解能力,又能唰唰唰地生成各种东西。咱们呢,就是利用这些超能力,再加点特别的数据或者业务上的小心思,整出些独一无二的应用来。这过程,咱们就叫它大模型开发。说到技术核心,那肯定是绕不开大语言模型的。但实际操作起来,咱们大多时候是通过调用那些现成的API啊,或者是开源的模型,来搞定理解和生成这两大难题。

2024-09-04 22:29:14 974

原创 【AI大模型】检索增强生成RAG

RAG(Retrieval-Augmented Generation)是一种创新的模型架构,旨在解决大型语言模型(LLM)在生成文本时面临的准确性、时效性、可信度及领域知识等问题。它通过检索外部知识库中的相关信息,并结合LLM的生成能力,生成更为精准、可靠的答案。

2024-09-04 21:58:05 347

原创 【AI大模型】LangChain简介

目的嘛,就俩字——提效!LangChian框架,这个为大语言模型量身打造的开发者宝库,它不仅仅是一个简单的工具集合,而是能够将LLM模型的多样形态(无论是机智的对话模型,还是深邃的embedding模型),与向量数据库的浩瀚知识、灵活多变的交互层Prompt、外部世界的广阔知识海洋,乃至那些高效的外部代理工具,巧妙地编织在一起,让你我能够随心所欲地构建出独一无二的LLM应用。首先,模型输入/输出(Model I/O),它是我们与语言模型沟通的桥梁,每一次指令的传递,每一个答案的接收,都离不开它的默默付出。

2024-09-04 21:48:52 628

原创 【AI大模型】LLM简介

大型语言模型(LLM)是拥有数百亿至数千亿参数的人工智能模型,通过海量文本数据训练,获得深层次语言理解能力。国际上有GPT-3.5、GPT-4等,国内则有文心一言、讯飞星火等。这些模型相比小型模型展现出更强的“涌现能力”,能处理复杂任务。其中,ChatGPT作为LLM的应用典范,展现了流畅自然的对话能力,预示着LLM在未来将带来深远影响。

2024-09-04 21:36:54 617

原创 JAVA基础面试题

jAVA基础面试题

2022-10-23 23:10:41 211 1

原创 【Redis面试题】redis高可用方案

Redis面试题-Redis高可用方案

2022-10-21 22:08:56 283

原创 【Redis-理论篇】Redis入门与应用

Redis

2022-10-02 20:59:29 542

原创 【JVM】JVM前世今生和内存区域

JVM基础知识,为了更好未来JVM调优

2022-06-26 17:26:34 174

JVM前世今生和内存区域

讲述JVM的基础概念

2022-06-26

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除