自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(55)
  • 收藏
  • 关注

原创 从零实现Llama3中文版

从零实现Llama3中文版,该项目能在一台 16G RAM 的笔记本电脑上运行。

2024-05-26 22:00:18 968

原创 大语言模型教程与实践(开源)

大语言模型(Large Language Models, LLMs)的兴起确实始于OpenAI在2018年发布的GPT(Generative Pre-trained Transformer),这一开创性工作引领了自然语言处理领域的新纪元。随后,2022年底ChatGPT的横空出世,进一步加速了大语言模型技术的应用普及,它不仅展示了惊人的生成能力和理解深度,还极大地推动了人工智能技术的社会认知与应用边界。对于技术开发者而言,想要深入学习大语言模型技术,确实需要掌握一系列复杂而深奥的知识体系。

2024-05-04 00:37:24 800

原创 Sora技术原理解析

Sora是一个基于大规模训练的文本控制视频生成扩散模型。Sora能够生成高达1分钟的高清视频,涵盖广泛的视觉数据类型和分辨率。Sora使用简单的文本描述,使得视频创作变得前所未有的简单和高效。

2024-02-29 23:05:18 1275

原创 大型语言模型的幻觉问题

在语言模型的背景下,幻觉指的是一本正经的胡说八道:看似流畅自然的表述,实则不符合事实或者是错误的。幻觉现象的存在严重影响LLM应用的可靠性,本文将探讨大型语言模型(LLMs)的幻觉问题,以及解决幻觉现象的一些常见方法。

2024-01-06 22:29:59 1543

原创 LLMs推理框架总结

LLMs(大模型)推理框架总结

2023-12-19 22:42:40 1672

原创 RAG(检索增强生成)技术

检索增强 LLM ( Retrieval Augmented LLM ),给 LLM 提供外部数据库,对于用户问题 ( Query ),通过一些信息检索 ( Information Retrieval, IR ) 的技术,先从外部数据库中检索出和用户问题相关的信息,然后让 LLM 结合这些相关信息来生成结果

2023-12-19 09:55:37 1833

原创 LLaMA系列模型

2023年2月,Meta(原Facebook)推出了LLaMA大模型,在相关评测任务上的效果可以媲美甚至超过千亿级大模型,被认为是近期开源大模型百花⻬放的开端之一,“羊驼”系列模型及其生态快速发展。

2023-12-18 22:55:43 2116

原创 掌握大型语言模型(LLM)技术:推理优化

大模型(LLM)推理优化技术整理。

2023-12-03 16:26:43 2931

翻译 The Annotated Transformer 最新翻译

The Annotated Transformer 最新翻译。Transformer 是第一个完全依赖自注意力来计算其输入和输出表示,而不是使用序列对齐 RNN 或卷积的模型。

2023-05-21 19:43:38 265

原创 Transformer架构解析

Transformer 是第一个完全依赖自注意力来计算其输入和输出表示,而不是使用序列对齐 RNN 或卷积的模型。

2023-05-21 19:31:46 4290 2

原创 ChatGPT相关核心算法

ChatGPT 的卓越表现得益于其背后多项核心算法的支持和配合。本文将分别介绍作为其实现基础的 Transformer 模型、激发出其所蕴含知识的Prompt/Instruction Tuning 算法、其涌现出的思维链能力、以及确保其与人类意图对齐的基于人类反馈的强化学习算法。

2023-03-26 20:59:17 11985 1

原创 东北大学最优化知识点总结

最优化知识点总结

2023-03-23 21:11:07 1645 4

原创 东北大学2023分布式操作系统实验

东北大学2023分布式操作系统实验

2022-12-24 21:27:51 2743 2

原创 东北大学2023分布式操作系统考试重点

东北大学2023分布式操作系统考试重点

2022-12-17 12:32:24 1999 2

原创 东北大学2023分布式操作系统考试题目及答案

东北大学2023分布式操作系统考试题目及答案

2022-12-16 17:03:47 2868 2

原创 分布式操作系统 - 8.分布式容错管理

东北大学 分布式操作系统笔记

2022-12-12 15:41:54 1688

原创 分布式操作系统 - 7.分布式一致性与复制管理

东北大学 分布式操作系统笔记

2022-12-12 15:31:03 1849

原创 分布式操作系统 - 6.分布式同步控制

东北大学 分布式操作系统笔记

2022-12-12 15:19:32 1725

原创 分布式操作系统 - 5.分布式命名管理

东北大学 分布式操作系统笔记

2022-12-12 15:07:00 1841

原创 分布式操作系统 - 4.分布式通信管理

东北大学 分布式操作系统笔记

2022-11-30 21:15:21 1149

原创 分布式操作系统 - 3.分布式进程管理

东北大学 分布式操作系统笔记

2022-11-30 21:06:25 807

原创 分布式操作系统 - 2.分布式体系结构

东北大学 分布式操作系统笔记

2022-11-27 19:59:03 1340

原创 分布式操作系统 - 1.分布式系统概论

东北大学 分布式操作系统笔记

2022-11-27 19:29:36 2061 1

原创 Easy RL - 10.模仿学习

强化学习 Easy RL书,第十章 模仿学习 课后题及面试题

2022-11-16 14:20:54 360

原创 Easy RL - 9.稀疏奖励

强化学习 Easy RL书,第九章 稀疏奖励 课后题及面试题

2022-11-16 14:19:47 219

原创 Easy RL - 8.PPO算法

强化学习 Easy RL书,第八章 近端策略优化算法 课后题及面试题

2022-11-16 14:18:31 309

原创 Easy Rl - 7.DDPG算法

强化学习 Easy RL 书,第七章 深度确定性策略梯度算法课后题及面试题

2022-11-16 14:13:09 386

原创 Easy RL -6.演员-评论家算法

强化学习 Easy RL,第六章 演员-评论家算法 课后题及面试题

2022-11-11 15:29:47 499

原创 Easy RL - 5.策略梯度

强化学习 Easy RL 书,第五章 策略梯度 课后题及面试题

2022-11-11 15:27:15 635

原创 Rainbow: 结合深度强化学习的改进

本文研究了DQN算法的六个扩展,并实证研究了它们的组合。我们的实验表明,在数据效率和最终性能方面,该组合在雅达利2600基准上提供了最先进的性能。我们还提供了详细的消融研究结果,该研究显示了每个部件对整体性能的贡献。

2022-11-10 16:23:29 1529

原创 Easy RL - 4.DQN算法

强化学习 Easy RL 书 第四章 DQN算法课后题及面试题

2022-10-30 21:14:27 322

原创 Easy RL - 3.表格型方法

强化学习 Easy RL书后习题及面试题

2022-10-30 20:23:42 137

原创 一种简单的蒙特卡洛树搜索并行化方法

本文提出了 WU-UCT, 一种新颖的并行 MCTS 算法, 通过监控未观察样本的数量来解决并行化过程中统计数据过时的问题. 基于新设计的统计数据, 它有正确地修正了UCT节点选择策略, 实现了有效的探索和利用的权衡.

2022-10-29 11:03:49 2405

原创 Linux基础知识及系统管理(一):Linux常用命令

Linux基础知识及系统管理

2022-10-28 21:59:14 163

原创 Nvidia-Docker安装

Nvidia-Docker安装

2022-10-28 10:28:03 998

原创 Ubuntu安装Docker

Ubuntu安装Docker

2022-10-28 10:26:12 191

原创 西瓜书习题 - 10.机器学习初步考试

西瓜书前9章内容考试题目

2022-10-28 10:16:11 11472 5

原创 西瓜书习题 - 9.聚类

西瓜书第九章聚类习题

2022-10-26 14:48:30 4195

原创 西瓜书习题 - 8.集成学习

西瓜书第八章集成学习习题

2022-10-26 14:47:31 9301 2

原创 西瓜书习题 - 7.贝叶斯分类器

西瓜书第七章贝叶斯分类器习题

2022-10-26 14:46:08 8522

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除