一点人工一点智能的博客

深度学习领域在过去几年中发展迅速，如今涵盖了广泛的应用领域。这使得在没有扎实基础的情况下，要理解并应用深度学习变得具有挑战性。本书将引导您从神经网络的基础知识到当今使用的最先进的大型语言模型。

生成式 AI 模型和 AI 语言模型因其无与伦比的能力而变得越来越流行。本书将带你深入了解 LLM 的内部工作原理，并指导你创建自己的语言模型。本书将从生成式 AI 领域的介绍开始，帮助你理解如何训练这些模型以生成新数据。

开发字向量的计算语言学家和深度学习研究人员主要依赖于日益增多的大型语料库和配备高并行GPU和TPU计算引擎的计算机，他们的关注点是赋予计算机自然语言能力，以实现机器翻译或问答等实际应用。

正则化是一种能够对未见数据产生准确结果的可靠方法。然而，应用正则化具有挑战性，因为它有多种形式，并且对每个模型必须进行适当的调整。《正则化手册》为您提供了处理任何情况所需的适当工具和方法，包括现成可用的工作代码和理论解释。

为了使得更多的自然语言处理研究人员和对大语言模型感兴趣的读者能够快速了解大语言模型和理论基础，并开展大语言模型实践，复旦大学自然语言处理实验室张奇教授、桂韬研究员、郑锐博士生以及黄萱菁教授结合之前在自然语言处理领域研究经验，以及分布式系统和并行计算的教学经验，通过在大语言模型实践和理论研究的过程中，历时 8 个月完成本书。这个阶段是从语言模型向对话模型转变的关键，其核心难点在于如何构建训练数据，包括训练数据内部多个任务之间的关系、训练数据与预训练之间的关系以及训练数据的规模。

基于知识图谱构建python代码知识库