大模型开发
文章平均质量分 94
Cx330_zhahui
编程小白的成长之路
展开
-
day03-Embedding实战
嵌入对于处理自然语言和代码非常有用,因为其他机器学习模型和算法(如聚类或搜索)可以轻松地使用和比较它们。原创 2024-07-19 14:56:17 · 1125 阅读 · 0 评论 -
day02-大模型开发基础-embedding
表示学习(Representation Learning)和嵌入(Embedding)是密切相关的概念,它们可以被视为在不同领域中对同一概念的不同命名或描述。•:通过学习算法从原始数据中学习到一种,该表示形式能够更好地表达数据的重要特征和结构。表示学习的目标是将输入数据转换为具有良好表示能力的特征空间,使得在该空间中的数据具有更好的可分性、可解释性或推理能力。•:表示学习的一种形式,通常用于将的表示形式。嵌入可以是词嵌入、图像嵌入、图嵌入等。原创 2024-07-10 11:41:53 · 654 阅读 · 0 评论 -
day01-初探大模型
SOTA model:并不是特指某个具体的模型,而是指在该项研究任务中,目前最好/最先进的模型预训练语言模型的三种网络架构GPT1: 2018年,GPT-1诞生,这一年也是NLP(自然语言处理)的预训练模型元年。性能方面,GPT-1有着一定的泛化能力,能够用于和监督任务无关的NLP任务中, 虽然GPT-1在未经调试的任务上有一些效果,但其泛化能力远低于经过微调的有监督任务,因此GPT-1只能算得上一个还算不错的语言理解工具而非对话式AI。GPT2。原创 2024-07-08 21:38:56 · 957 阅读 · 0 评论