- 博客(107)
- 收藏
- 关注
RSS订阅
原创 North-D人工智能文章索引
Adversarial prompting是提示工程中的一个重要主题，它可以帮助我们了解LLMs的风险和安全问题。同时，它也是一个重要的学科，可以识别这些风险并设计技术来解决这些问题。当您将这个函数定义作为请求的一部分传递时，它实际上并不执行函数，只是返回一个包含调用函数所需参数的JSON对象。但您可以尝试更聪明的提示并查看是否可以使注入在更新的模型上起作用。测试模型的漏洞是提示工程过程的重要组成部分，因为您旨在构建更强大和安全的模型。一个简单的解决方法是警告模型可能存在的恶意攻击，并告知期望的行为。
2024-04-14 09:42:10
851
原创 Stable Diffusion秋叶AnimateDiff与TemporalKit插件冲突解决
很久之前就安装了AnimateDiff，也能正常使用。今天抽风，安装B站上一个up主的教程，安装了TemporalKit插件，结果就是新插件可以使用，Animatediff在webui中不显示，且webui启动时，在命令行能看见报错了。1、打开Windows PowerShell，使用cd d:\sd\python，切换到sd\python路径下。一开始以为是版本问题，对Animatediff各个版本来回切换，失败。咬牙卸载Animatediff后重装，也不行。近日，心血来潮，继续玩动图。
2024-07-02 20:34:10
1156
原创 Stable Diffusion文生图提示词实践：AnimateDiff动图生成
Stable Diffusion文生图提示词实践：AnimateDiff动图生成
2024-05-21 18:36:23
1056
原创 Stable Diffusion文生图提示词实践：黏土风格文生图与图生图
Stable Diffusion文生图提示词实践：黏土风格文生图与图生图
2024-05-20 15:12:28
860
原创 Stable Diffusion文生图提示词实践：fashion girl
Stable Diffusion文生图提示词实践：fashion girl
2024-04-23 15:59:55
664
原创 Stable Diffusion在阿里云PAI DSW平台实践，送浩浩妈妈二次元
最近几天在启动实例时，时间非常漫长，原因很可疑（绝对不是欠费）。原图不提供了，原图是浩浩妈妈在狂蟒之灾电影中的片段，大家脑补。建议模型在个人电脑上下载后，再上传到镜像。在WebUI中进入扩展，安装需要的扩展插件。使用到了ControlNet。安装完毕后，模型请单独下载。
2024-04-22 09:59:05
1460
2
原创 大语言模型LLM《提示词工程指南》学习笔记05
Adversarial prompting是提示工程中的一个重要主题，它可以帮助我们了解LLMs的风险和安全问题。同时，它也是一个重要的学科，可以识别这些风险并设计技术来解决这些问题。当您将这个函数定义作为请求的一部分传递时，它实际上并不执行函数，只是返回一个包含调用函数所需参数的JSON对象。但您可以尝试更聪明的提示并查看是否可以使注入在更新的模型上起作用。测试模型的漏洞是提示工程过程的重要组成部分，因为您旨在构建更强大和安全的模型。一个简单的解决方法是警告模型可能存在的恶意攻击，并告知期望的行为。
2024-04-13 11:35:08
1172
原创 大语言模型LLM《提示词工程指南》学习笔记04
这个函数有一个独特的名称，当我们用输入文本调用这个名称时，它根据内部设定的规则产生结果。简而言之，我们构建了一个可重用的提示，它有一个易于与LLM交互的名称。这就像有一个方便的工具，让LLM代表我们执行特定的任务 - 我们只需提供输入，就可以得到所需的输出。使用有效的提示策略可以引导模型产生更好、更一致和更真实的响应。假设您有一个数据集，其中包含一些信息，您可以将其作为提示的一部分包含在内，然后指示它生成特定查询。最后，你可以独立运行这个函数，或者将它们串联在一起。编写一个扩展文本的函数。
2024-04-08 07:58:42
821
1
原创 大语言模型LLM《提示词工程指南》学习笔记03
为了提高大语言模型的性能使其更可靠，一个重要的提示工程技术是将任务分解为许多子任务。确定子任务后，将子任务的提示词提供给语言模型，得到的结果作为新的提示词的一部分。这就是所谓的链式提示（prompt chaining），一个任务被分解为多个子任务，根据子任务创建一系列提示操作。链式提示可以完成很复杂的任务。Meta AI 的研究人员引入了一种叫做检索增强生成（Retrieval Augmented Generation，RAG）(opens in a new tab)的方法来完成这类知识密集型的任务。
2024-04-07 08:58:08
877
原创 大语言模型LLM《提示词工程指南》学习笔记02
没有特定的令牌或关键字会导致更好的结果。更重要的是具有良好的格式和描述性提示。实际上，在提示中提供示例非常有效，可以以特定格式获得所需的输出。您可以使用命令来指示模型执行各种简单任务，例如“写入”、“分类”、“总结”、“翻译”、“排序”等，从而为各种简单任务设计有效的提示。不是，高尔夫球的目标不是获得比其他人更高的得分。设计提示时的另一个常见技巧是避免说不要做什么，而是说要做什么。这鼓励更具体化，并关注导致模型产生良好响应的细节。我们使用 Liu等人2022 的论文中提供的提示。
2024-04-06 08:14:58
664
原创 大语言模型LLM《提示词工程指南》学习笔记01
如果您希望模型生成多样化或创造性的文本，您可以设置更高的 presence penalty，如果您希望模型生成更专注的内容，您可以设置更低的 presence penalty。Frequency Penalty：frequency penalty 是对下一个生成的 token 进行惩罚，这个惩罚和 token 在响应和提示中出现的次数成比例， frequency penalty 越高，某个词再次出现的可能性就越小，这个设置通过给 重复数量多的 Token 设置更高的惩罚来减少响应中单词的重复。
2024-04-05 07:24:08
1634
原创 阿里云PAI + pytorch大语言模型开发环境简介
阿里云机器学习PAI（Platform of Artificial Intelligence） 是集数据管理，模型管理，开发，训练，部署为一体的机器学习平台，并为企业级算法团队和数据科学团队提供了一站式开箱即用的机器学习平台解决方案。主要包括：可视化建模和分布式训练 PAI-DesignerNotebook交互式AI研发 PAI-DSW（Data Science Workshop）云原生AI基础平台 PAI-DLC（Deep Learning Containers）
2024-04-04 07:05:19
1390
原创 Streamlit 构建大语言模型 (LLM) web 界面
整体而言，该代码实现了一个具有记忆功能的在线聊天应用，用户可以在其中与预训练的大规模语言模型ChatGLM3-6B进行交互，模型根据用户的输入生成相应的回答，并以聊天形式展示在界面上。：通过Streamlit，可以将大语言模型集成到Web应用中，实现实时交互式体验，用户可以直接在浏览器中与模型进行对话或提交请求，并立即得到模型生成的结果。：Streamlit 应用可以通过一行命令部署到云端服务，大大降低了将大语言模型部署为Web服务的门槛，便于模型的分享和使用。如果用户提供了对应的输入，则会显示在。
2024-04-03 06:52:16
2759
原创 大语言模型中常见小模型LLM垂直领域应用微调数据集
以AdvertiseGen数据集为基础。格式上，提供了多轮对话微调样例和输入输出格式微调样例。多轮对话格式多轮对话微调示例采用 ChatGLM3 对话格式约定，对不同角色添加不同loss_mask从而在一遍计算中为多轮回复计算loss。对于数据文件，样例采用如下格式如果您仅希望微调模型的对话能力，而非工具能力，您应该按照以下格式整理数据。},},},},// ...请注意，这种方法在微调的step较多的情况下会影响到模型的工具调用功能。
2024-04-02 08:40:15
1716
原创 大语言模型微调相关的finetuning、CE Loss、RLHF如何配合工作
Fine-tuning 是机器学习特别是深度学习中的一个重要概念和技术手段，主要应用于预训练模型的迁移学习过程。其基本原理是对已经在大规模通用数据集上预训练好的模型（如BERT、GPT系列、Transformer等），针对特定任务或领域数据进行微调。加载预训练模型：首先，获取已经在大规模无标注或有标注数据上训练得到的模型参数。保留部分或全部预训练权重：通常情况下，保留大部分层尤其是底层网络的权重不变，因为它们已经学习到了丰富的通用特征表示。修改输出层。
2024-04-01 05:07:55
964
原创 大语言模型中的强化学习与迁移学习技术
在这个背景下，我们不直接讨论"agent"这一概念，因为在大语言模型的训练和微调中并不涉及典型的强化学习框架中的智能体。在大语言模型中，强化学习（Reinforcement Learning, RL）和迁移学习（Transfer Learning）是两种重要的机器学习技术，各自有不同的作用和意义，并有着显著的异同。总之，在大语言模型中，强化学习主要用于训练模型如何根据实时反馈做出决策，而迁移学习则侧重于利用预训练模型的知识迅速适应新任务，两者相辅相成，共同推动大语言模型在多样化的应用场景中取得优异表现。
2024-03-28 11:09:20
622
原创 pytorch与大语言模型直接偏好优化DPO方法
SFT是指对预训练的大规模语言模型进行指令导向的微调，也就是让模型在保留原有泛化能力的同时，增强对具体指令的理解和响应能力。不同于传统微调基于监督信号（如正确答案）来更新模型，DPO利用人类偏好作为指导信号，通过比较模型的不同输出，找到更受人青睐的结果并据此优化模型。微调通常是针对整个模型在特定任务上的优化，而SFT更多聚焦于模型在处理指令引导的任务时的行为。DPO可以使模型的输出更加贴近人类期望，特别是在一些难以用单一正确答案衡量的问题上，通过直接获取人类对模型生成内容的主观评价来提升模型表现。
2024-03-21 09:42:33
920
原创 大语言模型数据集alpaca羊驼数据集、Vicuna骆马数据集异同、作用、使用领域
Alpaca和Vicuna都是基于大型语言模型（LLM）开发的开源项目，并都在自然语言处理领域有所应用，但它们在数据来源、模型训练和应用场景上有所不同。
2024-03-19 11:28:09
1766
原创 PyTorch的向量化思维，以及Tensor、nn接口
大语言模型的基础是对词汇进行向量化表示，将原本离散的词语映射到连续的高维空间中的向量。这样做的目的是捕捉词汇之间的语义和语法关系，使得相似含义或相近上下文中的词语在向量空间中有类似的分布。是PyTorch中用来表示多维数组的数据结构，它是整个框架的基础。是PyTorch中用于构建和训练神经网络的高级API，提供了许多预定义的层、损失函数以及其他组件，极大地简化了深度学习模型的开发流程。接口中的一部分，实际上，PyTorch 提供了大量的张量操作和函数，满足深度学习和数值计算中的各种需求。
2024-03-18 11:50:46
179
原创 PyTorch+Transformers常用数据集+训练模型de傻瓜教程
通过在这样的数据集上微调大型语言模型，如Meta的LLaMA模型，Alpaca模型能够在多种自然语言处理任务上表现出良好的性能，并且特别适合在消费级显卡上进行训练和部署，因为相较于其他大规模模型，它相对轻量级。随着大语言模型的发展，不断有新的数据集出现，用于解决特定任务或改善模型在特定语言和文化背景下的表现。此外，还有针对中文指令的Alpaca数据集变体，以及其他扩展或派生的数据集，如支持多轮对话的数据集，这些都为研究人员和开发者提供了丰富的资源来训练和测试指令驱动的对话系统。
2024-03-17 12:20:21
638
原创 基于transformer的英译中翻译模型
在机器翻译任务中，Transformer被应用于序列到序列（Sequence-to-Sequence）的学习框架，主要包括编码器（Encoder）和解码器（Decoder）两大部分。每一层包括多头自注意力机制（Multi-Head Self-Attention）和前馈神经网络（Position-wise Feed-Forward Networks, FFNs），同时每层之间加入残差连接（Residual Connections）和层归一化（Layer Normalization）。
2024-03-16 09:30:00
450
原创 预训练模型与Transformer
社区活跃，拥有众多贡献者和使用者，持续增加新的模型和功能。当预训练完成后，这样的模型可以作为基础模型，针对具体的下游自然语言处理任务进行微调（Fine-tuning），即在预训练模型的基础上附加一层或多层，并调整整个模型参数以适应新的任务数据，从而实现高效且准确的文本分类、问答系统、语义解析、机器翻译等各种NLP任务的解决方案。除此之外，Hugging Face Transformers库还支持众多社区贡献的模型和不断更新的前沿模型，使得用户可以方便快捷地在各种NLP任务中使用最新的预训练模型。
2024-03-15 09:39:42
96
原创 大语言模型三个应用方向
进一步为解读上述三个由大语言模型驱动的产业机会及其对应的技术框架与应用方向：新型云计算公司 - 模型即服务 (MaaS):行业模型精调服务：基于大模型底座的应用开发公司：
2024-03-14 08:24:37
2325
原创 （Aliyun AI ACP 22）认证考试说明及题库样题（本系列终章）
在Aliyun AI ACP系列文章中，提供了大量的辅助阅读知识点，但是依然不完整，有大量的涉及阿里云PAI的知识点未提供，请大家见谅。阿里云机器学习平台PAI的框架主要包括智能标注、智能生态市场、PAI-Studio、PAI-DSW、PAI-DLC、PAI-Autolearning，除了以上这些还有下列哪个产品（ ）但是，处于对个人技能提升的角度考虑，建议在考试完成后再进行实验，考试前，可以在网上浏览实验所使用的相关PAI产品的help文档进行通读。如果想反悔，一旦激活就无法退款了。
2024-03-13 09:30:54
904
原创 （Aliyun AI ACP 21）自然语言处理常用算法原理与异同
以上各类方法在自然语言处理中的应用有所不同，其异同点主要体现在解决问题的方式和适用场景上。：一般会使用CFG（上下文无关文法）、PCFG（概率上下文无关文法）或其他形式化方法，或是利用深度学习架构如Tree-RNN、Stack-LSTM等构建模型来推断句子的句法结构。：句法分析旨在解析句子的语法结构，通常采用依存句法分析或短语结构树等方法，通过图模型（如依存图）或树状结构揭示词语之间的语法关系。: 是早期的神经网络模型，用于学习词向量表示，通过前馈神经网络预测下一个词的概率，以此方式训练词向量。
2024-03-12 09:05:03
943
原创 （Aliyun AI ACP 20）智能语音常用算法原理与异同
总体而言，现代智能语音技术的发展趋势是从基于统计模型的传统方法转向基于深度学习的端到端解决方案，以期实现更高准确度、更自然的语音交互体验。
2024-03-11 08:34:55
105
原创 创建旅游景点图数据库Neo4J技术验证
本章主要实践内容：（1）neo4j知识图谱库建库。使用导航poi中的公园、景点两类csv直接建库。（2）pg建库。携程poi入库tripdata的poibaseinfo表，之后，导航poi中的公园、景点也导入该表。
2024-03-10 10:10:52
1633
原创 （Aliyun AI ACP 19）知识点：机器视觉常用算法原理与异同
异同：R-CNN系列（包括RCNN、Fast RCNN、Faster RCNN）都是基于区域的检测方法，采用两阶段策略，先生成候选区域再进行分类和定位；而YOLO和SSD则是单阶段检测器，直接从整张图像的特征图上预测边界框和类别，简化了流程，提高了速度。效率与准确性：Faster R-CNN、YOLO和SSD在保证一定检测精度的前提下，相较于R-CNN和Fast RCNN有了显著的速度提升，更适合实时场景的应用。定位与召回率。
2024-03-10 08:19:55
91
原创 （Aliyun AI ACP 18）知识点：增强学习、迁移学习
增强学习（Reinforcement Learning, RL）是机器学习中的一个重要分支，它涉及智能体在与环境交互的过程中，通过试错学习和经验反馈来优化决策策略。在每个时间步，智能体会采取行动，并依据环境给出的奖励信号（通常是标量值）调整其行为策略，目标是最大化累积奖励（即长期收益）。增强学习广泛应用在游戏AI、机器人控制、自动驾驶、推荐系统、自然语言处理、资源管理等领域。例如：增强学习的核心思想基于马尔科夫决策过程（Markov Decision Process, MDP）。主要包括四个基本要素：智能体
2024-03-09 10:22:19
76
原创 02极简LLM逻辑与PyTorch快速入门
PyTorch领域库提供了一系列预加载的数据集（如FashionMNIST等），这些数据集都是torch.utils.data.Dataset的子类，并实现了针对特定数据的特定函数。训练模型是一个迭代过程，在每次迭代中，模型都会对输出做出猜测，计算猜测的误差（损失），收集关于模型参数的误差梯度（正如我们在上一节中看到的那样），然后使用梯度下降法优化这些参数。在训练模型时，我们通常希望以“小批量”的方式传递样本，每轮迭代时重新打乱数据以减少模型过拟合现象，并利用Python的多进程功能来加速数据获取。
2024-03-08 16:16:30
512
原创 （Aliyun AI ACP 17）知识点：神经网络（深度学习）分析
这种网络通过一系列可学习的滤波器（或称卷积核）在输入数据（如图像）上滑动并执行卷积操作，提取不同级别的特征，如边缘、角点、纹理等。例如， LSTM（长短时记忆网络）或GRU（门控循环单元）是RNN的变体，能够有效地捕捉文本序列中的长期依赖关系，用于预测下一个单词或者分析句子的情感倾向。循环神经网络（Recurrent Neural Network, RNN）是一种特殊类型的神经网络，设计用来处理序列数据，通过在计算过程中引入循环机制，允许信息在网络中沿时间维度传递，从而捕捉到序列数据的时序依赖关系。
2024-03-08 08:20:14
186
原创 （Aliyun AI ACP 16）知识点：聚类分析
k-means算法是一种迭代优化的过程，用于将数据集中的样本分配到k个不同的簇中。算法首先随机选择k个初始聚类中心，然后按照每个样本到这些中心的距离将其归类到最近的簇中。接着，重新计算每个簇的中心，即该簇中所有样本的平均值。这个过程反复执行，直到聚类中心不再显著改变或达到预设的最大迭代次数。k-means假设簇的形状接近圆形且大小相似，其优势在于简单快速，但对初始聚类中心的选择敏感，且对于非凸形状或者大小差异很大的簇表现不佳。
2024-03-07 08:01:38
281
1
原创 极简sklearn上手教程，快速体验特性
该示例假设已有一个DataFrame和目标列名，训练了一个随机森林分类器，然后计算并可视化某个特征与其他特征间的交互效应。解释：在Python环境中安装scikit-learn库是学习和使用其功能的第一步。解释：对于大规模计算和性能优化，可以利用scikit-learn内置的并行能力。先用训练集拟合缩放器，然后将其应用于训练集和测试集，确保数据具有相同的尺度。首先加载数据并划分为训练集和测试集，然后训练模型，并评估模型在测试集上的准确率。解释：这个例子展示了如何使用scikit-learn中的。
2024-03-06 21:04:40
615
1
原创 （Aliyun AI ACP 15）知识点：分类分析
以上四个模型只是机器学习中常用的分类模型的一部分，还有其他如逻辑回归、朴素贝叶斯、AdaBoost、梯度提升树（Gradient Boosting Machines, GBM）等多种分类算法，在各自的领域中均有广泛的应用。K最近邻是一种懒惰学习算法，其原理是通过计算待分类项与已知分类项之间的距离，找出最近的K个邻居，然后通过多数投票或其他规则（如加权投票）决定待分类项的类别。：在计算机视觉领域，将图像划分为特定的类别，如识别照片中的动物种类（猫、狗、鸟等）、医学影像诊断（如肿瘤良性或恶性）。
2024-03-06 10:49:28
68
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人