东方佑
世界500强企业,算法工程师,大模型设计,炼丹
展开
-
mind推荐算法推荐诗
【代码】mind推荐算法推荐诗。原创 2024-05-26 11:28:20 · 69 阅读 · 0 评论 -
矢量扩散模型初探
接下来,代码使用随机生成的label和alpha_prod对x进行扩散,生成新的坐标xt,并将xt、t和label存储在x_t_label列表中。最终绘制出扩散后的坐标图像。然后,代码定义了一个UNet模型和优化器,并进行了简单的坐标扩散训练。这段代码是一个简单的扩散模型实现,实现了一个从0开始构建的扩散过程,并使用一个UNet模型对坐标进行扩散。首先,代码定义了一个递增的alpha序列和连续乘积alpha_prod,用于扩散过程中的计算。然后,代码定义了一些初始坐标x和y,并根据这些坐标绘制了一个图像。原创 2024-02-25 17:44:02 · 138 阅读 · 0 评论 -
度加创作工具 演示
LLM模型是一种基于Transformer的大型语言模型,它可以接受任何形式的输入(文本、图像、音频等等),并生成任何形式的输出(文本、图像、音频等等)。这意味着我们可以使用LLM模型来统一多模态,将不同类型的数据转换为文本格式,然后通过LLM模型进行统一处理。因此,我们需要一种方法来统一多模态,让不同模态的数据可以相互转换、相互融合,从而让机器能够更好地理解和处理不同类型的数据。首先,什么是多模态数据呢?总之,通过统一多模态数据,我们可以让机器具备更全面的知识和能力,从而更好地解决各种复杂问题。原创 2023-11-19 22:53:37 · 333 阅读 · 0 评论 -
CVF_统一多模态之文字生成
【代码】CVF_统一多模态之文字生成。原创 2023-11-18 11:37:09 · 147 阅读 · 0 评论 -
图文精灵升级离线版本
此代码实现了一个图文精灵,可以帮助用户将图片中的文字转换为文本,并将其存储在剪贴板中。它还包括一个系统托盘图标,允许用户随时访问该应用程序,甚至在打开主窗口时隐藏该应用程序。应用程序还包括一个历史记录功能,允许用户存储以前的转换并在以后随时访问它们。此代码使用Python编写,使用了PaddleOCR和Tkinter库。原创 2023-11-07 22:32:59 · 805 阅读 · 0 评论 -
对于LLM来说,token何必是表广义token时代 大词表时代
本论文主要探讨了语言模型(LLM)中词表的作用以及与数据处理方式的关系。首先,我们介绍了词表作为存储信息的表和数据库或数据中心的角色,然后讨论了增加词表大小的影响。接下来,我们从两个角度出发,一是从token_id层面将数字分解为嵌入向量和输出头,二是从信息本身层面使用多个表和字段处理数据。最后,我们总结了这两种处理方式的特点和适用场景。原创 2023-10-14 09:11:00 · 268 阅读 · 0 评论 -
重构Transformer神经网络:优化的自注意力机制和前馈神经网络
因此,本研究的目标是设计一种新颖的、优化的Transformer神经网络模型,以同时保持强大的性能和降低计算复杂性。本论文研究了一种改进的Transformer神经网络模型,该模型使用区别于传统自注意力机制的新型注意力机制,以及优化的前馈神经网络。而且,该模型还引入了非线性激活函数以增强模型的表现力。为验证我们的模型性能,我们对比了现有的Transformer和这种新型Transformer在不同数据集上的性能。改进的自注意力机制和前馈神经网络为处理长序列数据带来了巨大的优势,同时保留了强大的模型性能。原创 2023-09-19 10:07:45 · 593 阅读 · 0 评论 -
基于反向推理的序列预测模型
如完整输入序列为"12345",可以通过针对"123456"、“123457”、"123458"等可能的后续序列,进行反向推理,从而得出“3”的可能性。因此,一个新的预测理论的提出,将有助于解决此类问题,即利用反向推理进行序列预测。总的来说,反向推理提供了一种全新的解决序列预测问题的思路,这是一种更为主动探索的方法,它将预测问题从历史依赖性的角度进行了解决,拓宽了预测模型的视野,为未来的研究提供了新的可能性。因此,反向推理不仅可以解决缺乏历史信息的问题,还可以通过比较所有可能的预测结果,获取最可能的结果。原创 2023-09-15 15:42:05 · 314 阅读 · 0 评论 -
手搓大模型之only em for pos之增加依赖性
然后将这个向量添加到词汇的嵌入表示中,从而使得模型能够学习到词汇在上下文中的位置信息。因此,如果模型能够考虑到单词在上下文中的位置信息,将增加模型识别上下文中依赖性的能力。例如,在一句话中,“我今天很高兴”,如果模型能够知道“高兴”单词的相对位置在“今天”单词之后,那么它就能更好地理解句子的语义。总之,通过增加token相对位置,可以帮助自然语言生成模型更好地捕捉上下文的依赖性,并提高模型的性能。在自然语言生成模型中,通过增加token相对位置可以更好地捕捉上下文的依赖性,从而提高模型的性能。原创 2023-08-27 18:19:21 · 234 阅读 · 0 评论 -
文心一言是这样理解加法的逢五进一哈哈
将进位后的数与下一位的数相加,以此类推,直到最后一位。1 + 4 = 5,向上进位;2 + 5 = 7,向上进位;7 + 7 = 14,向上进位。2 + 5 = 7,向上进位;7 + 7 = 14,向上进位。进位后的数为832,加上最高位的进位值1,得到最终结果724。进位后的数为579,加上最高位的进位值1,得到最终结果6369。进位后的数为579,加上最高位的进位值1,得到最终结果6369。将两个数从低位到高位依次对齐,将每一位上的数字相加,如果最高位大于等于5,则向上进位。原创 2023-06-10 10:56:47 · 458 阅读 · 0 评论 -
通过实现某个目标事件的理解程度引导chatgpt创作音乐
高潮部分:为了表现野兽和美女感情的高涨,这部分采用比较热烈、强烈的旋律和和弦进程,同时钢琴的节奏增加了一定的复杂度和难度,最终以强烈的音乐情绪达到高潮状态。间奏部分:为了让听众休息一下,间奏采用了比较缓慢的旋律和和弦进程,表现着故事中野兽、美女的思考和故事的低谷,这部分主要基于G的和弦进行,性格比较平和和镇定。设计乐曲结构:基于对故事情节的理解,我们设计的乐曲结构应该包括:前奏简短而富有美感,主旋律的流畅而优美,间奏部分镇静、古典或者悠缓的音乐,让听者休息一下。原创 2023-06-08 22:28:39 · 510 阅读 · 0 评论 -
使用目标事件属性方法引导chatgpt创作
语言表现:诗歌中的用词和句式是否能够精准表达作品所要表达的思想和情感,同时使用的语言是否贴合时代、地域和文化背景。语言表现:诗歌中的用词和句式是否能够精准表达作品所要表达的思想和情感,同时使用的语言是否贴合时代、地域和文化背景。表达方式:诗歌的表达方式是否流畅、有生动的比喻、有新颖的表达手法,同时体现诗歌的韵律和节奏感。表达方式:诗歌的表达方式是否流畅、有生动的比喻、有新颖的表达手法,同时体现诗歌的韵律和节奏感。韵律和节奏感:诗歌是否有和谐的韵律和节奏感,如果有能够增强作品的感染力和美感。原创 2023-06-08 22:29:27 · 432 阅读 · 0 评论 -
一种没有注意力没em编码,不用重复看前文的,简单的,nlp神经网络模型
的两数之和,另一种是“随机序列”,由所有可能的长度在 1-4 之间的随机数字串组成,在这两种序列上进行训练,来进行分类和序列生成等任务。在代码中,作者使用了两种文本序列,一种是“加法题”的序列,包含了所有的 0 到 8。Transformation)方法,将输入的文本序列转换为频率域的信号,再进行一系列的线性变换和激活函数处理,最后输出分类结果。这个模型的主要组成部分包括 SFFT 层、SFFTAdd 层,为了更好的网络效果,还包括 GELU 激活函数、LayerNorm。原创 2023-06-07 19:59:21 · 111 阅读 · 0 评论 -
ROUGE Score实现
需要注意的是,PaddlePaddle只提供了计算BLEU和ROUGE分数的库函数,需要将生成的文本和参考文本转化为List[List[str]]格式才能计算。同时,在使用时还需要根据具体的任务和数据集选择不同的metric_type和n_gram值。PaddlePaddle一般用于深度学习框架,其中包括生成模型和常用评价指标的实现。原创 2023-05-31 19:38:26 · 773 阅读 · 0 评论 -
镜像卷积网络能不能解决nlp问题
import paddleclass ReCNN(paddle.nn.Layer): def __init__(self, map_max=4096, hidden_dim=128, steps=20): super(ReCNN, self).__init__() self.map_max = paddle.create_parameter(shape=[map_max, hidden_dim], dtype='float32') self.step原创 2023-05-31 19:36:15 · 522 阅读 · 0 评论 -
这样使用chatglm让让自己完善答案
产品经理张三:作为两个产品经理,我们需要从不同的角度来看待开发技术博客这件事。原创 2023-05-07 21:18:10 · 554 阅读 · 0 评论 -
这样能不能抛弃one-hot编码和attention
【代码】这样能不能抛弃one-hot编码和attention。原创 2023-05-07 21:03:46 · 95 阅读 · 0 评论 -
AIGC生成多媒体流程
接下来的章节如上一样直到最后。原创 2023-04-30 15:22:45 · 780 阅读 · 0 评论 -
如何使用chatgpt写一个完整2048
这里使用了Python标准库中的pickle模块来进行对象的序列化和反序列化,将游戏状态存储为pickle文件。同时也提供了清空存档状态的功能。以上是可能需要开发的主要模块和功能。当然,具体实现方式可能因人而异,可以根据自己的编码习惯和技能水平进行调整。在上面的示例代码中,我们首先使用Pygame mixer初始化音效库,然后使用。你也可以根据需要自行添加其他声效音乐模块功能。方法加载了一个方块移动音效文件,并在需要时使用。以列举的方式一一列举出每个模块每个功能。应该如何设计各个模块各个模块的功能。原创 2023-04-27 20:51:18 · 1313 阅读 · 0 评论 -
自监督环境模型
【代码】自监督环境模型。原创 2023-04-17 19:55:40 · 395 阅读 · 0 评论 -
gru 串联LLm
【代码】gru 串联LLm。原创 2023-04-13 19:54:31 · 288 阅读 · 0 评论 -
基于统计的nlp模型
【代码】基于统计的nlp模型。原创 2023-04-01 20:55:59 · 119 阅读 · 0 评论 -
使用AI 设计 光学逻辑门
【代码】使用AI 设计 光学逻辑门。原创 2023-03-26 23:02:54 · 187 阅读 · 0 评论 -
超长输入输出任意长度的nlp串行编码网络
IOEncoderDecoder模型接收i_list和o_list两个输入,分别经过IEncoder和OEncoder编码之后,对它们进行乘法运算,再经过一个全连接层(io_decoder),最终得到模型的输出。这是一段用PaddlePaddle框架实现的机器学习代码,主要是一个IOEncoderDecoder模型,包含了一个IEncoder和一个OEncoder。在主函数中,创建了一个IOEncoderDecoder模型,随机生成了100组数据,模拟了模型在这100组数据上的运行。或者是输出部分自回归。原创 2023-03-23 22:26:11 · 354 阅读 · 0 评论 -
未来GPT-5不会太大参数量甚至更低参数量代替的是预先输入编码知识库-开启预先输入模型时代
而目前的AI模型通过预先输入大量数据和生成预训练的方式,来达到类似于人类学习的效果。其中,对于输入的数据长度和维度的处理可以通过编码方式来解决,并且通过存储知识编码本身而不是参数量的方式,使得模型可以根据不同的历史和人的交互而自适应调整输出结果。总而言之,人工智能世界中的一些技术方法,是受到我们人类神经系统的启发而开发出来的,而不断探索和创新,才能真正实现人工智能的梦想。而这个之间的差别可就大了去了,首先是预先输入的知识也是输入的一部分相当于输入的维度数据量上的增加。第二个区别是这个存储的是知识编码本身。原创 2023-03-19 00:04:20 · 691 阅读 · 0 评论 -
超大规模记忆输入型nlp自回归神经网络
【代码】超大规模记忆输入型nlp自回归神经网络。原创 2023-03-17 14:23:33 · 116 阅读 · 0 评论 -
超长文本输入nlp自回归网络
【代码】超长文本输入nlp自回归网络。原创 2023-03-16 22:20:24 · 184 阅读 · 0 评论 -
前文编码nlp自回归任务
训练集上验证可达90 这只是个小网络 设计的好点的网络会如何。# 使用前四个值表示第五个值 统计相对编码。使用验证集测试也未可知。原创 2023-03-14 20:08:25 · 113 阅读 · 0 评论 -
超级人工智能就此诞生
同时扩散产生的所谓的随机随着时间的推移不断类似sd模型逐渐的消除噪声。只要神经细胞拥有向各个方向发送和接收其他细胞的信号。在收到物资时就发送强烈的相应方向信号并随着时间衰减。人类和其他动物的区别在于是一个杂食性动物。记得有一个外国的脑萎缩人依然表现正常。脑细胞数量是和智能有关而不是决定性的。检测发现这个人的脑脊液和普通人不同。而真正让细胞拥有智能的是物质扩散。智能和脑袋大小的关系不是绝对的。但是人脑中的营养物质会运动的。故而且巧合的和ai 绘画模型。并且是扩散的方式运动。这类是混沌系统的涌现。原创 2023-03-11 11:19:30 · 342 阅读 · 0 评论 -
这样是不是clone网络
【代码】这样是不是clone网络。原创 2023-02-27 22:36:30 · 111 阅读 · 0 评论 -
mini版智能虫子
【代码】mini版智能虫子。原创 2023-02-22 19:58:38 · 150 阅读 · 0 评论 -
简单的从感受器开始构建智能
【代码】简单的从感受器开始构建智能。原创 2023-02-20 20:26:59 · 139 阅读 · 0 评论 -
通用智能基本理论核心概论
整个假说 结论是开始结束感受器 控制相关行为 探索世界原创 2023-02-05 20:12:24 · 849 阅读 · 0 评论 -
通用智能如何拥有生命的简单设计
这里先进行简单的行为属性记录,后期如果需要高级智能生命必须将所有感受记录下来。当记录表为空且模仿表也为空的时候记录行为,记录的内容则是最小的单元。便开始模仿该行为交互同时记录下来该模仿的反馈和交互的最小单元。前期我们先将查模和记录模三个表进行系统的控制和自动处理。其中反馈时间T1小于交互时间T0的任务是积极反馈。至于如何关联是要通过各种感官的感觉一致的才能关联。这个是整个行为交互过程中最小的记录单元。记录和模仿都不为空的时候便进行组合关联。图二的每个元素都代表多个这样的小单元。能量少的时候的各种行为设定。原创 2023-01-30 21:51:21 · 536 阅读 · 0 评论 -
简答说明通用智能基础模型的基本处理逻辑
需要优先查找能量消耗表 模仿时候有能量反馈回来的进行执行而不是概率发生。故而需要不断的尝试人脑对于各个行为消耗和获得能量的情况是关键。当没有可以查询的模仿行为或者是大量消耗能量行为的时候。当拥有了概率记录数据后,按照最大发生概率依次模仿行为。加大能量模仿该行为 如果不够则按照概率发生表依次模仿。行为得到的反馈 反馈的时间越短 则判断剩余能量多少。模仿的消耗和反馈都会记录到行为消耗能量和反馈表中。能量多的时候优先选择 能量反馈消耗表查询。如此方可实现基本的简单的生存模型。当能量少的时候则是需求。原创 2023-01-29 21:05:23 · 445 阅读 · 0 评论 -
通用智能基础模型假说
通用智能基础模型假说原创 2023-01-28 21:11:55 · 517 阅读 · 0 评论 -
这样定义通用人工智能
走向未来原创 2023-01-25 16:42:37 · 1179 阅读 · 0 评论 -
使用扩散模型训练文本贴图
使用扩散模型训练文本贴图原创 2022-12-29 15:15:27 · 289 阅读 · 0 评论 -
加性扩散方法增加同等公式反推 方向扩散方法
有待验证原创 2022-12-27 20:18:46 · 111 阅读 · 0 评论 -
加法扩散模型全部过程推导和实现代码
通过简单的方法实现扩散和逆扩散原创 2022-12-21 20:41:23 · 303 阅读 · 0 评论