- 博客(90)
- 资源 (8)
- 收藏
- 关注
RSS订阅原创 2023年，AI爆发的一年
从2023年爆火的各领域AI来看，他们强大的功能正在进一步提升我们日常的工作效率。同时，由于其入手门槛较低，让普通人也能够接触到最为厉害的AI算法和工具，真正的改变我们的生活。而AI的进步可能远远不止于此，它在今年的发展和进步让我们所有人感到了震惊。在未来，AI到底会进化成什么呢？没有人可以预估到。但是可以确信的是，AI将会走向更加强大，到时候将会惠及到更多的人，帮助人类解决更加复杂困难的东西。
2024-01-11 10:37:54
1247
1
原创 小白教学！几个步骤入门AI动画视频制作
当然，上面的步骤本质上是简单利用目前比较火的文本视频生成软件做的。可以尝试来玩一下，但是要生成较长的视频和理解用户的意思，还存在一定的难度。但是相信不久的将来一定可以不断发展和完善，进一步提升视频制作的效率，使得人人都能够做出自己的视频出来。好了，以上就是本期的所有内容了，我是leo，我们下期再见~
2023-12-10 16:28:26
283
原创 起猛了！自动驾驶可以聊天了
一直以来，深度学习模型对于研究者来说是一种“黑盒”模型，我们一般很难分析模型的到底学习到了什么东西，只知道它能够应用于特定的领域。对比于自动驾驶领域来看，一个黑盒状态的模型，是很难让人放心去使用的，这是因为如果汽车出现事故后往往难以解释，且排查难度较大。因此，在自动驾驶中获得一个能够让人解释清楚的模型尤为重要。这不，创业公司Wayve使用了LLM模型，构造出了LINGO-1模型，这是一种能够解释汽车动作的工具。它结合了视觉、语言和动作，在汽车形势过程中给出接下来的驾驶决策行为。
2023-11-27 22:51:06
145
原创 20s上手！文本生成3D模型
硅谷初创公司Luma AI发布了一款名为Genie的Discord机器人，用于生成文本到3D内容，为游戏开发、虚拟制作和艺术创作带来变革。用户只需输入文本指令，Genie即可在20秒内生成四个简单的3D模型，并支持进一步改进以获得更高分辨率和准确结果。当然，我们可以直接选择建立自己的子区，这样可以在输入的时候可以直观的看到自己生成的结果。生成的模型共有四个，可以点击下面的按钮去到官网精修。加入成功后，可以点击官方的频道，然后查看别人生成的3D模型。在官网中，可以修改模型的颜色、背景等等。
2023-11-24 09:55:59
171
原创 GPTS全网刷屏！定制增长速度指数增长
其实我们可以看到，目前GPTS的创建门槛较低，可能导致数量爆炸式增长，但真正沉淀出的常用GPT还需要一定的时间来积累。最终淘汰过后会剩下几个常用的GPTS，会像移动互联网一样头部集中。GPT创建门槛低，导致数量爆炸式增长。GPT提供了任何人长尾需求满足的可能，且数据和特征可以打通。GPT Store有可能打造出一个超级应用。创业公司在AI应用落地方面具有优势，如三方公司的RAG控制效果、产品UI等。真正沉淀出的常用GPT会头部集中，如移动互联网应用。
2023-11-16 21:43:10
187
原创 AI也可以玩精灵宝可梦了！
相信很多人童年都玩过《宝可梦》游戏，在这个游戏里面，我们会扮演玩家一路闯关，打赢8个道馆并挑战四大天王，最后获得冠军的梦想。游戏的主要玩法就是收服宝可梦，然后一路对战升级。小时候总使幻想着宝可梦能够根据对手，来进行自主战斗。这不，有国外玩家在宝可梦游戏中花费5年训练AI。并且AI在游戏中玩了两万多局游戏在一开始的时候，这个AI只能够乱按各种按钮，并且不懂得如何捕捉宝可梦和进行有效的对战。在经历了5年的时间，这个AI能够知道如何捕捉宝可梦，并且让他们进化，然后击败道馆馆长。
2023-10-30 10:27:43
89
原创 ChatGPT终于接上视觉能力！
谷歌的多模态模型Gemini一直在宣传造势，说是能够超越GPT-4模型，并且算力是其的5倍。但是谷歌一直雷声大雨点小，这不OpenAI直接放出王炸产品GPT-4V，真正的把视觉和语音等多模态融入到ChatGPT中。OpenAI说最快两周就可以用到多模态的ChatGPT，期望能够再一次巅峰人们的想象，真正的提升普通人的工作效率。本期的内容就到这里了，我是leo，我们下期再见~。
2023-10-20 11:37:33
91
原创 ChatGPT背后的模型
InstructGPT语言模型，是一个比 GPT-3 更善于遵循用户意图，同时使用通过我们的对齐研究开发的技术使它们更真实、毒性更小。InstructGPT 模型循环迭代的过程当中，加入了人类反馈进行训练。比如下面的例子：几句话向6岁的孩子解析登月可以看到，GPT-3模型的回答需要分开多个句子进行解析，这样的回答并不像人类。而InstructGPT模型的回答，在逻辑和语义通顺上，更加偏向于人类的回答。实际上，GPT-3 模型未接受过遵循用户说明的训练。
2023-01-02 16:51:25
12735
13
原创 国内外的免费AI作图工具
这个模型，是基于stable diffusion模型上进行修改的，在合适的描述本文下，能实现较为出彩的画面。通过在百度云平台上进行生成，不消耗本地资源，生成的图片保存在服务器上，不占用我们自己电脑的空间。它的生成速度在1分钟内，但是在细节的落实上还是没有这么完善。在现阶段，可已白嫖很多好看的图片，同时通过每天的签到，也能够免费生成图片。可以在右侧栏中，设置像素大小和生成数量，同时可调节的参数也比较多，使得图片的细节更加完善。雾气弥漫的森林，中世纪风格霍比特人村庄，阳光，原始丛林，瀑布，溪流，桥梁。
2022-11-16 10:25:08
7293
原创 一句话生成长视频
前段时间，我曾经介绍过Imagen Video模型。它能够在输入一句话中，生成5~6秒的视频。而且由于采用了“空间高分辨率模型”和“时域高分辨率模型”的级联模型，它能够清晰度在1280×768的高清视频。虽然Imagen Video模型，能够生成高清晰度的短视频，但是仅仅只有5秒左右的时间，因此实际的用处并不到。为了克服这个缺点，谷歌也进一步发布了Phenaki模型。
2022-11-04 11:12:05
1768
原创 短视频模型Imagen Video：艺术和3D建模大师
看到Imagen这个字眼，那不是前阵子很火的文本图像生成圈的一个模型吗？这不，谷歌在10月份基于这个模型的基础上，发布了能够生成短视频的Imagen Video，是基于文本条件生成视频的模型。给定相应的文本提示，在基于“视频生成模型”和“交错时空视频流超分辨率模型”，Imagen Video能够生成高清晰度的视频。在论文中，主要描述了如何构建一个高清晰度的文本视频生成模型。比如，在特定分辨率下，如何选择完全卷积时域和空间超分辨率模型，以及如何选择扩散模型中的参数。
2022-10-22 16:13:45
2031
1
原创 任务执行模型ACT-1，你的贴心小管家
*ACT-1是一个大型的Transfromer模型，它能够在浏览器上执行相应的动作。**比如在Chrome浏览器上，类似于插件的形式，观察网页内容同时执行正确的动作：像点击，输入，滑动等。目前ACT-1模型还有很多不足的地方，因此创作团队还是希望它能够不断学习，争取做更多复杂的任务。它也能够执行更加复杂的任务和操作：例如可以完成在Salesforce上需要10+的点击动作的任务。不仅仅在单独软件上进行操作，ACT-1也能够协作多个不同的软件，执行给定的任务指令。值得一提的是，该团队的负责人，就是。
2022-10-01 10:56:42
790
原创 拥有1750亿参数的聊天机器人BlenderBot3
最近Meta已经放出了BlenderBot3聊天机器人测试页面，但仅限于美国本土进行测试和交互：一经发布，能多网友就开始和这个最强机器人进行聊天，诞生了啼笑皆非的对话。比如这个网友，询问对扎克伯格的看法。而该机器人不喜欢他，并认为“”还有的网友发现，BB3也在努力：BlenderBot3聊天机器人拥有亿参数量级。在构建的过程当中，它能够讨论任务的话题，并且在实际环境中与真实人类进行交互。这在以前的研究中是难以做到的，这是因为以前的聊天机器人只能在公开数据集上进行训练。
2022-09-23 17:34:16
2429
原创 你这个视频背景太假了？
最近相信大家都被一个二创梗刷爆短视频：“你这背景太假了！”。视频中是一位主播“疆域阿力木”在直播时，被网友质疑背景太假，因此他发布了自证清白的视频。真的不是假背景但这个视频发布后，再次被网友“二次创作”。由于其搞笑的体质被网友抠出来做到各种视频中，从此引发相关话题也冲上热搜。网友把他P到上天入地，无所不能。比如：上月球P到《猫和老鼠》里：因此，网友一直以为该小伙是在一块绿幕背景中进行直播。说到视频背景太假，让我想到了之前看到过的一个替换背景的AI算法。
2022-09-10 18:57:18
3140
原创 一个AI玩遍多个游戏
前面我曾经介绍过很多在游戏圈比较出名的AI智能体。这些AI智能体往往能在MOBA类游戏和即时战略游戏中超越专业选手，例如腾讯在王者荣耀训练出来的“”：DeepMind在星际争霸中训练出来的“”：这其中，OpenAI利用玩家视频来学习，训练出超大的预训练模型，这个AI智能体能够在开放自由世界中进行探索：但是上面所介绍的AI智能体，往往仅能使用在在某个单独的游戏。因此为了让一个AI智能体能够学会游玩多个游戏，谷歌提出了一个新的**决策Transformer模型。......
2022-08-28 10:52:59
1315
原创 自动代码Copilot背后的模型
整体来说，Codex本质上就是使用了GPT-3模型作为预训练模型，然后进行微调。同时也人工定义了164个编程问题，作为评估数据集。同时还提出了新的评估指标pass@kpass@kpass@k，并论证了BLUE指标对代码生成的局限性。从数据层面上，因为采集了Github上的代码，因此可能会存在潜在的代码作者的追究专利的问题。我是leo，欢迎关注我的公众号“算法一只狗”，我们下期再见~...
2022-08-27 21:09:45
1202
原创 NLP范式新变化：Prompt
最近，NLP上又开发出了一种新的范式Prompt。它通过定义模板来提醒下游任务模型学习的特定目标，在更少的更新参数场景下达到了和fine-tuning方法一样的效果。简单的来说，不同于fine-tuning方法，prompt范式需要给出一个定义好的模板，这个模板可以是离散的或者是连续的，来提醒模型在预训练的时候学习的知识。这是因为预训练的任务和下游任务往往差别较大，模型可能会存在特定性遗忘。为了使用这些模型执行预测任务，使用未填充的文本字符串promptx′x'x′，将原始输入xxx。...
2022-08-02 10:29:22
546
转载 游戏外挂怎么做？
外挂，原指一切用来破坏游戏程序正常游戏数据和逻辑的工具或破解版。比如可以修改游戏内存数据的修改器，又比如可以修改网络数据包的抓包工具。这类外挂或多或少会影响游戏的内存数据、文件数据、网络数据，甚至代码逻辑。但随着外挂市场的发展，外挂衍生出其它恶意变种。这类外挂不会影响游戏数据和逻辑，例如脱机挂、模拟器和脚本精灵。脱机挂是外挂作者逆向游戏协议后独立开发的非法客户端，能让玩家节约很多时间多开刷游戏；模拟器能让玩家在PC上玩移动游戏，在FPS等游戏上能获得更好的操作环境，从而帮助玩家变相碾压对手；...
2022-07-24 13:07:57
31349
13
原创 构建你的第一个强化学习AI智能体（微信“跳一跳”）
最近在学习一些关于强化学习的知识。当然仅仅学习理论知识还是不够的，还是需要从实际案例上进行出发，利用强化学习搭建自己的AI智能体。一般来说，强化学习第一个案例都是用“cartpole”，也即是在一个平衡木上保持木杆不下落：但是这个案例一般离我们生活比较远，因此本入门案例使用了微信“跳一跳”作为强化学习的目标。在本案例中，大体框架如下：首先简要介绍一下强化学习和DDPG算法的一些背景知识。强化学习不同于传统的有监督学习，它本身没有有标签数据进行学习，只能通过不断的试错，来提升自己。在试错的过程中，就需要不
2022-07-13 20:37:30
1439
原创 让AI玩《我的世界》
我们都知道，《我的世界》（MC）是一款沙盒开放世界游戏，玩家可以根据自己的想象，建造出完全属于自己的世界。它着重于让玩家探索，并可以与环境物品进行交互，使得玩家在游戏中有极大的自由度和开放度。在以往的例子中，AI能在MOBA类游戏和即时战略游戏中超越专业选手，例如腾讯在王者荣耀训练出来的“绝悟AI”：DeepMind在星际争霸中训练出来的“AlphaStar”：一般来说，游戏的自由度越高，让AI学习人类知识并自由探索越难。因此OpenAI利用《我的世界》的玩家视频来学习，训练出超大的预训练模型VPT。
2022-07-04 11:23:33
1395
原创 工作摸鱼秘籍
这篇文章主要教你在工作的时候，“正确摸鱼”的小妙招，主要工具是我们很常用到的编辑器“vscode”。在vscode中，很多开发者制作了专门用来摸鱼的插件，可以让我们偷偷避过老板们的耳目。这款插件能够让你在开发之余放松身心，享受到童年的乐趣。通过边玩游戏边写代码，提升我们的开发效率。里面的游戏都是我们小时候耳熟能详的：马里奥、坦克大战、魂斗罗。如果能够再出一个双人联机模式，你就可以一起和同事比赛谁更早毕业了。这款插件可以实时查询到股票和基金的数据。同时还支持A 股、港股、美股的查看，为广大“韭菜”们提
2022-06-28 09:55:14
2501
1
原创 PowerToys：让你的windows电脑高级起来
PowerToys如果你在日常工作中，需要频繁切换窗口，同时对快速搜索有要求，可以实时这款微软出品的PowerToysMicrosoft PowerToys 是一组实用工具，可帮助高级用户调整和简化其 Windows 体验，从而提高工作效率。安装登陆网站：https://docs.microsoft.com/zh-cn/windows/powertoys/点击安装按钮：始终置顶功能使用快捷键：win + ctrl + t，可以对当前窗口进行置顶操作高效布局窗口使用 PowerTo
2022-04-30 18:57:45
1315
原创 程序员必备：头发去除魔法
说起程序员我们这个群体，除了给人的印象是春夏秋冬穿格子衫之外，就只剩下那后移的发际线成为办公室中那一道道靓丽的风景线：每每在学习的时候，都感到从头开始的冷。一个稀疏的发型，往往是资深工程师的象征：所以说，头发越疏，责任越大。这不，浙江大学和腾讯游戏智能图形创新技术联合实验室联合发表了帮程序员们一部到位秃发得更彻底的算法。论文《HairMapper: Removing Hair from Portraits Using GANs》由于头发和面部之间存在复杂的遮挡情况。论文中主要利用Styl
2022-04-16 14:45:41
4498
原创 王者绝悟AI论文
1. 《Supervised learning achieves human-level performance in MOBA games: A case study of honor of kings》这是一篇腾讯AI lab发表的文章，其主要利用MOBA游戏王者荣耀的数据进行强化学习，训练出一个能够打败人类顶尖选手的AI。同时在文章中，提出了在游戏中的两个概念：Macro-strategy（宏观策略）、Micro management（微观控制）。1.1 论文简介我们知道，在MOBA游戏中，
2022-04-10 18:26:55
5218
原创 多模态逆天图片生成，OpenAI又一力作：DALL·E 2
文章目录1.DALL . E 2：集艺术之大成2. 技术细节2.1 CLIP2.2 DALL.E 2具体方法3.后续1.DALL . E 2：集艺术之大成还记得2021年刷爆AI圈的DALL·E，它是基于文本token来生成超现实主义的图像，比如下面的牛油果形状的椅子。最近，OpenAI基于其1.0版本进行了升级，发布了DALL·E 2。该版本除了可以像1.0版本一样，从自然语言的描述中创建逼真的图像和艺术，还可以：对现有生成的图片进行二次创作：添加和删除元素的阴影,反射,和纹理。根据现有图片
2022-04-08 23:02:07
3171
原创 代码自动生成：Github Copilot
2021年，Github和OpenAI合作，基于GPT-3模型推出了可以代码自动编码的插件：github copilot。1.安装在vscode软件中，找到github copilot进行安装：因为目前copilot还是在测试阶段，需要进行测试人员申请才能够真正使用：https://copilot.github.com/2.代码生成例子自动生成在python代码自动生成中，只需要输入"函数名称" + “英文描述”，copilot就可以根据对应的英文描述，给出代码建议：如果对上面的代码不满意
2022-04-05 15:57:10
6187
原创 Dota2预测英雄死亡
今天要阅读的论文《Time to Die: Death Prediction in Dota 2 usingDeep Learning》。论文中能够预测10个英雄中，在下5秒窗口下死亡概率。1.背景目前MOBA类游戏风靡全球，同时这种竞技类游戏的比赛也越来越受广大观众的喜爱。但是试图预测MOBA类游戏中的比赛发生情况，目前还是很少有类似论文。然而，主播和观众一般会对游戏内微观事件有着天然的的兴趣。假设电子竞技中有一种技术能够为他们提供观察兴趣点的能力，那么他们将不会错过这种时间点。但是电子竞技游戏非
2022-04-03 21:55:46
3209
原创 optuna在深度学习上自动调参
文章目录1.背景2.安装3.在tensorflow上使用directionsampler4.实例4.1 定义模型、训练过程Trainertrain_stepval_steptrain4.2 objective函数定义params4.3 启动optunastorge5.图形化显示1.背景最近在烦恼怎么对深度学习进行调参，发现在optuna上可以实现。optuna可以和主流的机器学习框架进行融合，然后进行调参。同时调参后，还有查看结果对比的功能。2.安装直接使用pip进行安装:pip install
2022-03-03 19:19:02
3863
原创 GAN模型调参
文章目录1.软标签和noise标签2.调整交叉训练3.修改损失函数3.1 WGAN3.2 WGAN-GP4.考虑数据标签任务（分类任务）5.梯度查看GAN在提出之后，一直很火。但是其存在诸多的难点，首先难以平衡G（生成器）和D（判别器）之间的训练，同时容易造成模型坍塌。因此在训练GAN时会很难。1.软标签和noise标签这一点在训练判别器时极为重要。使用硬标签（非 1 即 0）几乎会在早期就摧毁所有的学习进程，导致判别器的损失迅速趋近于 0。可以采用一个 0-0.1 之间的随机数来代表「标签 0」（真
2022-02-17 10:49:35
4061
6
原创 强化学习在推荐系统中的环境模拟器构建
1.背景在推荐系统中，使用强化学习方法有几个不足的地方：1）要使用用户实时数据进行奖励反馈，来训练强化学习模型。其中最有效的办法是把模型直接部署到线上，然后进行A/B test来产生真实数据。但是，这个过程往往需要较长的周期，同时如果要部署模型到线上，需要耗费巨大的工程，这一步针对算法工程师来说是不太友好的。2）如果推荐模型在部署线上前没有训练好，这会导致线上实时数据效果差，从而也会导致在强化学习阶段训练不好。3）推荐系统领域中，用户数量和商品数据数目较大，因此需要大量的数据来保证模型的鲁棒性。尽管
2021-12-27 17:52:26
1146
原创 【芭芭农场】简单快速自动操作手机：Hamibot
1.背景自动化操作手机的脚本开发软件有挺多的，包括按键精灵，触摸精灵，Autojs等软件。最近因为想开发一个能够自动刷芭芭农场的脚本，对比了多个免费的软件，最后选定Hamibot进行开发。基于Hamibot软件开发优点：代码开发简单：已经集成了多种控件的函数操作，使用JS语言，几行代码就可以实现自动化操作手机；手机调试简单：不需要利用USB连接电脑，在开发的时候，可以自己在网页上调试，手机查看调试结果；手机软件操作简单且免费：可以开发免费的脚本，同时也可以在脚本市场安装脚本文件。2.Ham
2021-11-28 15:17:21
10210
7
原创 翻译：Unsupervised Neural Machine Translation for Low-Resource Domains via Meta-Learning
文章目录1. 背景2.引言3.翻译模型中：无监督学习方法4.模型5.实验结果参考文章1. 背景论文主要在无监督翻译任务上使用Meta-learning，在学习多个任务时，使得模型能够获取到通用的参数特征。Meta-learning在高资源的数据领域上进行学习，从而能够提升模型在低资源数据领域的表现。Meta-learning的具体算法可以参考我之前写的文章：从代码上解析Meta-learning2.引言以前的无监督翻译模型，在低资源的数据集上表现不好。因此这些模型往往会先在高资源数据集上进行学习
2021-10-22 15:49:28
251
原创 从代码上解析Meta-learning
文章目录1.背景2.Meta-learning理解2.1 Meta-learning到底做什么2.2 MAML算法2.3 MAML算法步骤2.4 MAML代码分析和实现3.参考文章1.背景meta-learning区别于pretraining，它主要通过多个task来学习不同任务之间的内在联系，通俗点说，也即是通过多个任务来学习共同的参数。举个例子，人类在进行分类的时候，由于见过太多东西了，且已经学过太多东西的分类了。那么我们可能只需每个物体一张照片，就可以对物体做到很多的区分了，那么人是怎么根据少量
2021-10-21 16:53:08
1379
3
原创 翻译：SmFace: Pre-training Encoder and Decoder with a Semantic Interface for Neural Machine Translation
1.背景这篇文章是北航和亚洲微软研究院共同发表的。目前主流的NLP任务，都需要先预训练模型，例如Bert和ALBert。本文章也主要集中在机器翻译（NMT）上的预训练任务。本文指出，以前的预训练任务，并没有训练encoder和decoder之间的cross-attention，这会导致在fine-tuning阶段并没有巨大的提升。针对预训练任务上，cross-attention的训练，本文提出了两个语义交互（semantic interface）方法：CL-SemFace：使用交互语言embedd
2021-10-13 17:53:56
247
原创 翻译模型：小数据集处理
1.背景最近在研究翻译模型中，小数据集的问题，看了几篇有代表性的文章，因此分享一下。总所周知，一个成功的翻译模型，需要大量的语料，让模型能够有效学习到两个语种之间的内在联系。但针对小数据集的翻译模型，除了数据集过少导致模型不能够提取重要特征之外，还使得模型在效果降低，不能成熟应用到工业界中。前人的这个小数据集的问题，包括了以下几种方法：迁移学习对偶学习Meta-Learning（元学习）多任务学习下文，分别介绍几种方法中的代表性论文。2....
2021-10-07 15:43:10
377
原创 小米发布会机器狗CyberDog「铁蛋」正式亮相
8月10日是小米的新品发布会，雷军除了协新的MIX 4亮相之外，还发布了小米的第一款机器狗CyberDog，中文名叫**“铁蛋”**。之所以取这么大众的名字，原因是因为小米内部希望它比较命硬，能够使得这个项目成功。1 .正式亮相在发布会上，雷军演示以下几个场景：1.随着音乐跳舞：2.与观众打招呼：这里有个有趣的地方在于，它能够自动识别观众的位置，然后站立起来打招呼。3.帅帅的后空翻最后，雷军在演示中伸手摸它的狗头，它会自己主动低下头来让人抚摸；在演示完之后，这只狗主动跟着雷军往舞台中央
2021-08-12 23:04:30
1861
2
原创 从苏炳添的学术论文中，看看如何写论文
1.前言东京奥运会开始了一段时间了，截止到2021年8月3日，中国在金牌榜上的排名稳居第一。而就在前几天，我国短跑名将苏炳添在半决赛以9秒83的成绩刷新亚洲纪录。共发了6篇文章；按时间脉络：（1）2021-06：挑战极限 逐梦东京：人家在一边参加奥运一边发论文，而你却为了水论文而（2）2020-07：运动行为志研究:短跑技术实践叙事——苏炳添与程志理的训练学对话录（3）2019-11：优秀短跑运动员苏炳添的技术优化训练研究（4）2019-06：我必须追上去（5）2019-02：新时代中国男子
2021-08-09 10:09:47
935
原创 tensorflow 2.0减少内存占用：稀疏矩阵输入
文章目录1.背景2.稀疏矩阵输入构造3.稀疏数据模型训练3.1 利用tensorflow中的tf.SparseTensor3.2 模型的测试的代码1.背景最近在做模型训练，发现在导入大量数据时，由于要进行预处理（concat和reshape操作等），导致内存会占满，使得程序出错。由于输入数据存在大量的稀疏情况，想着能不能输入数据时利用稀疏矩阵进行保存，然后输入到模型中进行训练。2.稀疏矩阵输入构造python中scipy.sparse模块，能够有效的对输入数据进行稀疏化存储。但缺点在于稀疏矩阵必定只
2021-06-13 11:18:17
6759
原创 transformers在ctr中的应用
文章目录1.背景2.相关论文解析2.1 《AutoInt: Automatic Feature Interaction Learning via Self-Attentive Neural Networks》2.1.1 论文贡献2.1.2 模型结构2.1.2.1 输入2.1.2.2 注意力机制层2.1.3 实验结果2.2 《Behavior Sequence Transformer for E-commerce Recommendation in Alibaba》1.背景目前Transformers及其
2021-01-13 14:49:07
779
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人