- 博客(11)
- 资源 (6)
- 收藏
- 关注
RSS订阅原创 PyTorch1.0 教程 例子和书籍
PyTorch1.0-Zero-To-Allpytorch-handbookLearning PyTorch with Examples（官方中文）1. Deep Learning with PyTorch: a 60-minute blitz （1.x）https://pytorch.org/tutorials/beginner/deep_learning_6...
2019-04-30 16:17:00
1765
原创 [深度学习] 分布式Tensorflow 2.0 介绍（二）
[深度学习] 分布式模式介绍（一）[深度学习] 分布式Tensorflow 2.0介绍（二）[深度学习] 分布式Pytorch 1.0介绍（三）[深度学习] 分布式Horovod介绍（四）一 单GPU训练 vs 多GPU训练单GPU训练 一般代码比较简单，并且能满足我们的基本需求，通常做法是设定变量CUDA_VISIBLE_DEVICES的值为某一块GPU来Mask我们机...
2019-04-26 14:45:00
13501
1
原创 [深度学习] 分布式Horovod介绍（四）
[深度学习] 分布式模式介绍（一）[深度学习] 分布式Tensorflow介绍（二）[深度学习] 分布式Pytorch 1.0介绍（三）[深度学习] 分布式Horovod介绍（四）实际应用中，单机多卡的同步式数据并行是最常用的，在论文中最常见的训练方式是单机八卡. 数据再多一般就需要多机多卡.无论是单机多卡，还是多机多卡，均是分布式训练，在horovod出现之前，使用te...
2019-04-26 14:30:09
17892
2
原创 [深度学习] PyTorch-BigGraph 使用
有效处理大规模图对于促进人工智能的研究和应用至关重要，但特别是在工业应用中的图，包含数十亿个节点和数万亿个边，这超出了现有嵌入系统的能力。因此，Facebook 人工智能团队已经创建并正在开放源代码 PyTorch Biggraph（PBG）。PBG 是一个用于学习大规模图嵌入的分布式系统，特别适用于处理具有多达数十亿实体和数万亿条边的大型网络交互图。它在 2019 年的 SysML 会议...
2019-04-26 10:25:38
5637
2
原创 [深度学习] 分布式Pytorch介绍（三）
[深度学习] 分布式模式介绍（一）[深度学习] 分布式Tensorflow介绍（二）[深度学习] 分布式Pytorch 1.0介绍（三）[深度学习] 分布式Horovod介绍（四）Pytorch 分布式简介https://pytorch.org/docs/stable/distributed.htmltorch.distributed 包支持Pytorch 中通过...
2019-04-20 13:06:53
26140
4
原创 [机器学习] 超参数优化介绍
背景很多算法工程师戏谑自己是调参工程师，因为他们需要在繁杂的算法参数中找到最优的组合，往往在调参的过程中痛苦而漫长的度过一天。如果有一种方式可以帮助工程师找到最优的参数组合，那一定大有裨益，贝叶斯超参优化就是其中的一种。如果是单单罗列公式，可能会显得乏味，就用一些思考带上公式为大家分享。目前在研究Automated Machine Learning, 其中有一个子领域是实现网络超参数自动化...
2019-04-18 10:47:53
16566
2
原创 [kubernetes] 解决k8s.gcr.io Image 导入导出 等问题
k8s.gcr.io Pull失败安装新版本的Kubernetes过程中，需要从k8s.grc.io仓库中拉取所需镜像文件，但由于GFW导致无法正常拉取本文将介绍如何绕过此问题，来完成业务的部署。 [ERROR ImagePull]: failed to pull image k8s.gcr.io/kube-apiserver:v1.14.1 [ERROR ImageP...
2019-04-15 14:25:36
2782
原创 [机器学习] Boosting算法2 --- GBDT
[机器学习] Boosting算法1 --- AdaBoost[机器学习] Boosting算法2 --- GBDT[机器学习] Boosting算法3 --- XGBoost目录GBDT(Gradient Boosting Decision Tree) 梯度提升决策树算法1. DT：回归树 Regression Decision Tree2. GB：梯度迭代 Gra...
2019-04-13 14:13:26
4949
1
原创 [机器学习] Boosting算法3 --- XGBoost
[机器学习] Boosting算法1 --- AdaBoost[机器学习] Boosting算法2 --- GBDT[机器学习] Boosting算法3 --- XGBoost目录一 XGBoost是什么二 基础知识GBDT三 XGBoost目标函数四 XGBoost算法说明1. boosting tree模型2. 树的集成3. 学习第t棵树4....
2019-04-13 14:10:49
6002
转载 [机器学习] XGBoost参数调优完全指南（附Python代码）
1. 简介如果你的预测模型表现得有些不尽如人意，那就用XGBoost吧。XGBoost算法现在已经成为很多数据工程师的重要武器。它是一种十分精致的算法，可以处理各种不规则的数据。构造一个使用XGBoost的模型十分简单。但是，提高这个模型的表现就有些困难(至少我觉得十分纠结)。这个算法使用了好几个参数。所以为了提高模型的表现，参数的调整十分必要。在解决实际问题的时候，有些问题是很难回答...
2019-04-13 14:03:32
3584
1
原创 [LLM] Attention机制，一文搞懂从实例到原理
一 人类的视觉注意力扩展阅读：Attention and Augmented Recurrent Neural Networks【译文】不用看数学公式！图解谷歌神经机器翻译核心部分：注意力机制Attn: Illustrated AttentionDeep Reading | 从0到1再读注意力机制，此文必收藏！从注意力模型的命名方式看，很明显其借鉴了人类的注意力机制，因此，...
2019-04-08 11:02:28
2193
1
distributed-deep-learning-with-horovod.pdf
2020-06-29
Neural Networks and Deep Learning - 神经网络与深度学习 中英双版本
2017-12-13
数据结构的大量程序 相关面试题的源代码！
2009-12-15
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人