- 博客(11)
- 收藏
- 关注
RSS订阅原创 联邦学习论文阅读：Asynchronous Federated Optimization
这是UIUC的一篇刚刚挂在arXiv上的文章：Asynchronous Federated Optimization。我对边缘计算和异步算法不太了解，直观的理解是作为一个user，我上传的梯度参数是延迟的，也就是说central server当前已经更新过这次的梯度了，并且已经开始计算下一次甚至下下次的global gradient了，那么我这次的参数实际上是混在其他用户下一次更新的数据中的。...
2019-05-30 16:17:01
4249
原创 深度学习笔记 简单神经网络反向传播的推导
最近手推了一下神经网络梯度更新中的参数偏导，做一个笔记。模型我们考虑一个非常简单的神经网络，输入embedding后只通过一个全连接层，然后就softmax输出预测值Created with Raphaël 2.2.0Input X: 1xnEmbedding Layer Z1 = WX: 1xNActivation Layer (Relu) Z2 = relu(Z1): 1xNFully ...
2019-05-23 16:17:16
299
原创 推荐模型评价指标 AUC
推荐中常用的模型评价指标有准确率，召回率，F1-score和AUC。1. 什么是AUCAUC指标是一个[0,1]之间的实数，代表如果随机挑选一个正样本和一个负样本，分类算法将这个正样本排在负样本前面的概率。值越大，表示分类算法更有可能将正样本排在前面，也即算法准确性越好。2. AUC的计算方法绘制ROC曲线，ROC曲线下面的面积就是AUC的值假设总共有（m+n）个样本，其中正样本有m个...
2019-05-22 14:50:07
3692
原创 tensorflow笔记 tf.metrics.accuracy
tf.metrics.accuracy用于计算模型输出的准确率tf.metrics.accuracy( labels, predictions, weights=None, metrics_collections=None, updates_collections=None, name=None)return accuracy, update...
2019-05-17 14:37:40
1565
2
原创 python笔记 shuffle和permutation
函数shuffle与permutation都可以打乱数组元素顺序，区别在shuffle直接在原来的数组上进行操作，而permutation不直接在原来的数组上进行操作，会返回一个新的打乱顺序的数组。import numpy as npa = np.arange(4)print('a:', a)b = np.random.shuffle(a)print('a:',a)print('b:...
2019-05-16 14:53:30
532
原创 python笔记 list和array
python中的list和array是常用两种数据类型。list中的数据类不必相同的，而array中的类型必须全部相同。list中保存的是数据存放的地址，也就是指针。import numpy as npimport pandas as pda = [1,2,3]b = np.array([1,2,3])c = pd.DataFrame(a)d = pd.DataFrame(b)pri...
2019-05-16 14:47:24
250
原创 tensorflow笔记 协调器tf.train.Coordinator
原理TensorFlow中有两个函数管理Session中的多线程：Coordinator和 QueueRunner。同一个Session中可以创建多个线程，但所有线程必须能被同步终止，异常必须能被正确捕获并报告。当会话终止的时候， 队列必须能被正确地关闭。Coordinator用来管理在Session中的多个线程，可以用来同时停止多个工作线程，同时报告异常，当程序捕捉到这个异常后之后就会终止...
2019-05-14 20:09:45
549
原创 tensorflow笔记 string_input_producer, slice_input_producer
tensorflow将读取数据分为了两个步骤，先读入文件名队列，再读入内存队列进行运算。为了减少GPU的等待时间，提高计算速度，tensorflow使用两个线程来分别处理这两个步骤。tf有三个函数string_input_producer, slice_input_producer, input_producer用于建立文件名队列。函数参数如下所示，除了tensor list是必须外，其余都可以...
2019-05-14 17:40:22
1531
原创 jupyternotebook 撤销删除操作
方法一先按esc进入命令模式，即左侧线为蓝色（为绿色时是编辑模式），按z键即可恢复方法二如果是运行过的代码直接运行history
2019-05-09 17:48:16
46614
4
原创 tensorflow笔记 tfrecord创建及读取
之前很少仔细看tf的一些基础api，只要能跑通就过了，最近打算花时间把部分基础api整理一下，方便以后使用。简介tfrecord是tensorflow训练模型时比较常用的处理大量数据的格式。简单来说，一种二进制数据储存格式，比一次性读取csv或jpg数据要更快，且占用更小的内存。生成tfrecord文件考虑一个简单的分类问题数据集，feature是一个1x5的向量，label取值为0或1...
2019-05-09 17:12:54
320
原创 数据处理 笔记
数据处理笔记import pandas as pd#读取数据data = pd.read_csv(path, header=0) #head=0表示第一行取为列名，head=-1表示列名为空#改列名data.columns = ['column1', 'column2', 'column3']#取多列data_12 = data[['column1', 'column2']]...
2019-05-05 10:16:10
191
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人