2020年03月_WMXNLFD

原创从零开始的刷LeetCode生活第52期 576-600

class Solution {public: vector<vector<vector<int>>>f; int dx[4] = {-1, 0, 1, 0}, dy[4] = {0, 1, 0, -1}; int mod = 1e9 + 7; int findPaths(int m, int n, int N, int i...

2020-03-21 21:52:04 87

原创从零开始的刷LeetCode生活第51期 557-575

class Solution {public: string reverseWords(string s) { int front = 0, back = 0; for(int i = 0; i < s.size(); i ++) { if(s[i] != ' ') back ++; ...

2020-03-19 15:33:48 102

原创【ML&DL学习】21 rnn embedding lstm generate text

LSTM 长短期记忆网络Ct-1和一个东西做点积操作，然后和另外一个东西进行加法操作，这些操作都是向量。有两个输入，一个ht-1，一个xt，ht-1是LSTM保存的另外一个状态，都输入sigmoid函数，得到一个向量ft，他是一个门限向量，之后ft和ct-1做点积操作，（ft的含义就是遗忘门，看Ct-1中哪些信息需要保留）。同样H_t-1和X_t经过sigmoid操作得到门限向...

2020-03-18 11:40:56 207

原创【ML&DL学习】20 rnn embedding text generation

模型建立embedding_dim = 16batch_size = 512single_rnn_model = keras.models.Sequential([ # 1. define matrix: [vocab_size, embedding_dim] # 2. [1,2,3,4..], max_length * embedding_dim # 3. bat...

2020-03-18 11:40:39 192

原创【ML&DL学习】19 rnn embedding padding pooling

1

2020-03-16 21:18:06 282

原创【ML&DL学习】18 kaggle 10 monkeys model and resnet50 finetune

上传下载notebook运行第一行%matplotlib inlineimport matplotlib as mplimport matplotlib.pyplot as pltimport numpy as npimport osimport pandas as pdimport sklearnimport sysimport tensorflow as tf...

2020-03-16 21:17:23 204

原创从零开始的刷LeetCode生活第50期 538-556

/** * Definition for a binary tree node. * struct TreeNode { * int val; * TreeNode *left; * TreeNode *right; * TreeNode(int x) : val(x), left(NULL), right(NULL) {} * }; */cla...

2020-03-14 21:57:28 91

原创【ML&DL学习】17 tf keras separable cnn

深度可分离卷积深度可分离卷积是普通卷积操作的变种，可以替代不同卷积，从而构成卷积神经网络。对于一个普通卷积，首先进行3*3的卷积操作，在进行批归一化，在经过relu，形成一个完整的卷积层。对于深度可分离卷积，首先进行33的深度可分离卷积，在进行批归一化，然后relu，在经过11的卷积层，在进行批归一化，relu。视野域指的是输出单元是和多少个输入单元相关联，对于一个33的矩阵来说，输...

2020-03-13 19:53:24 191

原创【ML&DL学习】16 tf keras cnn selu

卷积神经网络全连接层在卷积层和池化层的后面，因为卷积层的输入和输出是一个多维的矩阵，而全连接层的输入和输出是一个多维的向量，所以在卷积层和全连接层的连接点上，需要做一个操作，就是把卷积的输出给展平，展平涉及维度信息，全连接层无法将维度信息给呈现出来，全连接层无法直接与卷积层做连接。什么是反卷积层？可以使数据维度变大，可以使得输入和输出一样大，当输入和输出一样大的时候，就可以去做物体分割（输...

2020-03-12 22:08:28 192

原创【ML&DL学习】15 tf1 dense network dataset

tf1.0hidden_units = [100, 100]class_num = 10# 存放数据x = tf.placeholder(tf.float32, [None, 28 * 28])y = tf.placeholder(tf.int64, [None])input_for_next_layer = xfor hidden_unit in hidden_units...

2020-03-12 22:08:00 99

原创【ML&DL学习】14 tf premade estimator

预定义estimator使用# 定义一个文件保存中间输出模型 output_dir = 'baseline_model'if not os.path.exists(output_dir): os.mkdir(output_dir)baseline_estimator = tf.estimator.BaselineClassifier( model_dir = output...

2020-03-11 21:33:11 106

原创【ML&DL学习】13 tf keras to estimator

tf.estimator使用train.csv文件一共628条样本测试集，一共265条样本# https://storage.googleapis.com/tf-datasets/titanic/train.csv# https://storage.googleapis.com/tf-datasets/titanic/eval.csvtrain_file = "./dat...

2020-03-11 21:32:44 222

原创从零开始的刷LeetCode生活第49期 521-537

class Solution {public: int findLUSlength(string a, string b) { if(a == b) return -1; return max(a.size(), b.size()); }};class Solution {public: int fin...

2020-03-10 21:57:43 91

原创【ML&DL学习】12 tf tfrecord basic api generate tfrecord

先把dataset转出tfrecord格式，再用tf.data进行读取，然后模型进行训练# tfrecord 文件格式# -> tf.train.Example# -> tf.train.Features -> {"key": tf.train.Feature}# -> tf.train.Feature -> tf.train.ByteLis...

2020-03-09 22:22:30 120

原创【ML&DL学习】11 tf data basic api generate csv

tf.data API使用tf.data 的作用是处理数据，读取数据，对数据做一些预处理，然后把数据塞给程序进行训练。Dataset 基础API使用Dataset读取csv文件（csv文件，用逗号分隔，按行存储的文件）Dataset读取tfrecord文件（tfrecord是TensorFlow独有存储格式，这种格式读取速度快）API列表读取文本文件和解析csv从内存中去构...

2020-03-09 22:22:14 116

原创从零开始的刷LeetCode生活第48期 516-520

class Solution {public: int longestPalindromeSubseq(string s) { int n = s.size(); vector<vector<int>>dp(n, vector<int>(n, 0)); for(int i = 0; i < n; ...

2020-03-08 23:39:34 89

原创【ML&DL学习】10 tf diffs and keras regression manu diffs

自定义求导def f(x): return 3. * x ** 2 + 2. * x - 1def approximate_derivative(f, x, eps=1e-3): #向左移动eps的值向右移动eps的值得到两个点这两个点的斜率就是在x点的导数近似 #eps 越小越逼近导数纵坐标差值 / 横坐标差值 return (f(x + eps) - f...

2020-03-08 20:36:52 178

原创【ML&DL学习】9 tf function and auto graph

tf.function把普通python语法写的函数或者代码变成TensorFlow里面的图auto-graph 是tf.function所依赖的一个机制，这种机制可以把python语法的东西变成TensorFlow里面的图# tf.function and auto-graph.# 输入缩放因子def scaled_elu(z, scale=1.0, alpha=1...

2020-03-08 20:36:24 172

原创【ML&DL学习】8 tf keras regression customized loss layers

自定义损失函数之前使用的损失函数def customized_mse(y_true, y_pred): return tf.reduce_mean(tf.square(y_pred - y_true))model = keras.models.Sequential([ keras.layers.Dense(30, activation='relu', ...

2020-03-07 10:20:19 227

原创【ML&DL学习】7 tf basic api

基础API常量# 定义常量定义二位矩阵并初始化t = tf.constant([[1., 2., 3.], [4., 5., 6.]])# indexprint(t)# 取出第二列以后的数据print(t[:, 1:])# 取出第二列的数据print(t[..., 1])# opsprint(t+10)# 平方操作print(tf.square(t))# 矩...

2020-03-06 22:06:57 161

原创【ML&DL学习】6 tf keras regression hp search sklearn

超参数搜索搜索策略：网格搜索随机搜索遗传算法搜索启发式搜索手动搜索 learning rate# learning_rate: [1e-4, 3e-4, 1e-3, 3e-3, 1e-2, 3e-2]# W = W + grad * learning_rate# 定义learning rate集合learning_rates = [1e-4, 3e-4, 1e-3...

2020-03-04 20:57:49 188

原创【ML&DL学习】5 tf keras regression wide deep subclass multiinput multioutput

Wide & Deep 模型分类求一个分布，回归求一个数值用向量表达出词与词之间的距离Wide模型只有一层，所有输入直接连接输出，输入是稀疏特征，也就是one-hot表达，one-hot表达每个分量直接连接在输出层上。Wide & Deep模型，左半部分是Wide模型，右半部分是一个Deep模型，Deep模型是一个有多层的一个神经网络，对一个输入的数据，先...

2020-03-03 23:34:21 171

原创【ML&DL学习】4 tf keras classification model dnn bn selu dropout

回忆一些神经网络的知识第一种归一化到 0-1之间第二种是上次用的未归一化是椭圆，归一化后是正圆，这样梯度下降，等高线是正圆，计算梯度没有那么曲折，训练速度加快。把一些节点随机失效弃用，变成一个子网络还有一个降低计算量定义一个深度神经网络# tf.keras.models.Sequential()model = keras.models.Sequential()# 把输...

2020-03-03 23:33:48 163

原创从零开始的刷LeetCode生活第47期 501-515