深度学习
深度学习算法推导,使用基础框架手动实现代码
xuesuoziluoshu
攀援的井蛙
展开
-
《深度学习》推导与代码实现(六):信息论
p = np.linspace(1e-6, 1-1e-6, 100) entropy = (p - 1) * np.log(1 - p) - p * np.log(p) plt.figure(figsize=(4,4)) plt.plot(p, entropy) plt.xlabel('p') plt.ylabel('Shannon entropy om nats') plt.show() import math def H(sentence): """ 最优编码长度 """..原创 2020-09-17 22:43:29 · 120 阅读 · 0 评论 -
《深度学习》推导与代码实现(五):概率
import numpy as np import matplotlib.pyplot as plt x = np.linspace(-10, 10, 100) sigmoid = 1 / (1 + np.exp(-x)) softplus = np.log(1 + np.exp(x)) fig, axes = plt.subplots(1, 2, figsize=(10, 3)) axes[0].plot(x, sigmoid, label='sigmoid') axes[1].plot(x, sof.原创 2020-09-17 22:37:10 · 159 阅读 · 0 评论 -
《深度学习》推导与代码实现(四):概率
import numpy as np import matplotlib.pyplot as plt from scipy.stats import uniform %matplotlib inline # 生成样本 fig, ax = plt.subplots(1,1) r = uniform.rvs(loc=0, scale=1, size=1000) ax.hist(r, density=True, histtype='stepfilled', alpha=0.5) # 均匀分布 pdf x =.原创 2020-09-16 23:21:07 · 278 阅读 · 0 评论 -
深度学习必备数学知识速查
数学基础知识 在入门深度学习目标检测领域之前,先需要补点数学知识,因为无论是深度学习还是机器学习,背后都是有一些数学原理和公式推导的,所以掌握必备的数学知识必不可少。 数据科学需要一定的数学基础,但仅仅做应用的话,如果时间不多,不用学太深,了解基本公式即可,遇到问题再查吧。 下面是常见的一些数学基础概念,建议大家收藏后再仔细阅读,遇到不懂的概念可以直接在这里查~ 高等数学 1.导数定义: 导数和微分的概念 f′(x0)=limΔx→0 f(x0+Δx)−f(x0)Δxf'({{x}_{0}})=\unde原创 2020-09-15 23:36:36 · 665 阅读 · 1 评论 -
《深度学习》推导与代码实现(三):线性代数
1.10 PCA (主成分分析) 以鸢尾花 iris 数据为例,展示 PCA 的使用。 手动实现 PCA import pandas as pd import numpy as np from sklearn.datasets import load_iris import matplotlib.pyplot as plt from sklearn.preprocessing import StandardScaler %matplotlib inline # 载入数据 iris = load_原创 2020-09-15 23:26:24 · 209 阅读 · 0 评论 -
《深度学习》推导与代码实现(二):线性代数
1.5 单位矩阵 np.identity(3) ''' array([[1., 0., 0.], [0., 1., 0.], [0., 0., 1.]]) ''' 1.6 矩阵的逆 A = [[1.0,2.0],[3.0,4.0]] A_inv = np.linalg.inv(A) print("A 的逆矩阵: ", A_inv) ''' A 的逆矩阵: [[-2. 1. ] [ 1.5 -0.5]] ''' 1.7 范数 a = np.array([1.原创 2020-09-15 00:56:48 · 194 阅读 · 0 评论 -
《深度学习》推导与代码实现(一):线性代数
1.1 标量,向量,矩阵,张量 import numpy as np # 标量 s = 5 # 向量 v = np.array([1,2]) # 矩阵 m = np.array([[1,2], [3,4]]) # 张量 t = np.array([ [[1,2,3],[4,5,6],[7,8,9]], [[11,12,13],[14,15,16],[17,18,19]], [[21,22,23],[24,25,26],[27,28,29]], ]) print("标量:" + s原创 2020-09-13 23:33:18 · 881 阅读 · 0 评论