- 博客(28)
- 收藏
- 关注
RSS订阅原创 机器学习 损失函数 Loss function
损失函数最小二乘法极大似然估计法交叉熵在梯度下降中，所求的梯度其实就是损失函数的梯度。损失函数有三种设计方法：（1）最小二乘法（2）极大似然估计法（3）交叉熵法什么是损失函数呢？其实就是我们想的模型标准和现实模型相比较，相差多少的定量表达。那么损失函数如何设计出来的呢？背后的含义是什么？最小二乘法公式：举例存在一个神经网络，用于判断输入的图片是否是猫。首先我们先输入一些带标签的训练数据，xi就是输入数据的标签(xi表示第i张是否是猫，1是猫，0不是猫)这些图片在经过神经网络后
2022-05-02 18:41:16
3078
原创 机器学习笔记 Classification 分类
Classification 分类分类问题的应用能否用Regression去解决Classification？分类问题的应用输入一只宝可梦，输出他对应的属性分类如何把宝可梦当作input输入呢？我们需要将宝可梦数值化。用一个vector矢量去表示一只宝可梦，vector可以包括HP血量、Attack攻击力、Defence防御力、Speed速度等。所以接下来的问题就是输入一个vector，输出对应的属性值。能否用Regression去解决Classification？以某一个二分类问题作为例子
2022-05-01 22:45:24
1792
原创 协方差矩阵
首先先了解方差与协方差：协方差：（1）针对一维样本集合时(yi=xi)，求出的协方差其实就是方差，既方差是协方差的一种特殊情况。协方差意义和方差一样，都是反应集合中各元素离散程度。（2）针对二维样本集合时，求出的协方差反映的就是两个维度之间的相关性(正相关、负相关或无关)（3）针对三维样本集合时，求出的结果是各个维度总体相关性，针对各个维度之间的关系，所以二维以上计算协方差，用的就是协方差矩阵求协方差矩阵例子：学生各科成绩之间的影响关系，比如：是否数学好，英语就不太好学生各科成绩如下图：
2022-05-01 14:21:05
2466
原创 《概率论与数理统计》
概率论与数理统计引言一、随机试验与随机事件二、样本空间与事件的集合表示三、事件间的关系四、引言确定性(必然)现象：一定发生随机(偶然)现象：可能发生统计规律：做大量重复实验，试图找出某种规律一、随机试验与随机事件随机实验 E ：（1）在相同的条件下可重复（2）实验结果不止一个（3）无法预测出现什么结果事件：实验的结果随机事件：可能发生的实验结果基本事件：相对于实验目的不能(不必)再分【投掷硬币只需观察正反，不观察落地的坐标】复合事件：由基本事件复合【例子:骰子小
2022-05-01 13:32:45
953
原创 Python学习笔记(上)
Python``Day one``print()函数的使用转义字符与原字符二进制与字符编码Day oneprint()函数的使用一、 可以输出哪些内容？可以是数字可以是字符串可以是含有运算符的表达式#输出数字print(520)#输出字符串print('helloworld')#输出含运算符的表达式(输出结果：4)print(3+1)二、可以将输出内容输出的目的地显示器文件#将文件输出到文件fp=open('D:/text.txt','a+')#a+:打开一个文
2022-04-15 16:43:44
430
原创 机器学习笔记 Gradient Descent--递归下降
Gradient DscentReview在第三步，我们得通过调整参数θ去使损失函数达的结果达到最小，既找到评分最高的function的参数θ。我们通过η学习率(调整的幅度)和偏导(调整的方向)去调整参数θ。调整的过程就是Gradient Dscent在θ处的Gradient为：【梯度代表上升最快的方向，所以我们要减去梯度，既往下降最快的方向走】进一步把方程写成：Learning Rate的影响下图左图，（1）当Learning Rate设置的很小时，Loss下降的速度会很慢；（
2022-04-06 20:17:41
2714
原创 机器学习 Basic Concept--error产生的原因
Basic Concept在进行预测时会产生error，但是error是怎么产生的呢？（1）bias：有可能是偏置导致的 。(距离靶心有多远)（2）variance：方差，有可能是Loss Function导致的(在靶心的分散程度)蓝点：在训练集中抽取N个数据，训练出一个函数f*，既一个点代表某一分采样数据训练后的的function。对每个训练出来的**f***取平均值，得到“平均函数”。**f***距离“平均函数”的距离代表了variance，距离靶心(最佳函数)的距离就是bias。我们对数据
2022-04-05 15:55:38
1302
原创 机器学习笔记-Regression-回归问题
机器学习笔记第一节课Regression-回归问题第一节课一、机器学习就是自动寻找函式输入一段音频，通过函式输出相应的句子。输入一张图片，通过函式输出相应的图片名词。二、Supervised Learing(监督学习)在找函数前先给一些正确的数据集(带标注的数据集)，通过数据集找到一个函数三、Reinforcement Learning(强化学习)不要求预先给定任何数据，通过接收环境对动作的反馈获得学习信息并更新模型参数四、Unsupervised Learning(无监督学习)在找函
2022-04-04 22:31:14
1090
原创 数据库概论
数据库第一章 绪论第二章 关系数据库第一章 绪论一、数据：数据库中存储的基本对象，描述事物的符号记录。数据库(DB)：长期储存在计算机内、有组织、可共享的大量数据。【基本特征：永久存储、有组织、可共享】数据库管理系统(DBMS)：执行数据库管理任务所需的软件。【功能：数据定义功能，数据组织、存储和管理，数据操作功能，数据库的事物管理和运行管理，数据库的建立和维护功能 】数据库系统：由数据库、数据库管理系统、应用系统、数据库管理员构成。5. 三个阶段：人工管理阶段：数据不保存
2022-03-24 08:40:54
1071
原创 编译原理笔记(哈工大视频总结)
编译原理笔记--哈工大教学视频第一章 绪论一、什么是编译二、编译系统的结构三、词法分析概述四、语法分析概述五、语义分析概述六、中 间 代 码 生 成 及编 译 器 后 端 概 述
4
原创 自顶向下计算机网络学习 第二章 应用层
应用层一、应用层协议原理1.网络应用的体系结构1.1 客户-服务器(C/S) 体系结构1.2 对等体(P2P)体系结构1.3 混合体：客户 - 服务器和对等体系结构2.应用进程间的通信2.1 分布式进程需要解决的问题2.1.1 进程标示和寻址问题2.1.2 传输层 - 应用层提供服务是如何2.1.3 传输层提供的服务 - 需要穿过层间的信息2.1.4 传输层提供的服务 - 层间信息的代表一、应用层协议原理1.网络应用的体系结构1.1 客户-服务器(C/S) 体系结构我们平时在百度上搜索知识，我们的
2022-02-26 18:35:13
2614
2
原创 自顶向下计算机网络学习---第一章（2）---协议层次
网络的层次结构一、 为什么要层次化二、服务与协议1、概念2、 区别与联系三、 Internet协议栈(五层参考模型)信息传输过程(封装与解封装)一、 为什么要层次化【另一种实现方式：模块化】1、 层次化将一个复杂的问题分成多个子问题。将网络复杂的功能分成一个个能明确的层次，分层实现一组功能。2、 各层方便更新。改变某一层服务的实现不影响系统中的其他层次二、服务与协议1、概念1、 每一层实现了其中一个或一组功能，功能中其上层可以使用的功能：服务【下层为上层提供服务】2、协议是对等层实体
2022-02-25 19:57:29
1726
原创 自顶向下计算机网络学习---第一章（1）
计算机网络和因特网1.1 什么是因特网1.1.1 什么是协议1.2 网络结构1.2.2 网络的网络1.1 什么是因特网世界范围的计算机网络：(具体构成)结点：主机结点、数据交换结点(路由、交换机、中继器)边：链路(骨干链路、接入链路)协议端系统(主机) 通过通信链路和分组交换机连接到一起从服务角度认识互联网：分布式应用为分布式应用提供服务的基础性设施(应用层以下)1.1.1 什么是协议协议定义了在两个或多个通信实体之间(对等通信实体)交换的报文式和次序 ，以及在报文
2022-01-11 17:58:42
941
原创 数据结构-第六章 图
图图的基本概念图的定义图的基本概念图的定义图G由顶点集V和边集E构成。|V|：顶点个数，也称图的阶线性表可以是空表，树可以是空树，但图不可以是空，(V一定是非空集,E可以为空)有向图有向边(弧)：顶点的有序对。<v,w> 弧尾：v；弧头：w。<v, w> ≠ <w, v><v,w> ：从v到w的弧 / v邻接到w无向图无向边(边)：无序对：(v,w)或(w,v)(v, w) = (w, v)(v,w)：w
2021-09-28 16:03:52
775
原创 数据结构学习--第五章
树与二叉树树的基本概念基本术语树的性质二叉树二叉树的定义及其主要特征几个特殊的二叉树满二叉树完全二叉树二叉排序数平衡二叉树二叉树的性质二叉树的存储结构顺序存储链式存储树的基本概念树是一种逻辑结构基本术语祖先：根A到结点K的唯一路径上的任意结点。(K的祖先：A、B、E)子孙：若B是K的祖先，则K为B的子孙。(B的子孙：E、F、K、L)双亲：路径上最接近K的结点。(K的双亲:E根节点A无双亲)孩子：E为K的双亲，K为E的孩子。(E的孩子：K、L)兄弟：结点K和结点L有相同的双亲E，既K和L
2021-09-17 18:15:52
458
原创 数据结构--第四章
串串的顺序存储定长顺序存储堆分配存储表示串的链式存储(块链存储)串基本操作的实现串的模式匹配朴素模式匹配算法KMP算法用next数组匹配求next数组(手算)定义：串：由零个或多个字符组成的有限序列。空串：∅ 长度为0子串：串中任意多个连续的字符组成的子序列(空串也是字符字串)主串：包含子串的串位置：某字符在串中的序号(从一开始)子串在主串中的位置： 子串的第一个字符在主串中的位置字符在主串中的位置： 字符在串中的序号串的逻辑结构和线性表极为类似，数据元素之间呈现线性关系。串的顺
2021-09-16 20:14:46
586
原创 数据结构学习--第3章(2)
特殊矩阵的压缩存储数组与线性表的关系数组的存储结构一维数组**A[0……n-1]**二维数组按行优先：先行后列按列优先：先列后行矩阵的压缩存储数组与线性表的关系数组是线性表的推广。一维数组可以视为一个线性表；二维数组也可以视为其元素定长的线性表。数组一旦定义，其维数和维界(下标取值范围)就不可再改变。数组的存储结构一维数组A[0……n-1]LOC(ai)=LOC(a0)+i*L (0 ≤ i＜n)→<下标默认从0开始>LOC(ai)=LOC(a1)+(i-1)*L (1 ≤ i
2021-09-14 20:27:26
418
原创 数据结构学习--第3章(1)
栈和队列一、栈栈的顺序存储结构栈的存储类型描述顺序栈的基本运算初始化判栈空进栈一、栈定义：只允许在一端进行插入或删除的操作的线性表。操作受限的线性表栈的操作特性：后进先出(LIFO)栈的数学性质：n个元素进栈，出栈元素不同排列组合的个数： 1/(n+1) * C2nn栈的顺序存储结构采用顺序存储的栈称为顺序栈。利用一组地址连续的存储单元存放栈底到栈顶的数据元素，同时附设一个 指针(top) 指示栈顶元素位置。栈的存储类型描述与顺序表类似#define MaxSize 50
2021-09-12 19:32:52
233
原创 数据结构学习--第2章
线性表一、线性表的定义二、线性表的顺序表示静态分配与动态分配插入操作删除操作查找按位查找按位查找线性表的链式表示单链表节点类型描述（带头结点）建立头插法（单链表的逆置）(带头结点) 尾插法一、线性表的定义线性表是具有相同数据类型的n（n>=0）个数据元素的有限序列。相同：各数据元素所占空间一样大。有序序列：有先后次序线性表和顺序表、链表关系：线性表：是一种逻辑结构，表示元素之间一对一相邻的关系。顺序表、链表：是指存储结构。位序与数组下标的区别：位序：从1开始数据下标：从0开始
2021-09-11 18:08:47
801
原创 JAVA数据结构基础--排序
冒泡算法 public static void bubbleSort(int arr[]){ int n = arr.length; for(int i = 0;i<n;i++) { for(int j=n-1;j>i;j--) { if(arr[j-1]>arr[j]) { int temp = arr[j]; arr[j] = arr[j-1]; arr[j-1] = temp; } } } }思想核心：
2020-09-15 22:53:40
92
原创 JAVA数据结构--最短路径问题
JAVA数据结构–最短路径问题邻接矩阵图Dijkstra算法：松弛概念最短路径思想：多次松弛操作 public void Dijkstra(String name) { int v = findByName(name); dist = new int[numOfVertex];//存储最短距离数组 pre = new int[numOfVertex];//前驱顶点数组 for (int i = 0; i < numOfVertex; i++) { //初始化
2020-09-09 22:42:00
928
原创 JAVA数据结构--图的遍历
JAVA数据结构–图的遍历深度优先遍历从这图上看，可以看出DSF是一个递归的方法。邻接矩阵图DFS完整代码： public int getFirstNeibor(String name) {//获取第一个邻接顶点，参数为顶点名字 int index = findByName(name);//获取顶点名称对应的下标 for (int i = 0; i < numOfVertex; i++) {//在邻接矩阵顶点对应的列寻找第一条可通的边 if (Edge[index][i]
2020-09-08 19:04:47
265
原创 JAVA数据结构基础--图的两种创建方式
JAVA数据结构基础–图的两种创建方式图的邻接矩阵表示如图示一个有向图转为矩阵表示的例子（矩阵中空格表示无穷大，即无路径到达）。矩阵的行表示起始点，列表示终止点。对角线元素表示自己到自己，全为0。图左侧的权值（道路长度）为1的路径，由1出发，指向0。在矩阵中表示为Edge[1][0]=1；表示1到0路径长度为1以下我分析的是无向图的矩阵表示代码，若改成有向图，改动插入边的函数即可。完整代码import java.util.LinkedList;import java.util.Que
2020-09-07 09:31:46
938
2
原创 JAVA数据结构基础--二叉树
JAVA数据结构基础–二叉树定义：是指树中节点的度不大于2的有序树，它是一种最简单且最重要的树。二叉树的递归定义为：二叉树是一棵空树，或者是一棵由一个根节点和两棵互不相交的，分别称作根的左子树和右子树组成的非空树；左子树和右子树又同样都是二叉树二叉树特类型：1：满二叉树：只有度为0的结点和度为2的结点，并且度为0的结点在同一层上的二叉树。2：完全二叉树：深度为k，有n个结点的二叉树当且仅当其每一个结点都与深度为k，有n个结点的满二叉树中编号从1到n的结点一一对应时二叉树完
2020-09-02 15:50:29
211
原创 Java数据结构基础--循环队列与链队列
Java数据结构基础–循环队列与链队列队列定义：队列是一种特殊的线性表，特殊之处在于它只允许在表的前端（front）进行删除操作，而在表的后端（rear）进行插入操作，和栈一样，队列是一种操作受限制的线性表。进行插入操作的端称为队尾，进行删除操作的端称为队头。循环队列（基于数组）完整代码：public class Queue { private int rear,front;//队首，队尾指针 private Object element[];//存储数组 private int
2020-08-06 16:25:50
405
原创 Java数据结构基础--顺序栈与链式栈
Java数据结构基础–顺序栈与链式栈栈的定义：是一种运算受限的线性表。限定仅在表尾进行插入和删除操作的线性表。这一端被称为栈顶，相对地，把另一端称为栈底。栈的操作：向一个栈插入新元素又称作进栈、入栈或压栈，它是把新元素放到栈顶元素的上面，使之成为新的栈顶元素；从一个栈删除元素又称作出栈或退栈，它是把栈顶元素删除掉，使其相邻的元素成为新的栈顶元素。栈的特点：先进后出，即先入栈的最后操作，后入栈的最先操作。顺序栈（基于数组）：完整代码：public class Stack {
2020-08-03 17:01:49
478
原创 Java数据结构基础--单链表
Java数据结构基础–单链表单链表定义：（1）单链表是一种链式存取的数据结构，用一组地址任意的存储单元存放线性表中的数据元素。（1）链表中的数据是以结点来表示的，每个结点的构成：元素(数据元素的映象) + 指针(指示后继元素存储位置)，（3）元素就是存储数据的存储单元，指针就是连接每个结点的地址数据。实现：public class Node { Object data;//元素 private Node next;//指针 }定义结点类 NodeObject dat
2020-07-19 15:29:06
234
原创 Java数据结构基础--顺序表的实现
java顺序表1.定义：把线性表中的所有表项按照其逻辑顺序依次存储到从计算机存储中指定存储位置开始的一块连续的存储空间中。2.实现：（1）基于java的一维数组来实现。只要定义了一个数组，就定义了一块可供用户使用的存储空间。数组的数据类型就是顺序表中的每个表项的数据类型。（2）数组的大小要大于等于顺序表的长度。（3）顺序表的第一个表项被存储在数组的起始位置，即下标为0的位置。第二个表项被存储在下标为1的位置上…第n个元素被存储在下表为n的位置上3. 完整代码：package s
2020-07-09 16:55:41
437
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人