cyoushika_Nara的博客

原创 【从零开始的机器学习】-07 分类问题与逻辑回归

导语如我们在第二章中提到的，有监督学习主要分为回归问题和分类问题。之前的章节我们已经介绍过一元线性回归问题，多元线性回归问题，从本章开始我们将进入另一个方向——分类问题 (Classification)。1. 什么是分类问题？分类问题大致分为：二元分类和多元分类。二元分类就是判断”是或不是”的问题，比如判断一张图片里的动物是否为猫，判断一封邮件是否为垃圾邮件；而多元分类则是从多个选项中判断是哪一个，比如判断一张图片里的数字是几。2. 是否可以用线性回归来解决？3. 二元分类3.1 假设函数3.

原创 【Linux/Ubuntu操作系统学习笔记】-02 远程操作，用户权限

原创 【博弈论】海盗分金币

题目：有5个海盗，ABCDE，要分100枚硬币。分赃的方式比较奇怪：A先提出方案，B ~ E表决，如果同意的人不超过半数，则A会被杀掉。然后轮到B提方案，C ~ E表决，同样的，如果不超过半数，B也会被杀掉，C继续提方案，以此类推。问，最后的结果会是什么样？假设1：超良心的骑士们（不能交涉）假如几个海盗都很有骑士精神，很有良心，不计较那么多，那么A提出一个人20枚金币的方案，BCDE中3个人同意，通过，最终ABCDE各20枚金币假设2：超贪婪的海盗们（不能交涉）如果海盗们都是自私鬼，且彼此之间不能

原创 【从零开始的机器学习】-06 多元线性回归问题

导语1. 什么是多元线性回归问题？2. 多元线性回归模型表达式3. 多元线性回归模型与梯度下降法4. 特征缩放5. 如何对梯度下降法Debug？6. 正规方程求解最优参数7. 梯度下降法 vs 正规方程8. 多元多次多项式线性回归...

原创 【Linux/Ubuntu操作系统学习笔记】01-内核态，目录结构，常用终端命令

1. 内核态（内核版本）与用户态（发行版本）内核态（内核版本）是Linux的基础，本质上是一种软件，用来控制计算机的硬件自愿，并提供上层应用程序运行的环境，可以访问所有的内存和外围设备（如硬盘，网卡等）用户态（发行版本）是上层应用的活动空间，仅能受限地访问内存，并且不允许访问外围设备。用户态/发行版本可以有很多（Redhat，Ubuntu，CentOS等），但是内核态/内核版本始终只有一个（即Linux的内核）2. Linux的目录结构Windows上会对硬盘进行虚拟分区，分成C盘，D盘，E盘

原创 【从零开始的机器学习】-05 线性代数基础

导言在【从零开始的机器学习】-04 梯度下降法中，我们介绍了梯度下降法的原理，以及如何利用梯度下降法优化一个直线模型（自变量只有1个）的参数，但是在面对现实中的问题是，我们发现自变量往往不止1个，可能是几个或者十几个，甚至成百上千个。对于更为一般的多元线性回归问题，我们要怎么去处理呢？在回答这个问题之前，我们有必要复习一些线代的基础知识，方便我们之后实现多元线性回归问题的机器学习。1. 矩阵（Matrix）矩阵是由[]包围的包含数字的矩形，比如：A=[1234]A=\left[\begin{matr

原创 【从零开始的机器学习】-04 梯度下降法

前导在【从零开始的机器学习】-03 一元线性回归与代价函数中，我们讨论了，“如果有一些房屋的面积数据和对应的房价，如何去预测一个房屋的价格”这一问题，为了更清晰地观察房屋面积与房价的关系，我们将数据投放到散点图中（如下）。通过观察，我们发现房屋价格与房屋面积呈正相关（即，房屋面积越大，房价越贵）。之后，为了预测房屋价格，我们选择用直线来拟合训练数据。需要注意的是，选择用什么模型并不是固定的，不同的问题有不同的适合的模型，选择适合的模型，并将参数最优化是我们机器学习的工作之一。我们说，只有一个自变量x（

原创 【从零开始的机器学习】-03 一元线性回归与代价函数

1. 例子：假设我们有一些房屋的数据，然后想要通过这些数据来估计某栋房子的价格。如果我们决定只使用房屋的面积来预测，如何建立一个预测模型呢？假设我们的数据是：房屋面积 x（m2m^{2}m2）房价 y（万元）1307006532080392954807539012565445243904311055917342112851866281854009128162325为

原创 【从零开始的机器学习】-02 有监督学习及代价函数

如我们再上一章里讲的，机器学习分为两种：有监督学习（supervised learning）和无监督学习（unsupervised learning）。本章将介绍有监督学习以及它的评价标准： 代价函数（cost function）。1. 有监督学习朴素地讲，所谓有监督学习就是指“用来学习的资料都带答案，根据学习资料和答案，我们建立出一套“XX情况下的答案是OO”逻辑模型，之后去考试，看看面对资料之外的题我们答题的正确率有多高，再根据正确率对逻辑进行调整”的过程。有监督学习的具体流程如下： 我们将

原创 【从零开始的机器学习】-01 什么是“机器学习”？

背景对于大众而言，“机器学习”、“深度学习”、“神经网络”等词汇更多是从AlphaGo大战围棋高手之后开始进入人们的视野。但实际上，机器学习的历史已经很久了。上世纪1959年，Arthur Lee Samuel第一次提出了“机器学习”这一词汇，并实现了世界上第一个自我学习的程序，将机器学习的概念和人工智能最早的demo带给了世界。经过几十年的发展，如今人类的生活、工作、科研等方方面面，大到对宇宙的探索和数据分析，小到某个App给用户的定制推送，其背后都有机器学习、深度学习等方法实现的人工智能的身影。那么，

原创 【从零开始的动态规划02】——双串问题dp[i][j]，矩阵DP，无串线性DP

导语上一篇文章【从零开始的动态规划01】——单串问题dp[i]中，我们介绍了动态规划的定义，特征，和常见单串问题的总结。本篇我们将聚焦双串问题dp[i][j]。什么是双串问题？单串问题的输入为一个串，且每个子问题只与位置i有关（有时可能会添加一些指标k，变成dp[i][k]，但位置终究是i），而双串问题的输入为两个串，长度分别为m和n，子问题需要用i和j两个变量表示，分别代表第一个串和第二个串考虑的位置dp[i][j]:=第一串考虑[0…i]，第二串考虑[0…j]时原问题的解。拆解较大规模的子问题时

原创 【从零开始的动态规划01】——单串问题dp[i]

1. 什么是动态规划？动态规划并非一种特定的算法，而是一种思想，即将一个大问题划分成子问题，并以子问题的答案推导出原问题的解。应用动态规划前，需要对子问题与原问题的关系，以及子问题之间的关系进行分析。这两个方面分别对应了“最优子结构”和“重复子问题”。动态规划的代码长度通常都不长，而难点在于，没有统一的公式或方法来确定最优子结构和重复子问题，因此常常变成“能想出来状态转移方程就能通过，想不出来就一直卡壳”的状况。对于这一点，除了多看经典动态规划问题，多写状态转移方程积累经验外，似乎没有更好的办法…a)

原创 从零开始的深度优先搜索（DFS）

问题1： 什么是搜索？搜索，是一个动态的，收集信息，分析信息，保存信息的循环过程。在循环的过程中，我们根据已知的信息，对探索方向进行调整。根据选择探索方向的策略，我们将搜索大致划分为“广度优先搜索”（Breadth-First Search，简称BFS）和“深度优先搜索”（Depth-First Search，简称DFS），而本文主要介绍关于深度优先搜索（DFS）的相关知识和刷题总结。问题2：什么是深度优先搜索？深度优先搜索，是搜索的一种策略，我们从某一个位置出发，选定一个方向，不断地前进，深入探索，

原创 从零开始的广度优先搜索(BFS)

关于广度优先搜索（BFS）的介绍和代码实现

原创 从零开始的二叉树&堆（附模板）

树：一种有一个前驱节点，但是有多个后继节点链表结构，或者说是包含有限节点的层次关系的集合。a. 基本概念：节点的种类：根节点：一棵树只有一个，最重要，最初是的节点中间节点：非根节点，同时拥有前驱节点和后继节点的节点叶节点：只有前驱结点，没有后继节点的节点节点的关系：父子关系：如果两个节点直接相连，我们称更靠近根节点的节点为“父节点”，而称另一个节点为“子节点”兄弟关系：如果两个节点不直接相连，但是拥有相同的父节点，则称为“兄弟关系”祖孙关系：如果两个节点不直接相连，但一个节点是另

原创 快慢指针求环入口问题：

1. 是否存在环：在寻找环入口之前，我们需要先判断是否存在环。判断的方式有很多，经典的方法就是快慢指针。所谓快慢指针，就是用两个指针，一个每次只移动一步，一个每次移动两步，移动块的指针我们称之为快指针，类似“斥候”，用于探路。如果快指针到达了空节点，那么说明不存在环，如果快慢指针相遇，则必定存在环。2. 环入口：先说结论，当快慢指针相遇后，我们将快指针重置回head头节点（或者重新设立一个位于head的指针），与慢指针同速率移动，二者相遇的地方就是环入口。证明：将链表分段，从开头到环入口的

原创 从《零钱兑换》开始的《背包问题》

1. 零钱兑换Leetcode里有这样一个问题，LeetCode322. 零钱兑换：给你一个整数数组 coins ，表示不同面额的硬币；以及一个整数 amount ，表示总金额。计算并返回可以凑成总金额所需的最少的硬币个数。如果没有任何一种硬币组合能组成总金额，返回-1 。你可以认为每种硬币的数量是无限的。对于每一枚硬币，我们都有两种选择：选or不选。而对于amount而言，它并不关心我们选择硬币的顺序，只要x+y能都等于amount，我们先选x还是先选y是没有区别的。因...