liubai01-CSDN博客

原创案例学习/教程02- 基于cvxopt实现hard-margin SVM binary classifier

这是我的博客理论推导埋下的坑。目的是使用CVXOPT去实现一个硬边界的支持向量机分类器。在这片博文中将会包括一些核心代码。所有代码整理成Jupyter notebook，发布在我的github上。Jupyter Notebook教程中最后分类器实现效果的可视化１　什么是硬边界SVM?简单来说，在二维情况下，就是对于线性可分的一些点（包含正例和负例），找一条线能将他们分开。同时，能保证...

2018-09-10 20:51:06 2383 4

原创 Self-Quiz：帧同步和状态同步是什么？[腾讯光子面试题]

今天看到来自于牛客网的一个问题：https://www.nowcoder.com/discuss/569983Q:对帧同步和状态同步进行介绍A: 状态同步的逻辑在服务端，客户端仅作渲染。客户端的操作反馈到客户端，服务器更新状态，再传回客户端。帧同步的逻辑在客户端，服务端负责向所有客户端广播动作。客户端的操作本地即时计算结果。优劣分析：对比项状态同步帧同步安全性较为安全，计算在服务端，攻击成本大。较不安全，本地修改数值即可完成作弊。性能压力.

2020-11-30 16:49:11 446

原创可靠的运输层协议，如何抵抗“剪网线”的降维打击？(rdt协议的的总结与思考）

前言很久没更新长文了。最近在阅读James F. Kurose和Keith Ross的《计算机网络：自顶而下方法（第6版）》第3章运输层。题外话：Keith Ross还是Courant隔壁“对家”Tandon的院长。看简历，似乎与上海纽约大学也有联系。Keith Ross is the Dean of Engineering and Computer Science at NYU Shanghai and the Leonard J. Shustek Chair Professor of Co

2020-11-20 13:21:13 428 4

原创 Self-Quiz：TCP协议中，SendBase和LastByteRcvd之间的关系是什么？

本问题来自于《计算机网络：自顶而下方法（第5版）》第三章P34。Q:3.5.4节中的变量SendBase和LastByteRcvd之间有什么关系？首先，我们要了解这两个变量分别在哪里和是什么SendBase在发送端，代表最早未收到确认（Ack）的字节。 LastByteRcvd在接收端，代表最后一个收到的字节。因为有Ack可能在返回信道中，暂未被发送端收到。所以LastByteRcvd应该比SendBase来的大。假设所有发送的Ack均已收到，由于SendBase-1为最后一个收到确认的

2020-11-13 13:02:27 1009

原创 Self-Quiz：Rdt/TCP协议中，为什么要引入序号？

本问题来自于《计算机网络：自顶而下方法（第5版）》第三章复习题R9。Q：在我们的rdt协议中，为什么需要引入序号？首先给出rdt语境下的定义：序号（sequence number）是数据分组中的一种字段。接收方通过检查序号，知道收到的分组是否是一次重传（之前已收到过这个分组）。起因：网络层是不可靠的，通过引入序号实现重传，提供端到端的可靠传输。...

2020-11-08 16:43:03 2972

原创计算机网络自顶向下方法笔记第二章

2 应用层2.1 应用层协议原理网络体系结构1.客户-服务器体系结构（client-server architecture)：有一个总是打开的主机被称为服务器，它服务于来自许多其他称为客户的主机的请求。服务器具有固定的IP地址。在给定一对进程之间的通话场景中，发起通信（即在该对话开始时发起对其他进程联系）的进程被标识为客户，在对话开始时等待联系的是服务器。2.P2P体系结构（P2...

2019-03-12 22:15:16 484

原创计算机网络自顶向下方法笔记第一章

前言这系列博客是个新坑。开坑的动机是：学个CS，不学计算机网络就如同咸鱼一般。笔记的目的简单来说：以后快速回顾一些名词更加方便可能的中英文对照（由于是自己学习，也终于不用再面对如山高的英文）粗略浏览下来，计算机网络这门学科是偏向文科为主的学科，有纷繁复杂的规则和概念——这需要耐下性子去学。好在学OS的经历也磨练出了我学这些内容的一些心性。宗旨就是：涉猎为主，记些概念和术语，能复述（做...

2019-02-09 17:46:56 1948 1

原创操作系统 ShanghaiTech CS130 | Virtual Memory

ShanghaiTech CS130 | Lecture Note | Virtual Memory说明：笔记旨在整理我校CS130课程的基本概念。由于授课及考试语言为英文，故用英文为主，中文为辅的方式整理。由于是整理，仅提供最低限度的解释，以便提供简洁快速的查阅。全部笔记索引：【传送门】 | 上一节： Main Memory | 下一节： Storage Management目录...

2018-12-28 16:30:21 825

原创 Shanghaitech CS181人工智能笔记索引

这个笔记初衷是做我校CS181期末Cheatsheet的参考文档。期末整理完所有的cheatsheet实在是太头秃了..于是有了这个系列Coursebench评价传送门Topic11 - 隐式马尔科夫模型HMM - Lecture Note for CS188(暨CS181 ShanghaiTech)Topic12 - 马尔科夫决策过程MDP - Lecture Note for CS...

2018-12-23 16:57:33 1143

原创自然语言处理NLP Lecture Note for CS181 ShanghaiTech

说明：笔记旨在整理我校CS181课程的基本概念。由于授课及考试语言为英文，故英文出没可能。1 Formal grammers0.syntax: knowledge of the structural relationships between words1.constituents: groups of words within sentences can be shown to ac...

2018-12-23 16:49:03 351

原创操作系统 CS130 笔记索引

前言这个笔记初衷是做我校CS130期末Cheatsheet的参考文档。期末整理完所有的cheatsheet实在是太头秃了，并且这PPT可读性不忍直视，需要查资料补充一些内容。所以有了这个系列..Coursebench传送门笔记目录列表 Topic-8-SchedulingTopic-9-Main-MemoryTopic-10-Virtual-MemoryTopic-11-Stora...

2018-12-10 01:20:45 465

原创操作系统 ShanghaiTech CS130 | Storage Management

ShanghaiTech CS130 | Lecture Note | Storage Management说明：笔记旨在整理我校CS130课程的基本概念。由于授课及考试语言为英文，故用英文为主，中文为辅的方式整理。由于是整理，尽提供最低限度的解释，以便提供简洁快速的查阅。全部笔记索引：【传送门】 | 上一节： Virtual Memory | 下一节：么有了目录Shanghai...

2018-12-08 22:49:41 817 4

原创操作系统 ShanghaiTech CS130 | Main memory

ShanghaiTech CS130 | Lecture Note 02 | Main memoryTopic: memory management algoirhtms, paging, segmentationKeyword: paging, fragmentation, swapping, sharing, protection说明：笔记旨在整理我校CS130课程的基本概念。由于...

2018-11-29 20:58:33 1099

原创强化学习RL- Lecture Note for CS188(暨CS181 ShanghaiTech)

说明：笔记旨在整理我校CS181课程的基本概念(PPT借用了Berkeley CS188)。由于授课及考试语言为英文，故英文出没可能。1 Reinforcement Learning1.1 Online settingDef Online MDP: partially observed markov decision process, with unknown transition a...

2018-11-27 19:50:58 2413

原创马尔科夫决策过程MDP - Lecture Note for CS188(暨CS181 ShanghaiTech)

说明：笔记旨在整理我校CS181课程的基本概念(PPT借用了Berkeley CS188)。由于授课及考试语言为英文，故英文出没可能。目录 1 Markov Decision Processes mechanics1.1 Markov Decision definitions1.2 Markov 涵义1.3 最优策略optimal policy1.4 MDP搜索树 M...

2018-11-24 14:46:30 987

原创操作系统 ShanghaiTech CS130 | Scheduling

2018-11-22 14:21:36 876

原创隐式马尔科夫模型HMM - Lecture Note for CS188(暨CS181 ShanghaiTech)

说明：笔记旨在整理我校CS181课程的基本概念(PPT借用了Berkeley CS188)。由于授课及考试语言为英文，故英文出没可能。目录 1 Markov Models(aka Markov chain/process)2 Hidden Markov Models3 Inference tasks4 Dynamic Bayes Nets5 Particle Filte...

2018-11-18 23:40:34 804

原创 NP问题和NP-completeness Lecture Note 01 - ShanghaiTech CS140

ShanghaiTech CS140 | Lecture Note 01Topic: NP and NP-completenessKeyword: P, NP, NP-completeness, reduction说明：笔记旨在整理我校CS130课程的基本概念。由于授课及考试语言为英文，故用英文为主，中文为辅的方式整理。由于是整理，尽提供最低限度的解释，以便提供简洁快速的查阅。1 ...

2018-11-16 21:13:55 564

原创 Leetcode4答案与解析 - Median of Two Sorted Arrays(python)

原题Leetcode原题传送门There are two sorted arrays nums1 and nums2 of size m and n respectively.Find the median of the two sorted arrays. The overall run time complexity should be O(log (m+n)).You may...

2018-10-14 22:30:39 420

原创 Leetcode841答案与解析 - Keys and Rooms(cpp)

原题Leetcode原题传送门There are N rooms and you start in room 0. Each room has a distinct number in 0, 1, 2, ..., N-1, and each room may have some keys to access the next room. Formally, each room i h...

2018-09-23 19:48:03 309

原创 Leetcode23答案与解析 - Merge k Sorted Lists(cpp)

原题Leetcode原题传送门Merge k sorted linked lists and return it as one sorted list. Analyze and describe its complexity.Example:Input:[ 1->4->5, 1->3->4, 2->6]Output: 1->1...

2018-09-20 16:40:57 165

原创 Learning from data 练习3.2

导言本篇博文介绍Learning from data一书中Exercise3.2的答案题目题意梗概: 采样100个训练样本，1000个测试样本。随机选一条直线作为target function生成label。将中间十分之一的样本的标签反转，来构筑一个不线性可分的样本。用pocket版本的PLA算法进行分类，记录训练过程中in-sample error和out-of-sample...

2018-09-17 18:37:26 534 4

原创 Leetcode264答案与解析 - Ugly Number II

原题Leetcode原题传送门Write a program to find the n-th ugly number.Ugly numbers are positive numbers whose prime factors only include 2, 3, 5. Example:Input: n = 10Output: 12Explanation: 1, 2, 3,...

2018-09-16 17:10:04 1440

原创 Learning from data 练习8.6(a)

导言本篇博文介绍Learning from data一书，e-Chapter8支持向量机的Exercise 8.6(a)的编程答案。可视化结果题目题目和Example8.4有关，在此顺带截取题意梗概：而且根据之前的论述，SVM分类的数据结果是更加鲁棒(robust)的，就是说Eout应该更小。让你做一个实验，根据特定分布采样20个点。首先解出linear hard-m...

2018-09-11 22:20:43 617

原创机器学习概念记忆卡片01-基于Learning from data一书

前言最近学习了Cousera上Dr. Barbara Oakley和Dr. Terrence Sejnowski关于学习方法论指导的课程（涉及浅显认知神经科学的知识）的文章。发现小学时候这种知识卡片的学习方式，其实是Interleaving的一种体现。可以有效地记住知识。机器学习一些不等式感觉是有记忆的必要的。即使记不住具体的项，记住参与的变量和关系也是大有裨益。于是做了这个记忆卡片。记忆...

2018-09-06 21:36:11 540

原创机器学习推导合集03-机器学习领域矩阵求导的理解和实战

1 引言我写的博客很多都是想在一些容易被劝退的地方分享一些体悟。在这之中有一个比较基本的关卡：矩阵求导。当你在面对LR(logistic regression）和最小二乘问题求梯度的时候，你会想：“这里的公式为啥是这样？”。回答你的，可能是参考书目背后零星公式的整理。若你想上网查阅，却发现鱼龙混杂（最近随着机器学习的热门情况有所好转）。我认为主要原因是：矩阵求导还没有一个统一的定义。WIKI有...

2018-09-01 21:17:40 1348

原创案例学习/教程01- 基于手动设计特征和SVM的手写数字分类

由于深度学习算法表现十分优秀，很多初学者往往跳过经典算法的学习，直接成为了深度学习的调参师。该教程旨在体验手动设计特征识别手写数字，为机器学习入门学习的同学提供有趣的案例研究。教程采用Jupyter的交互式环境。前置学习要求安装有Jupyter Notebok, Sci-kit learn, Numpy的python3环境（一站式解决方案：Anaconda）对机器学习与SVM有大致...

2018-08-27 21:38:41 587

原创机器学习推导合集02-SVM简明入门1-硬边界SVM的建模过程

1 前序第一次遇到SVM，是在写爬虫作验证码的识别。做完预处理将数字弄成特征向量后，发现SVM能将其正确分类，从此对ML感兴趣。我第一步就想自己将sklearn实现的东西自己去写一遍，体会其中的精妙。结果过了一年半，即将步入本三，才敢说自己对机器学习，支持向量机有了浅显的认知。基于SVM的验证码识别当时在翻阅网上SVM的教程，发现到处充满了优化的痕迹：KKT, Slater强对偶条件...

2018-08-24 15:22:36 13562

原创机器学习推导合集01-霍夫丁不等式的推导 Hoeffding Inequality

1.0 引言笔者第一次接触霍夫丁不等式（Hoeffding Inequality）是在林轩田先生的机器学习基石课程（还是在b站上看的hh）上。可以说，当时没有系统学过概率论与数理统计（probability and statistics）的我，对于不等式的推导是感到相当头疼。后来，我本科课程优化与机器学习课程引用了伦斯勒理工学院（RPI）的slide。乍看之下，发现竟与林轩田先生的课十分相似。...

2018-04-17 00:18:32 23738 9

liubai01的博客