harpbreeze的博客

JAVA算法【1】--折半查找

从最初的感动开始--JAVA算法【2】--归并和快排

红黑树细节颇多，这里我可能没法子全部展开。红黑数和普通二叉查找树的重大性能改进在于，它可以保持任何空节点至根节点的黑链数量一致。换句话说，在进行查找树种的任何元素时，总能在o(lgN)时间复杂度内完成，且与元素插入或删除操作的顺序无关。二叉查找树的主要限制问题，在于树结构会随着插入次序改变而改变，如果树结构偏向一边而不平衡，查找效率将急剧下降。红黑数在当前分布式大规模集群的环境中依然有其用武之地，从

直观来说,牛顿法因为使用了二阶导信息,比单纯的一阶导数的梯度下降法,其发现极值点回收敛得更快。 我个人的理解，梯度下降考虑了函数值下降最快的方向（梯度方向）。而在有些情况下，按这样的规则改变自变量取值，可能会走弯路。 其根本原因在于，梯度下降法，能够保证函数值在改点处的变化最快方向，但不能保证梯度本身向着最快变化方向变动。 大家经常见到的示意图长这样： 绿色的是梯度下降法，而红