- 博客(5)
- 收藏
- 关注
RSS订阅原创 2021-09-06 python优化求解器gurobi学习笔记
这里写自定义目录标题Gurobi学习笔记下载地址学习记录Gurobi学习笔记近期做科研用到优化方法~奈何matlab优化求解器的精度无法达到要求，故准备转战python gurobi求解器下载地址官网下载工具包：www.gurobi.com中文官网学习资料：http://www.gurobi.cn/picexhview.asp?id=90安装过程略学习记录一、 python语法复习基础数据结构1）列表list1 = [‘physics’, ‘chemistry’, 1997, 2
2021-09-08 15:46:51
1107
原创 分布式机器学习笔记4
@分布式机器学习笔记分布式机器学习算法、理论与实践 学习笔记5 单机优化之随机算法由于数据规模增大，优化问题复杂度提高，确定性优化算法逐渐出现瓶颈→对样本进行随机采样获得对更新量的有效估计收敛性评价：对算法中的随机采样取期望基本随机优化算法1）随机梯度下降法思想：对训练数据进行随机采样，使用该样本损失函数代替所有样本损失函数平均特点：① 相当于使用有放回的随机采样来计算梯度，总体上用所有数据来计算梯度的无偏估计② 每次只用计算一个样本的梯度，计算量大大降低③ 对于不同性质的目标函数
2021-03-02 16:10:15
207
原创 分布式机器学习笔记3
@分布式机器学习笔记分布式机器学习算法、理论与实践 学习笔记续 前4 单机优化之确定性算法基本概述1）机器学习的优化框架正则化经验风险最小化：模型在训练数据上的平均损失函数值尽可能小；同时对模型复杂度进行惩罚2）优化算法的收敛速率分布式机器学习基本流程需要使用分布式机器学习的情形（实际情况三者混合）1）计算量太大：可采取基于共享内存的多线程或多机并行运算（计算并行）2）训练数据太多：对数据进行划分，分配到多个工作节点上进行训练；每个工作节点基于局部数据训练出子模型，按照一定规律与其他
2021-02-07 23:43:42
579
原创 分布式机器学习笔记2
@分布式机器学习笔记分布式机器学习算法、理论与实践 学习笔记续 前3 分布式机器学习框架大数据与大模型的挑战1）大数据：为训练大模型提供了物质基础，耗费大量计算资源和时间，对计算机软硬件提了更高的要求2）大模型：模型参数规模巨大，具有超强的表达能力；但也非常容易过拟合对计算能力和存储容量提出新要求：趋势是采用并行度更高的处理器（GPU）或者计算机集群（由GPU集群支持的云计算服务）完成训练任务、分布式存储分布式机器学习基本流程需要使用分布式机器学习的情形（实际情况三者混合）1）计算量太
2021-02-03 22:27:02
230
原创 分布式机器学习笔记1
@分布式机器学习笔记分布式机器学习算法、理论与实践 学习笔记写在前面本人是电子信息领域相关专业女研究生一枚，研究方向下一代移动通信网络。本科时期玩心未泯……未深入接触科研。现阶段摸索进入科研状态，有一定知识基础，自学机器学习、分布式机器学习相关方法知识~ 比较看重知识的体系性与连贯度，以及自己的思维流等，将较为重要的概念内容记录于此！1 人工智能的发展分布式机器学习的必要性：在大数据支撑下，庞大计算机集群，训练大规模机器学习模型2 机器学习基础机器学习基本概念1）经验风险、期望风险、结构风
2021-02-02 23:43:57
215
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人