![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
高级分布式系统
文章平均质量分 87
十有久诚
知道的越多,不知道的越多
展开
-
高级分布式系统-第15讲 分布式机器学习--联邦学习
联邦学习在传统的分布式机器学习基础上的变化。传统的分布式机器学习:在数据中心或计算集群中使用并行训练,因为有高速通信连接,所以通信开销相对很小,计算开销将会占主导地位。联邦学习:通信需要依靠互联网,甚至是无线网络,所以通信代价是占主导地位的。原创 2024-01-15 18:30:15 · 501 阅读 · 2 评论 -
高级分布式系统-第15讲 分布式机器学习--分布式机器学习算法
按照通信步调,大致可以分为同步算法和异步算法两大类。同步算法下,通信过程中有一个显式的全局同步状态,称之为同步屏障。当工作节点运行到同步屏障 ,就会进入等待状态,直到其工作节点均运行到同步屏障为止。接下来不同工作节点的信息被聚合并分发回来,然后各个工作节点据此开展下一轮的模型训练。异步算法下,各个工作节点不再需要等待,而是以一个或多个全局服务器为作为中介,实现对全局模型的更新和读取。这样可以显著减少通信时间,从而获得更好的多机扩展性。原创 2024-01-15 18:20:10 · 1091 阅读 · 0 评论 -
高级分布式系统-第15讲 分布式机器学习--概念与学习框架
人工智能蓬勃发展的原因:“大”大数据:为人工智能技术的发展奠定了坚实的物质基础。大规模机器学习模型:具备超强的表达能力,可以解决很多难度非常大的学习问题。大规模计算机集群:以GPU集群为主,有着强大的并行度和计算能力,可以使复杂的训练过程变得更加高效。在前所未有的大数据的支撑下,通过庞大的计算机集群,训练大规模的机器学习模型。原创 2024-01-15 17:55:39 · 993 阅读 · 0 评论 -
高级分布式系统-第15讲 分布式机器学习--神经网络理论
人工神经网络(简称神经网络,Neural Network)是模拟人脑思维方式的数学模型。神经网络是在现代生物学研究人脑组织成果的基础上提出的,用来模拟人类大脑神经网络的结构和行为。神经网络反映了人脑功能的基本特征,如并行信息处理、学习、联想、模式分类、记忆等。(1)能逼近任意非线性函数;(2)信息的并行分布式处理与存储;(3)可以多输入、多输出;(4)便于用超大规模集成电路(VISI)或光学集成电路系统实现,或用现有的计算机技术实现;(5)能进行学习,以适应环境的变化。原创 2024-01-15 16:22:25 · 474 阅读 · 1 评论 -
高级分布式系统-第14讲 分布式控制经典理论
模糊控制是一种以模糊集合论、模糊语言变量以及模糊逻辑推理为数学基础的控制方法,它模拟人的思维,构造一种非线性控制,以满足复杂的不确定的过程控制的需要,属于智能控制范畴。由于模糊控制是对人的思维方式和控制经验的模仿,所以在一定程度上可以认为模糊控制方法是一种实现了用计算机推理代替人脑思维的控制方法。模糊控制之所以可以模仿人的思维和经验,是因为人们在描述控制规则时大量的使用模糊概念。原创 2024-01-15 12:38:47 · 862 阅读 · 1 评论 -
高级分布式系统-第13讲 分布式控制经典理论
模糊控制是以模糊集理论、模糊语言变量和模糊逻辑推理为基础的一种智能控制方法,它是从行为上模仿人的模糊推理和决策过程的一种智能控制方法。该方法首先将操作人员或专家经验编成模糊规则,然后将来自传感器的实时信号模糊化,将模糊化后的信号作为模糊规则的输入,完成模糊推理,将推理后得到的输出量反模糊化之后加到执行器上。原创 2024-01-15 11:33:01 · 435 阅读 · 1 评论 -
高级分布式系统-第12讲 分布式控制经典理论
分布式控制系统的设计,是指在给定系统性能指标的条件下,设计出控制器的控制规律和相应的数字控制算法。原创 2024-01-14 21:22:43 · 463 阅读 · 2 评论 -
高级分布式系统-第11讲 现场总线技术
国际电工委员会制定的国际标准IEC61158对现场总线(fieldbus)的定义是: 安装在制造或过程区域的现场装置与控制室内的自动控制装置之间的数字式、串行、多点通信的数据总线。原创 2024-01-14 20:41:09 · 968 阅读 · 1 评论 -
高级分布式系统-第10讲 分布式控制系统
自动化是关于一切人造系统自动、智能、自主、高效和安全运行的科学与技术计算机控制技术是实现自动化的主要方法和手段分布式控制技术是伴随着机器大工业生产而诞生的特殊计算机控制技术原创 2024-01-14 16:40:58 · 1414 阅读 · 3 评论 -
高级分布式系统-第9讲 实时调度--静态调度与动态调度
在静态调度中,任务组的调度表是通过离线计算得出的。在调度表的生成过程中,必须把所有任务的资源、优先级和同步要求考虑进去,并且确保所有的截止时间要求。这个调度表指明了各个任务的运行起始时间 ,一旦生成就不再变化。在系统运行期间 ,任务调度器只需要根据这张表在指定的时刻启动相应的任务 。原创 2024-01-14 14:53:57 · 1142 阅读 · 1 评论 -
高级分布式系统-第9讲 实时调度--可调度性分析
分布式实时系统中,很多任务同时尝试访问共享资源(如处理器和网络),调度试图有效地利用这些资源来解决问题,以保证系统是正确的,换句话说是保证系统符合其所有的时间限制。调度的运行可以采取操作系统形式,由操作系统直接控制硬件;也可采用中间件形式,中间件位于操作系统和应用程序之间。原创 2024-01-14 14:51:44 · 948 阅读 · 0 评论 -
高级分布式系统-第7讲 分布式系统的时钟同步
在分布式系统中, 顺序关系主要分为以下三类:时间顺序: 事件在时间轴上发生的先后关系。无限时刻集组成有向时间轴, 时间顺序是通过时刻的顺序体现的。因果顺序: 如果事件e1是事件e2发生的原因, 那么e1的微小变化( 一个标记) 就会引起e2的微小变化, 但e2的微小变化不一定与e1的微小变化有关, 则称e1和e2存在因果顺序。传递顺序: 由协议约定的一种弱顺序关系。传递顺序不一定与时间发生的时序有关, 也不一定与事件之间的因果顺序关系有关。 如分布式系统的原子广播算法。原创 2024-01-13 17:09:01 · 1860 阅读 · 11 评论 -
高级分布式系统-第6讲 分布式系统的容错性--进程的容错
分布式系统的容错原则既适用于硬件, 也适用于软件。 两者的主要区别在于硬件部件的同类复制相对容易, 而软件组件在运行中的同类复制( 进程复制) 涉及到更为复杂的分布式操作系统的容错机制。原创 2024-01-12 17:50:39 · 1014 阅读 · 2 评论 -
高级分布式系统-第6讲 分布式系统的容错性--故障/错误/失效/异常
分布式系统的容错性: 当发生故障时, 分布式系统应当在进行恢复的同时继续以可接受的方式进行操作, 并且可以从部分失效中自动恢复, 且不会严重影响整体性能。原创 2024-01-12 17:05:56 · 529 阅读 · 0 评论 -
高级分布式系统-第3讲 网络与网络互联
A R PA 信 息 处 理 技 术 办 公 室 ( I P TO ,Information Processing Techniques Office) 的第三任主管罗伯特 · 泰勒( Robert Taylor) 认为应该建立一个兼容的协议, 允许所有终端之间互相通信。美国国防部决定研究一种分散的指挥系统。 它由无数的节点组成, 当若干节点被摧毁后, 其它节点仍能相互通信。原创 2024-01-06 09:00:47 · 919 阅读 · 1 评论 -
高级分布式系统目录汇总
临近《高级分布式系统》考试,所以一边复习((⊙o⊙)…,其实是预习,哈哈^_^),一边写高级分布式博客。先将高级分布式章节以及相关博客罗列如下,欢迎和大家一起学习。资料部分参考上了以下教材:分布式实时系统-电子书(张凤登),分布式系统概念与设计(黑书)。原创 2024-01-15 20:26:51 · 1703 阅读 · 6 评论