读 - 深入理解java虚拟机 - 笔记(二) - java内存模型与线程(12章)-处理器的内存模型

       首先,看到这一张的内容时看见了一个协议,MESI协议,这个协议涉及到处理器的内存与缓存相关的知识,因此就先去了解了一下处理器的知识,java虚拟机的模型其实和处理器可以类比,看看没有坏处。

百度了大段的博客,发现大家写的都是参考的一本书,《大话处理器》,也去下载了一本,其他内容没兴趣,直接去第5张找有关缓存的知识。。。。

一.Cache的层次

书中提到,现今的处理器都是采用的多级的Cache组织形式,来达到性能和功耗的最优。

单核处理器的Cache结构如下图所示:单核处理器一般是两级Cache:L1 Cache 和L2Cache ,L1P表示的是程序缓存(Program),L1D表示的是数据缓存(Data),而L2则是程序和数据共用一套缓存,一般L2会比L1大,因此,当内核需要访问程序或者数据时,会先从L1去取,如果L1中没有,则L1从L2中将数据导入,如果L2中也没有,则L2从内存中将数据导入。

多核处理器的Cahce构造如下:多核处理器意味着每个核都有自己的一套缓存,L3书中介绍是每个核共享的另外一个大容量的缓存

其实看到多核处理器的模型时就应该能发现了,Core0和Core1有自己的缓存数据,就意味着每个处理器都不一定能读取到最新的数据,有可能Core0读取时数据是0,Core1读取到的数据也是0,但是Core0将数据更新为1,Core1也将数据更新为1,按理说,更新操作执行了两次,数据应该更新为2,但是最终的数据确实1,这就是问题,当然,这是后话,笔者读到这边时,想到了这些,顺便啰嗦一下。

二.Cache的映射方式

笔者对于底层的这些理解不是很好,只不过学习了书中别人的观点。

了解Cache的映射方式,就要先了解Cache的结构,整个Cache空间被分成了N个line,每个line通常都是32byte、64byte等,Cache line是Cache和内存交换数据的最小单位,它的结构如下图:


这个是最少的部分,也就是说每个Cache line最少也应该有3个部分,有时候会多出一些标志位,后话。

看下结构内的数据,block中存储的是内存在Cache中缓存的数据,tag中存储的是该Cache line对应的内存块的地址,valid表示该Cache line中的数据是否有效。

当内核访问Cache内的数据,并且找到了,就称之为 Cache hit,反之就是Cache miss,关键名词也是要熟悉,不然不专业啊^_^。

接下来去看映射方式----------------------------------------------------------------------------------------------------------------------------------------------------

1.全关联Cache。在全关联Cache中,内存中每个line能够被映射到Cache中的任意一个Cache line,如果Cache line有A个,内存大小有B个,那么就有A*B中组合方式,可见映射种类很多,很复杂,这种情况下,如果去判断一个数据是不是在Cache中,需要将地址和所有Cache Line进行匹配,成本很高,实际的处理器中,这种方式很少见。映射方式见下图:


在本篇里,暂不去讨论Cache中的缓存的大小计算,不是本篇的重点,这个还是有兴趣的,在后续博客中再来分析一下,一时间资料很少,百家争鸣,自己也不能把握。

2.直接映射Cache。与全关联不一样的点在于 将内存按照Cache的大小分成了N个Page,每个Page和Cache大小相同,因此Page中的line 0 映射到Cache中的line 0,不难理解。

其实就是以下公式: 内存存放块号 =  内存块号%Cache总行数。N个page循环插入到Cache 的line 0  ~~ line n中。

3.组关联Cache,组关联将Cache分成 多个way(份),当内存中的数据需要放入到Cache时,如果 way0的line 0倍占用,那么就会放入到way1的line 0中,图就不化了,不难理解。

最后由个置换策略,置换策略常用的有:

1.随机

2.FIFO

3.LRU(最近最少使用)

看效果其实就是LRU被用的多。

以上就是Cache的映射方式,这个知识点不是本章重点,所以笔者也只是去了解一下相关的知识点,笔者想要知道的是Cache的写方式,写方式就是多线程内比较关心的。

三.Cache的写方式

Cache提供了两种写策略,写通(write through)和写回(write back)

所谓write through 其实就是每次CPU修改了Cache的值,会立即更新内存的内容。

所谓write back就是内核修改Cache的内容后,Cache并不会立即更新内存中的内容,而是等到这个Cache line因为某种原因需要从Cache中移除时,Cache才更新内存中的数据。例如Cache 的line0中存放的值为 x=3,内核这个时候如果想修改x的值,那么它修改的其实是Cache中 的 x =5,但是由于并不会立马更新进内存,所以内存中x = 3,此时Cache中的line0 需要被替换了,有新的值需要存放,因此这个时候Cache会先将Cache line0的内容也就是x=3更新到内存中,然后保存新的数据。因此一般处理器都是采用write back的策略。

那么问题来了~~~Cache怎么知道这行的数据有没有被修改呢?就需要一个标志,dirty,dirty为1,说明Cache的内容被修改了,和内存不一致,当该Cache line被移除时,数据写回内存时,dirty位为0(clean),标识内容一致。这边的Cache只是针对数据Cache,程序Cache不会被修改,所以没有这个标志位


四.Cache一致性问题。

在上面我们可以看见增加了标志位来说明这个Cache的数据是否是干净的,还是无效的。这其实就是Cache一致性问题。为了保证Cache的一致性,处理器提供了两个保证 Cache一致性的底层操作:writeinvaliddate和write update。

writeinvaliddate(置无效),当一个内核修改了一份数据,其他内核如果有这份数据的复制,就置成无效(invalid)。

write update(写更新),当一个内核修改了一份数据,其他地方如果有这份数据的复制,就更新到最新值。

writeinvaliddate操作如下图:


write update 操作如下图:

对于writeinvaliddate操作来说的话,最好的情况下是core1和core2以后都不再使用变量x,但是这种操作会带来一个问题,那就是当valid标志位标志成invalid后,这个Cache中其他本来有效的数据都不能再被使用了。但是呢,write update操作的话又会产生大量的数据更新操作,因此由于writeinvaliddate简单,大多数处理器采用的还是writeinvaliddate策略。


那我们直接来看writeinvaliddate操作吧,writeinvaliddate操作提供了实现Cache一致性的简单思想,处理器上有一套完整的协议来保证Cache一致性,比较经典的就是MESI协议,这也是我写这篇博客的主要关注点,MESI协议。

前面关于Cache中的两个标志dirty和valid,就是描述的Cache和Memory之间的数据关系(数据是否有效,数据是否被修改)。

在MESI协议中,每个Cache line有4个状态 ,用2 bit表示(没求证过)


解读上面的解释需要和内存模型一起来理解,M/E状态下的Cache line,数据是独有的,不同点在于M状态下的数据是dirty的,E状态下的数据是clean的。

S状态的Cache line,数据和其他的Cache共享,也只有clean的的数据才能被多个Cache共享,否则就出现了数据一致性问题了。

I状态下的Cache line表示无效。

E状态如下,只有Core0访问时,它的状态为E


S状态如下,S状态说明有多个Cache读取了这个数据


M和I状态不再去画图,上面已经给出。

在MESI协议中,每个Cache的Cache控制器不仅知道自己的读写操作,而且也监听(snoop)其他Cache的读写操作。每个Cache line所处的状态根据本核和其他核的读写操作在4个状态间进行迁移,迁移图如下:这边是网络盗图过来的,书中的黑白色看起来难受,


有几点说明:

1. Local Read表示本内核读本Cache中的值。

2. Local Write表示本内核写本Cache中的值。

3. Remote Read表示其他内核读其他Cache中的值。

4. Remote Write 表示其他内核写其他Cache中的值。

5. 箭头表示本Cache line状态的迁移,环形箭头表示状态不变。

注意点在于 当内核需要访问的数据不再本Cache中,而其他Cache有这份数据的备份时,本Cache既可以从内存中农导入数据,也可以从其他Cache中导入数据,不同的处理器会有不同的选择。MESI协议没有定义这些细节,只规定了状态之间的迁移。

;;;;;;;下面的描述假设本Cache从内存中导入数据;;;;;;;;;;








  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
VR(Virtual Reality)即虚拟现实,是一种可以创建和体验虚拟世界的计算技术。它利用计算生成一种模拟环境,是一种多源信息融合的、交互式的三维动态视景和实体行为的系统仿真,使用户沉浸到该环境中。VR技术通过模拟人的视觉、听觉、触觉等感觉器官功能,使人能够沉浸在计算生成的虚拟境界中,并能够通过语言、手势等自然的方式与之进行实时交互,创建了一种适人化的多维信息空间。 VR技术具有以下主要特点: 沉浸感:用户感到作为主角存在于模拟环境中的真实程度。理想的模拟环境应该使用户难以分辨真假,使用户全身心地投入到计算创建的三维虚拟环境中,该环境中的一切看上去是真的,听上去是真的,动起来是真的,甚至闻起来、尝起来等一切感觉都是真的,如同在现实世界中的感觉一样。 交互性:用户对模拟环境内物体的可操作程度和从环境得到反馈的自然程度(包括实时性)。例如,用户可以用手去直接抓取模拟环境中虚拟的物体,这时手有握着东西的感觉,并可以感觉物体的重量,视野中被抓的物体也能立刻随着手的移动而移动。 构想性:也称想象性,指用户沉浸在多维信息空间中,依靠自己的感知和认知能力获取知识,发挥主观能动性,寻求解答,形成新的概念。此概念不仅是指观念上或语言上的创意,而且可以是指对某些客观存在事物的创造性设想和安排。 VR技术可以应用于各个领域,如游戏、娱乐、教育、医疗、军事、房地产、工业仿真等。随着VR技术的不断发展,它正在改变人们的生活和工作方式,为人们带来全新的体验。
VR(Virtual Reality)即虚拟现实,是一种可以创建和体验虚拟世界的计算技术。它利用计算生成一种模拟环境,是一种多源信息融合的、交互式的三维动态视景和实体行为的系统仿真,使用户沉浸到该环境中。VR技术通过模拟人的视觉、听觉、触觉等感觉器官功能,使人能够沉浸在计算生成的虚拟境界中,并能够通过语言、手势等自然的方式与之进行实时交互,创建了一种适人化的多维信息空间。 VR技术具有以下主要特点: 沉浸感:用户感到作为主角存在于模拟环境中的真实程度。理想的模拟环境应该使用户难以分辨真假,使用户全身心地投入到计算创建的三维虚拟环境中,该环境中的一切看上去是真的,听上去是真的,动起来是真的,甚至闻起来、尝起来等一切感觉都是真的,如同在现实世界中的感觉一样。 交互性:用户对模拟环境内物体的可操作程度和从环境得到反馈的自然程度(包括实时性)。例如,用户可以用手去直接抓取模拟环境中虚拟的物体,这时手有握着东西的感觉,并可以感觉物体的重量,视野中被抓的物体也能立刻随着手的移动而移动。 构想性:也称想象性,指用户沉浸在多维信息空间中,依靠自己的感知和认知能力获取知识,发挥主观能动性,寻求解答,形成新的概念。此概念不仅是指观念上或语言上的创意,而且可以是指对某些客观存在事物的创造性设想和安排。 VR技术可以应用于各个领域,如游戏、娱乐、教育、医疗、军事、房地产、工业仿真等。随着VR技术的不断发展,它正在改变人们的生活和工作方式,为人们带来全新的体验。
基于GPT-SoVITS的视频剪辑快捷配音工具 GPT, 通常指的是“Generative Pre-trained Transformer”(生成式预训练转换器),是一个在自然语言处理(NLP)领域非常流行的深度学习模型架构。GPT模型由OpenAI公司开发,并在多个NLP任务上取得了显著的性能提升。 GPT模型的核心是一个多层Transformer解码器结构,它通过在海量的文本数据上进行预训练来学习语言的规律。这种预训练方式使得GPT模型能够捕捉到丰富的上下文信息,并生成流畅、自然的文本。 GPT模型的训练过程可以分为两个阶段: 预训练阶段:在这个阶段,模型会接触到大量的文本数据,并通过无监督学习的方式学习语言的结构和规律。具体来说,模型会尝试预测文本序列中的下一个词或短语,从而学习到语言的语法、语义和上下文信息。 微调阶段(也称为下游任务训练):在预训练完成后,模型会被应用到具体的NLP任务中,如文本分类、器翻译、问答系统等。在这个阶段,模型会使用有标签的数据进行微调,以适应特定任务的需求。通过微调,模型能够学习到与任务相关的特定知识,并进一步提高在该任务上的性能。 GPT模型的优势在于其强大的生成能力和对上下文信息的捕捉能力。这使得GPT模型在自然语言生成、文本摘要、对话系统等领域具有广泛的应用前景。同时,GPT模型也面临一些挑战,如计算资源消耗大、训练时间长等问题。为了解决这些问题,研究人员不断提出新的优化方法和扩展模型架构,如GPT-2、GPT-3等,以进一步提高模型的性能和效率。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值