a.并行计算是高性能计算的精髓
b.HPC高性能计算技术,三个类型,科学类,工程类,智算类。
科学类:主要方向是科研计算
工程类:主要方向是工业生产,自动化
智算类:主要方向是人工智能
c.高性能计算,又称超级计算
应用场景:
d.HPC和AI:
利用GPU加速的HPC和AI提高准确度:
通过先进计算精确计算,成功预测了电脑主板的散热问题!
快速诊断病人的脑部是否存在动脉血管瘤破溃的风险。
- CFT sover:
通过CT图像对局部血管建立一个模型,得到有关血流和血压对风险评估有参考意义的数值
- SIMNET:
通过临床诊断的大数据结合计算的数据,通过AI训练得到那些是有风险的。
e.先进计算的应用:
f.多核CPU编程技术(扩展)
多核CPU编程需要利用并行计算技术来提高程序的性能和效率。以下是一些多核CPU编程技术:
共享状态式并发:通过共享可变状态来实现并行计算。多线程可以同时访问共享内存,并对其进行读写操作,从而加速程序的执行速度。但是,由于多线程之间的竞争条件和同步问题,需要使用锁等机制来保证数据的一致性和安全性。
消息传递式并发:通过消息传递来实现并行计算。多线程之间不共享内存,而是通过消息传递来进行通信和协作。这种方式的优点是不需要使用锁等机制,可以避免竞争条件和死锁等问题,但是需要设计好消息传递的机制和算法。
数据分解模式:将需要处理的数据合理的划分成N份,由不同的线程来处理。这种方法类似于分治算法的思想,可以将大问题分解成小问题来解决,从而加速程序的执行速度。需要注意的是,要小心伪共享的问题,避免出现数据冲突和竞态条件。
任务分解模式:将相关的任务分解成一个个独立的任务,然后充分利用多CPU来实现任务的并行操作。这种方式的难点在于如何将任务分解成独立的小任务,以及如何控制小任务在CPU运行之间的负载均衡。
流水线模式:将一个任务分解成多个步骤,然后分别用不同的线程来处理,以提高处理速度。这种模式类似于生产上的流水线,可以充分利用多CPU资源来加速程序的执行速度。
g.算力:
技术栈:
10.人物扩展:
英伟达(NVIDIA Corporation)是一家以设计显示芯片和主板芯片组为主的人工智能计算公司,由美籍华人黄仁勋(Jensen Huang)、克里斯·马拉科夫斯基和卡蒂斯·普里姆创立于1993年1月,总部位于美国加利福尼亚州圣克拉拉市。首席执行官是黄仁勋(Jensen Huang)
- 算力的演变:超级计算机:
- 超算平台的结构:超算工作原理:
- 并行编程技术:
-
计算节点:执行计算任务。
分布式计算系统模型:
-
一层层分开,由计算节点来完成。
-
然后交给计算节点来处理:
-
在一个任务子块内,会进行再次细分,并且是在同一进程空间的--共享存储式并行。
超计算机的工作原理:
- 分布式并行
- 共享存储式并行