并行与分布式计算复习大纲 华南农业大学

复习提纲:

并行与分布式计算复习大纲 华南农业大学
SIMD:
并行与分布式计算复习大纲 华南农业大学
(2)MIMD 的进一步划分(重点,分布内容和共享内存,要求能画出图并详细说明)

:共享内存:每个内存区域都能被每个处理器访问的到。分布式内存是内存独立,但是大家能通过网络访问。

共享内存

并行与分布式计算复习大纲 华南农业大学
(3)并行计算的度量,加速比(重点)

T p a r a l l l e l = T s e r i a l / P T_{paralllel} = T_{serial} / P Tparalllel/span>=Tserial/span>/P S = T s / T p S = T_s/T_p S=Ts/span>/Tp/span>


3. 寻找并发性设计空间

并行与分布式计算复习大纲 华南农业大学
(1)理解任务并行模式(重点,能举出例子或者分析例子)

答:把问题分解为一个能够并发执行的任务集合。

一块草坪,需要完成修剪和除杂草的任务,现在两个园丁分配到不同的任务去完成。当然这个过程需要协调的,因为两个人不可能说同时处理一块地方的。

(2)了解分治策略

并行与分布式计算复习大纲 华南农业大学
(1)了解 SPMD 模式

在SPMD程序中,所有UE并行执行同一个程序(单程序),但每个UE都拥有自己的私有数据集(多数据)

(2)了解主从模式(重点)

:主进程为从进程建立一个工作池和一个任务包。所有从进程并发执行,每个从进程迭代的从任务包中移除一个任务并处理它,指导所有任务都处理完毕或到达某些终止条件为止

核心思想是基于分而治之的思想,将一个原始任务分解为若干个语义等同的子任务,并由专门的工作者线程来并行执行这些任务,原始任务的结果是通过整合各个子任务的处理结果形成。

比如Master:RW,那么他的Slave是R和W,也就是我们常说的读写分离。

这个可以用线程池的思想去理解。

(3)理解派生聚合模式(重点,和主从模式之间的区别)

百度一下:Fork/Join 模式即可理解。

一个主UE里面Fork出多个子的UE,这些子UE并行完成任务,的一部分,等待这一步的全部子UE完成了这些任务之后,我们再继续分支。

并行与分布式计算复习大纲 华南农业大学
(1)理解通信及相关技术实验相关(重点,以下内容都会出对应题目。会有简答题、程序填空题及案例分析题,实验会和上面的知识点结合一起出题)

消息传递,集合通信,其他通信构造。
消息是最基本的通信元素,包含信息标识。
广播:发送单条消息给所有UE
栅栏:程序中的同步点,所有UE都必须到达该点,然后才能继续向后执行
归约:获得一个对象集合,每个对象映射到一个UE,操作把它们组合为位于一个UE的单个对象,或组合它们并将结果广播到每个UE上


7. 实验思考:

三个实验例子:生命游戏,PAI计算,日志挖掘。

(1)任务分解和数据分解的具体应用(例子,生命游戏实验、计算π、车牌实验,怎么应用的

生命游戏的分解:如果从任务分解的角度去想的话,我们的对于每一个格子都需要判断多个条件,那么这些条件就是我们的任务步骤,也是我们可以对其进行分解的地方。如果从数据分解的角度去思考的话,我们把一个棋盘分为多块,那么我们就完成了数据分解。

计算π的分解

并行与分布式计算复习大纲 华南农业大学

在处理迭代生命游戏的时候,由于我们采用派生聚合的模式去完成任务,因此,我们在每迭代一次的时候同步一次再发起一次并行迭代,因此需要重复创建,销毁线程,需要消耗大量的资源,因此,更适合用线程池。

对于计算 π pi π问题,我们可以指定多个线程同时计算多个任务,只需要最后一次合并,无需多次创建消耗资源,因此,我们使用线程池效率不见得比直接手动使用多线程效率高。

但在实际开发当中,为了安全考虑,我们是不应该直接手动创建多线程去处理问题的。(原因参见阿里的编程规范)

(4)共享资源的访问(要求,能以简单程序说明两个线程之间安全访问共享资源的伪代码)
(5)日志挖掘中,怎么样对数据进行划分么样对数据进行预处理/h5>

我们需要考虑是读取数据部分和处理数据部分。比如说,我们可以根据等长数据进行划分,或者根据日期数据进行划分。

数据分块存储,分块读取。

(6)支持结构中主从模式和派生聚合模式的区别和选择(生命游戏和计算π的实验对比,有什么区别
  • 生命游戏:派生聚合模式(按照数据更新迭代的次数进行任务分割)
  • 计算PAI:主从模式(指定一个工作池,运算完之后合并在一起)
(7)能画出生产者-消费者模型,并对各部分进行详细说明。

并行与分布式计算复习大纲 华南农业大学

附:线程的五种状态

并行与分布式计算复习大纲 华南农业大学

文章知识点与官方知识档案匹配,可进一步学习相关知识云原生入门技能树首页概览8636 人正在系统学习中

来源:JintuZheng

声明:本站部分文章及图片转载于互联网,内容版权归原作者所有,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2021年1月10日
下一篇 2021年1月10日

相关推荐