MIC编程

MIC编程

（基础部分，可参考上一篇《MIC简介》）

几个问题：

1.什么是MIC？

协处理器、加速卡

2.什么是MIC编程？

让程序运行在MIC卡上

3.如何发挥MIC卡的优势？

并行（在众多核心上）

4.如何并行？

应用并行库：OpenMP、MPI、pThread、TBB……

 

 

MIC应用模式

MIC卡可以看作协处理器，也可以看作独立的节点

MIC有5中应用模式：

   CPU原生模式

   CPU为主MIC为辅模式（最常用）

   CPU与MIC对等模式

   MIC为主CPU为辅模式

   MIC原生模式（native模式）

微异构：CPU上的某些指令放在MIC上还是有些问题的。

 

 

native模式：

什么是native模式？

   仅在MIC卡上本地运行的模式

如何使用native模式？

   原始CPU程序，编译时增加“-mmic”选项

   不能含SSE、AVX等向量化指令代码

native模式有什么好处？

   简单，无传输

native模式有哪些局限？

   卡上空间有限，单核计算能力有限（应该还不如CPU）

native模式适合哪种应用场景？

   简单测试、高并发的小规模程序

 

native模式使用方式

   CPU单节点程序test_native.c

icc  test_native.c  -o  ta.out

   编译选项增加-mmic

icc  test_native.c  -o  ta.out  -mmic

方法一：

scp将可执行程序传到卡上

scp  ta.out  mic0:  ~/

登录到卡上执行程序

ssh  mic0

./ta.out

远程执行

ssh  -x  mic0  /root/ta.out

方法二：

无需将可执行程序传到卡上

/opt/intel/mic/bin/micnativeloadex

 

 

对等模式（必须是CPU的MPI程序）

什么是对等模式？

   通过网络在CPU和MIC端协同计算的模式

如何使用对等模式?

  原始CPU程序，编译两个版本，其一增加”-mmic”

  不能含有SSE、AVX等向量化指令代码

对等模式有哪些局限？

  通信开销大

对等模式适合哪种应用场景？

  高并发的MPI程序，内部使用多线程并行

 

对等模式使用方法

CPU、MPI程序

编译两份代码，使用mpiicc

mpiicc  test_mpi.c  -o  tm.out

mpiicc  test_mpi.c  -o  tm.out_mic  -mmic

scp将mic端可执行程序传到卡上

scp  tm.out_mic  mic0: ~/

mic运行库

设置环境变量export  I_MPI_MIC=enable

运行程序

mpirun  -host(主机IP)  host  -n  1  ./tm.out  : -host  mic0  -n  1

 

 

offload模式

什么是offload模式？

  MIC作为协处理器，负责部分运算的模式

如何使用offload模式？

  修改代码，编写引语，类似于OpenMP

offload模式有什么好处？

  灵活、效率高

offload模式有哪些局限？

  通信开销，需要修改代码

offload模式适合哪种应用场景？

   适合高并行加速的应用

 

offload基础概念--主机和设备

Host-Device的定义

Host端：CPU主机端

运行串行部分

负责控制等

Device端：MIC设备端

   作为CPU（host）的协处理器

   有独立的存储设备（device memory）

同时启动大量线程进行并行计算

 

CPU/MIC异构协同计算模型

Fork-join模型（一般利用此模型，计算密集型）

CPU“offload (卸载)”MIC函数

MIC函数内部进行并行计算

CPU获取MIC计算后的结果（比如说规约后的）

 

Offload模式运行流程

程序启动，在CPU端运行主函数------程序运行到offload语句，得知接下来的代码段要在MIC端运行------驱动程序检测MIC卡是否存在，如果存在则调用MIC版本代码，否则调用CPU版本代码------（以下假设MIC卡存在）如果本次是第一次运行MIC程序，则驱动程序启动/唤醒MIC卡------MIC版本代码加载到MIC卡上------MIC端内存开辟空间，驱动程序将从数据从CPU端内存中复制到MIC端内存中------CPU端程序暂停：MIC端程序开始运行（CPU此时停下来等着）------MIC端程序段运行完成后，将数据从MIC端内存复制到CPU端内存------MIC卡回复低功耗状态，CPU端程序恢复运行------程序结束