什么是SIMD

SIMD的全称是Single Instruction Multiple Data (单指令多数据流)。

在支持SIMD的CPU中，包含着一些特别宽的寄存器（比如512位）。通过特别的指令，可以在这些寄存器上执行指定操作。这些操作通常是对正常寄存器（比如64位）上操作的拓展，可以理解为一条指令同时操作了多个正常寄存器，也就是所谓的SIMD了。

SIMD的性能

做个简单的除法就能知道，512位的寄存器相比64位寄存器，速度提升了8倍。

但是实际情况不仅仅是如此。在SIMD的指令中，还包括了一些非常奇妙的指令，比如计算正态分布的累积分布函数和其反函数的指令。在看到它们的时候，我心里吼了一句：“还有这种操作！”。这些特化的指令在特别的场景下就是神器。

怎么用SIMD

首先，我们是在Linux的GCC编译器上使用SIMD指令。在这个条件下，有两个途径：

嵌入式汇编
Intrinsics

嵌入式汇编不是今天的主题。我今天主要记录一下Intrinsics怎么用。不管使用哪种方法，有一个网站是一定要收藏的：Intel Intrinsics Guide

它给出了SIMD指令集的各个子集: MMX， SSE，SSE4.2，AVX2等等。同时，它给每个指令都打上一些标签用于检索：Load，Store，Cast，Arithmetic 等等。它还给出了每个指令的等价操作和汇编指令。

具体地说，在C语言中使用SIMD涉及三个方面：

头文件
函数调用
编译选项

头文件和函数调用很好办，它归属于Intel的规范。在Intel Intrinsics Guide中，每条指令需要的头文件都有标注，按图索骥即可。

编译选项则属于GCC的规范。 i386 and x86-64 Options 将相关选项包含在内，但是更宽一些。每条指令都有所属的指令集（比如SSE4.2），当使用到该指令后，就要在链接器的选项中加上相关的项 (比如-msse4.2) 。

选项的命名很直接，在 i386 and x86-64 Options 里搜索 -mmmx 就可以跳到SIDM选项比较集中的区域，很容易就能确定需要的选项是什么。

内存对齐

使用SIMD指令的范式很简单：

用SIMD指令，将数据从内存导入特殊寄存器
用SIMD指令，在特殊寄存器间进行运算
用SIMD指令，将运算结果导出回内存

这里涉及到一个问题，就是导入导出使用到的内存必须满足特殊的对齐条件。比如使用了128位（16字节）的SIMD，则内存首地址必须能被16整除。如果不满足该条件，在导入数据时程序会引发段错误退出。

在C中，获得特定对齐方式的动态内存，使用的函数是来自stdlib.h的void* aligned_alloc(size_t alignment, size_t size)。

使用案例

// Filename: main.cpp
#include <cstdlib>
#include <cstdio>
#include <immintrin.h>
using namespace std;

void print(float* data, int n) {
  for (int i = 0; i < n; i ++) {
    printf("%f ", data[i]);
  }
  printf("\n");
}

int main() {
  const int WIDTH = 256;
  const float x = 0.2;

  int n = WIDTH/8/sizeof(float);
  float* w = (float*) aligned_alloc(64, sizeof(float)*n);
  float* y = (float*) aligned_alloc(64, sizeof(float)*n);
  
  // 生成数据
  for(int i = 0; i < n; i ++) {
    w[i] = rand();
  }
  print(w, n);
  
  // y_i = w_i * x
  __m256 _x = _mm256_set1_ps(0.2);
  __m256 _w = _mm256_load_ps(w);
  __m256 _y = _mm256_mul_ps(_x, _w);
  _mm256_store_ps(y, _y);

  print(y, n);
  free(y);
  free(w);
}

编译的指令如下：