美文网首页
Faiss编译遇到的各种问题(通过go调用Faiss)

Faiss编译遇到的各种问题(通过go调用Faiss)

作者: greastate | 来源:发表于2022-08-23 18:08 被阅读0次

    提前喷几句:辣鸡faiss团队,不注重文档维护,简直折磨死人

    再提前说下,笔者的系统是centos-7,有些问题可能不具有共性,没准在ubuntu等其他系统下就没有这些乱七八糟的事情,情选择性观看

    cmake \
    -DCMAKE_BUILD_TYPE=Release \  # release版本剔除debug相关能力,性能会更好,
    -DBUILD_SHARED_LIBS=ON \ # go只能用共享库,无法直接使用编译出的静态库
    -DFAISS_OPT_LEVEL=avx2 \ # avx2性能会更好,开启后会同时编译出两个库,一个avx2的,一个通用的
    -DFAISS_ENABLE_GPU=OFF \ # 不使用gpu能力
    -DFAISS_ENABLE_PYTHON=OFF \ # 不使用python接口
    -DFAISS_ENABLE_C_API=ON \ # 开启c api的编译,golang的cgo只支持c,不支持c++,不要单独前往c_api目录编译
    -B build .
    
    make -j -C build #开始编译
    

    按照上面的编译参数,或go-faiss给的文档很可能仍然无法跑起来,还有不少需要注意的点

    1. 需要提前安装好openblas(mkl也可以,faiss会优先使用mkl,如果找得到的话)
      https://centos.pkgs.org/7/epel-x86_64/openblas-devel-0.3.3-2.el7.x86_64.rpm.html
    2. 安装或升级gcc,centos7安装的gcc为4.8.5版本,编译出的faiss无法正确运行(faiss用到正则特性,至少需要4.9),需升级GCC,
      相关升级文档
    # 安装7系列工具包
    sudo yum install centos-release-scl
    sudo yum install devtoolset-7-gcc* #默认不会马上生效。zsh不支持匹配符,需要使用bash
    scl enable devtoolset-7 bash #临时生效命令
    
    which gcc
    gcc --version
    
    1. 将编译产物移动到正确位置
      • faiss的make -C build install会将编译产物移动到/usr/local/lib /usr/local/include
      • 但在我系统里,/usr/local/lib 这个目录并不是默认的lib目录,需将其移动到/usr/lib64/

    QA:

    1. cgo: inconsistent definitions for xxxx 问题
      升级gcc版本可解决,参考上面升级gcc版本部分

    相关文章

      网友评论

          本文标题:Faiss编译遇到的各种问题(通过go调用Faiss)

          本文链接:https://www.haomeiwen.com/subject/efpggrtx.html