美文网首页
lore 初探

lore 初探

作者: Helen_Cat | 来源:发表于2018-07-27 11:35 被阅读20次

    lore 作为小众的 model serving ,从模型编写到模型训练 部署预测 基本上都封装好了,自己也总算 通过一个小demo 完成了 lore 的预测 ,当然中间 还有一些坑,我之前在 mac上运行还算顺利,后来在centos 7上还是发现 报了不少错误,

    1. lore 依赖 postresql 和 pyenv 两个基础的工具,postgresql 用来存储一些内容,pyenv 是为了lore

    另外需要先 下载 pyenv 的一些python 版本 ,不然 在 使用 lore 初始化的时候还是 会报 git -C pull 等奇怪的错误
    比如先 安装 python 3.5.3 版本

    pyenv  install 3.5.3 -v 
    

    首先 本地的centos 一定要先安装 postgresql ,
    yum install -y postgresql
    然后 安装pyenv
    git clone https://github.com/yyuu/pyenv.git ~/.pyenv
    记得要授权 并 加入到环境变量中
    git clone git://github.com/yyuu/pyenv.git ~/.pyenv
    vim ~/.bashrc /etc/profile

    export PYENV_ROOT="HOME/.pyenv" export PATH="PYENV_ROOT/bin:PATH" eval "(pyenv init -)"
    参考 https://www.cnblogs.com/chinchillas/p/7462297.html
    https://www.jianshu.com/p/228cd025a368
    另外好像还需要 virtualbox
    wget https://download.virtualbox.org/virtualbox/5.2.16/VirtualBox-5.2-5.2.16_123759_el7-1.x86_64.rpm

    这些都可以了 话 lore 基本额可以开始捣鼓了

    2.初期我使用的是这个lore 的 demo
    http://www.sohu.com/a/225437837_129720
    git clone https://github.com/montanalow/my_app.git

    3.开始 编码 时 第一步卡在了 获取数据集上
    instacart_online_grocery_shopping_2017_05_01.tar.gz 这个dataset 放在 aws s3上,在你下载时会在url上 加上 随机的字符串,没有办法,我只能先使用用浏览器下载到本地,然后在项目中 写清楚 读取路径

    第二步 卡在了 pyenv 的python环境,想不到 lore 不支持 3.5 以下的python 版本,没有办法重新下载 3.5.2 ,3.5.4 等其他版本
    第三步 卡在了 centos 7 没有安装 bz 2压缩格式的包 ,导致 python 无法安装 bzip ,

    第四步 卡在了 fit 上 在test 和 fit 时 lore才会去把 需要的包 开始下载下来,这个下载是一个增量下载,但是吧 ,经常下载不全,导致 项目缺少包 无法运行,发现少了
    比如

    psycopg2==2.6.1
    records==0.3.0
    

    还有pandas 的版本 影响
    最后 是在不想再耽误了,干脆把所有依赖的包都填上了,记得修改 pip的下载源 为豆瓣

    absl-py==0.3.0
    backcall==0.1.0
    bleach==1.5.0
    boto3==1.7.63
    boto==2.49.0
    botocore==1.10.63
    bz2file==0.98
    certifi==2018.4.16
    chardet==3.0.4
    click==6.7
    cycler==0.10.0
    decorator==4.3.0
    dill==0.2.8.2
    docopt==0.6.2
    docutils==0.14
    entrypoints==0.2.3
    et-xmlfile==1.0.1
    Flask==0.12.4
    graphviz==0.8.4
    h5py==2.8.0
    html5lib==0.9999999
    idna==2.7
    iml==0.6.1
    inflection==0.3.1
    ipykernel==4.8.2
    ipython-genutils==0.2.0
    ipython==6.4.0
    ipywidgets==7.3.0
    itsdangerous==0.24
    jdcal==1.4
    jedi==0.12.1
    Jinja2==2.9.6
    jmespath==0.9.3
    jsonschema==2.6.0
    jupyter-client==5.2.3
    jupyter-console==5.2.0
    jupyter-core==4.4.0
    jupyter==1.0.0
    Keras==2.1.6
    kiwisolver==1.0.1
    lore==0.6.11
    Markdown==2.6.11
    MarkupSafe==1.0
    matplotlib==2.2.2
    mistune==0.8.3
    nbconvert==5.3.1
    nbformat==4.4.0
    notebook==5.6.0
    numpy==1.14.5
    odfpy==1.3.6
    openpyxl==2.5.4
    pandas==0.23.3
    pandocfilters==1.4.2
    parso==0.3.1
    pbr==4.2.0
    pexpect==4.6.0
    pickleshare==0.7.4
    prometheus-client==0.3.0
    prompt-toolkit==1.0.15
    protobuf==3.6.0
    psycopg2==2.6.1
    ptyprocess==0.6.0
    pydot==1.2.4
    Pygments==2.2.0
    pyparsing==2.2.0
    python-dateutil==2.7.3
    pytz==2018.5
    PyYAML==3.13
    pyzmq==17.1.0
    qtconsole==4.3.1
    records==0.3.0
    requests==2.19.1
    s3transfer==0.1.13
    scikit-learn==0.19.2
    scipy==1.1.0
    Send2Trash==1.5.0
    shap==0.12.1
    simplegeneric==0.8.1
    six==1.11.0
    smart-open==1.5.7
    sqlalchemy-migrate==0.11.0
    SQLAlchemy==1.2.10
    sqlparse==0.2.4
    tablib==0.12.1
    tabulate==0.8.2
    Tempita==0.5.2
    tensorflow-tensorboard==1.5.1
    tensorflow==1.5.1
    terminado==0.8.1
    testpath==0.3.1
    tornado==5.1
    tqdm==4.23.4
    traitlets==4.3.2
    unicodecsv==0.14.1
    urllib3==1.23
    wcwidth==0.1.7
    Werkzeug==0.14.1
    widgetsnbextension==3.3.0
    xlrd==1.1.0
    xlwt==1.3.0
    
    

    之后按照demo 的演示,可以正常了,不过有一个 early_stop项,迭代六次就停止了,lose 很大

    SBT使用阿里云Maven仓库,解决SBT下载依赖慢。
    发布时间:2018-04-09 来源:网络 上传者:用户

    关键字: 阿里 仓库 sbt 依赖 解决 使用 maven 下载

    发表文章
    摘要:添加:~/.sbt/repositories文件文件内容:[repositories]localmy-maven-repo:http://maven.aliyun.com/nexus/content/groups/public/官方Document看这里:http://www.scala-sbt.org/0.13.2/docs/Detailed-Topics/Library-Management.html#override-all-resolvers-for-all-buil
    添加:~/.sbt/repositories 文件

    文件内容:

    [repositories]localmy-maven-repo: http://maven.aliyun.com/nexus/content/groups/public/

    example:
    pyenv install 3.5.4 -v  # install  python 3.5.4 version for pyenv
    sudo yum install  -y  python-devel  libffi-devel  libpqxx-devel
    #[psycopg/psycopg.h:31:22: 致命错误:libpq-fe.h:没有那个文件或目录]
    download    data
    
    lore  init mxb --python-version=3.5.4   --xgboost 
    
    cd  mxb
    lore generate scaffold hotels --xgboost  --regression --holdout
    
     lore test tests.unit.hotels
    
    lore fit  mxb.models.hotels.XGBoost --test --score
    lore notebook
    lore server &
     curl "http://localhost:5000/hotels.XGBoost/predict.json?product_name=Banana&department=produce"
    
    
    

    yum install libgl libgl-devel mesa-libGL-devel mesa-libGLU-devel freeglut-devel libxcb libxcb-devel libXrender libXrender-devel xcb-util-wm xcb-util-wm-devel xcb-util xcb-util-devel xcb-util-image xcb-util-image-devel xcb-util-keysyms xcb-util-keysyms-devel -y

    wget http://download.qt.io/archive/qt/5.9/5.9.2/qt-opensource-linux-x64-5.9.2.run

    export SELDON_HOME=/home/muller/Documents/github/seldon-server/kubernetes

    export PATH=PATH:SELDON_HOME/bin

    相关文章

      网友评论

          本文标题:lore 初探

          本文链接:https://www.haomeiwen.com/subject/eyewmftx.html