美文网首页我爱编程
python c++扩展大法好

python c++扩展大法好

作者: RaferYY | 来源:发表于2017-12-30 18:37 被阅读0次

前一阵子和小卓腾折腾hbase数据拉取慢的问题(分别用phoenix-sparks jar包和python-phoenixdb两种途径,殊途同归地慢)。
phoenix-sparks jar包的问题算比较快地位到问题,小卓腾改了个jar包解决了(用得开源抵得填坑,sql语句转译问题,时间过滤条件转译失败,结果变成拉全量数据回来 在dataframe过滤)。
python-phoenixdb的问题其实也算是比较快定位到了(就是纯python的protobuf编解码性能问题,用c++扩展就好,详见https://github.com/lalinsky/python-phoenixdb/issues/4),就是脑子一抽以为要重新编译.proto生成新的协议文件,比较麻烦,就折腾别的需求去了。拖了两周,最终的起心肝赶在2018之前把这个解决了。其实搞下来,也就是重装个protobuf用c++扩展的事,脑抽真可怕。
搞下来性能提升相当可观,
用c++拓展之前,程序处理流量200~300kB/s
使用c++拓展之后,程序处理流量1000~2000kB/s
脚本语言(nodejs/python/lua/php)能给加个扩展(c/c++),可以说很感恩了~~

相关文章

  • python c++扩展大法好

    前一阵子和小卓腾折腾hbase数据拉取慢的问题(分别用phoenix-sparks jar包和python-pho...

  • 初遇 Tensorflow

    TensorFlow 特性 ** 高度的灵活性**:向上扩展(python)、向下扩展(C++)非常方便; 真正的...

  • Python调用C/C++方式

    Python调用C++方式 方式一(基础篇) 这种方法叫做python的扩展 使用python这样调用 在Linu...

  • 用C++写扩展改善Python性能

    用C++写扩展改善Python性能 Tags: Boost.Python, PyBind11, md5sum, p...

  • python大法好

    事情是这样的 小姑娘还在继续学习,准备下一轮考试。这一次她找了一个培训机构的讲义,原本是分开的20+个word文档...

  • python3工具库boost介绍 用c++为python编写扩

    概述 有不同的方法来用C++扩展Python: Swig 使用Boost.Python,可选择使用Py++预处理 ...

  • Windows 使用 node-gyp

    node 编译 c++ 扩展的时候使用的编译工具 depend on: python 2.7 开发一个 windo...

  • Python模块搜索路径

    最近在学习python的C++扩展(pybind11),写完一个扩展模块之后,想要在自己的环境中以后都能自动导入这...

  • C++开发python windows版本的扩展模块示例

    C++开发python windows版本的扩展模块示例 测试环境介绍和准备 测试环境: 操作系统:windows...

  • C++扩展python modules

    函数详情# C语言扩展pythonPyObject 所有的python扩展类型对象 描述所有python对象再C...

网友评论

    本文标题:python c++扩展大法好

    本文链接:https://www.haomeiwen.com/subject/hylngxtx.html