美文网首页IT小秘密IT相关git/github
Reboot————凤凰涅槃,运维工程师的浴火重生

Reboot————凤凰涅槃,运维工程师的浴火重生

作者: 我是一条大菜狗 | 来源:发表于2015-12-21 13:10 被阅读2374次

今天是2015年12月21号,三年前的今天,是玛雅人预言的世界末日,也许世界末日我们是无法亲眼见到了,但运维工程师的世界末日,已经来到。

尽管运维开发已经是被炒了很久的概念,但大部分运维工程师,还处于机房上架,系统装机,环境部署,处理监控报警,配合开发人员的工作等技术含量不高,但是重复劳动较多的工作状态。但是,随着aws,阿里云等各个云供应商的出现,大部分小公司和绝大部分创业公司,都不会自己购买服务器了,本人和一些中小公司里面的朋友了解过,现在大部分工作内容,就是监控、上线。可以预想到的未来,原始运维人员即使不被程序替代,也只剩下点点鼠标,而这样的工作,显然是拿不到高的薪酬。

笔者作为应届毕业生,也是在国内一线互联网公司做运维,做的也是很多重复性的工作,各种开源软件的使用倒是信手拈来,但是,只是部署,搭建,甚至调优的工作都比较少。shell、python也都写了无数的脚本,但还是感觉很low,前一段一直比较迷茫,直到看了前同事雪松大神的python实例手册,知道了Reboot,先看下高大上的架构师课表:

http://51reboot.com/course/arch/

我们要成为DevOps或OpsDev、SRE,就是要比开发人员更懂开发,架构班的课程没有讲太多的python基础,讲的都是高阶语法,比如装饰器,面向对象,多进程多线程,网络编程等等,而且课程内容都是PC老师在BAT工作期间,实际写的程序。例如多进程多线程,很多网络上的blog就是写了几个简单例子,就算完了。但PC老师对进程和线程独到的理解,对linux底层实现的具体分析,都使我们的理解更加深入,运用的更加得心应手,所谓知其然,亦知其所以然。

更重要的是PC老师在课程中穿插的各种原理,例如TCP/IP协议,分布式系统架构,CAP原理,分布式一致性算法Paxos,linux底层接口调用等等,用PC老师的话,这些东西,是十年之内都有用的。

下面是我们完成的项目架构图:


arch

这套系统的核心是我们使用python实现了memcache原型状态机的异步网络框架,通过状态机结合epoll,分分钟秒杀现有python开源框架。下面是笔者的测试,单线程可以达到3W+QPS,
测试程序:

启动方法:

    python nbNetFramework.py
    python loadrun.py a 100 

每10W个请求print下时间:

qps1 qps2

班里有个阿里系的某大神同学,使用逆天的pypy,达到了50W+QPS:

qps3
qps4
qps5

虽然只是测试,处理逻辑稍显简单,但依然很强大,单台监控数万服务器,性能绝对不成问题,源码已经在github开源:

https://github.com/51reboot/rebootMon

源码包括了整个的架构代码,和前端的展示。

这套系统,我们后期完善了下远程rpc命令执行调用的异步处理,所以也可以作为批量任务执行系统,网络框架和逻辑几乎完全剥离,因此可以作为通用的C/S框架,只需写logic代码。

相关文章

  • Reboot————凤凰涅槃,运维工程师的浴火重生

    今天是2015年12月21号,三年前的今天,是玛雅人预言的世界末日,也许世界末日我们是无法亲眼见到了,但运维工程师...

  • 看图说话 (拾)

    凤凰涅槃,浴火重生! 感叹大自然的手笔 匠心独运,巧夺天工! 它像是一个巨大的凤凰, 正在忍受着烈火般的烘烤 煎熬...

  • 557.重生

    凤凰涅槃,浴火重生,凤凰不在,谁来涅槃,重生的只是少数,更多的变成尸骨残骸焚烧殆尽,世间涅槃又为谁,谁又承受的了那...

  • 火凤无非是受尽煎熬的蜕变

    凤凰涅槃 浴火重生 有所成者 皆是来自地狱的勇士

  • 01_1_Linux云计算岗位的发展前景

    Linux运维岗位:Linux系统运维工程师、应用运维工程师、运维开发工程师、云计算运维工程师、大数据运维工程师、...

  • Python 从零搭建 Conf_Web 配置管理平台

    Conf_Web 配置管理平台 作者 Eagle 某船舶行业科技公司,运维工程师,51Reboot 学员。通过在 ...

  • 茶说(104)

    越靠近黑暗,越接近真理,凤凰涅槃,需要有浴火重生的勇气。

  • 暂停更新小说一年的通知

    文/浅水涅槃 浅水: “勿以深而浊,宁可浅而清。” 涅槃: “凤凰涅磐,浴火重生!”凤凰经历烈火的煎熬和痛苦的考验...

  • 2022-02-25设定意图:凤凰涅槃

    今天设定意图:凤凰涅槃。 画面中,凤凰涅槃,浴火重生。 让我感觉我似这凤凰一样,开始在火中挣扎,接纳这个大火的燃烧...

  • Linux云计算岗位的发展前景笔记

    liunx岗位: liunx系统运维工程师、应用运维工程师,运维开发工程师,大数据运维工程师,云计算运维工程师,系...

网友评论

本文标题:Reboot————凤凰涅槃,运维工程师的浴火重生

本文链接:https://www.haomeiwen.com/subject/isymhttx.html