每天500万=多少RPS？
- 每天秒数 = 246060 = 86400 秒
- 按经验值，每天80%的流量集中在40%的时间里；而整个站点的流量峰值一般会是40%时间内的2-4倍；
- 峰值流量 = 500w/86400*8 ≈ 500pv/s (即500RPS)
单纯的helloworld能达到什么样的性能?
- 基于4核2.6G cpu测试，不经过网络，没有逻辑运算和磁盘io
- java的SpringMVC能到2000以上
- python的flask也能达到1000以上
影响性能的地方主要是什么呢？
- 磁盘IO
- 逻辑运算
- 网络传输
- 并发线程
- 文件句柄
如何减少磁盘IO？
磁盘IO操作主要集中在：
- 静态文件读取与创建（比如图片、css、js等）
- 数据库查询与更新
如何减少磁盘IO:
- 缓存、缓存、还是缓存（尽量把经常访问的资源放到内存处理）
- 甚至可以把html页面缓存到cache，以提高读取速度
如何减少计算量？
- 后台离线把结果计算好，放入缓存（比如：列表、文章详情、甚至评论）
- 部分计算公式固定的功能，放入前端浏览器或app进行计算
如何减少网络传输？
- 浏览器或app缓存
- 图片压缩
如何增加并发线程？
- 如果是python，那就没办法了，单线程单进程，只能通过异步方式提高性能（当然也可以启动多个实例）
- 如果是java，可以通过设置tomcat的
maxThreads等线程参数提高并发性能（当然jvm的Xmx也很重要） - 另外，设置nginx的
worker_processes和worker_connections来提高并发量
如何增加文件句柄
- 通过sysctl把系统内核的限制可以提高到=
/proc/sys/fs/file-max（系统级硬限制） - 通过ulimit设置 单个线程 可以打开的最大句柄数
需要注意的time_wait和close_wait
- 由于http的四次挥手机制，连接通过客户端关闭时，会产生time_wait状态，该状态会持续2个MSL时长，会占用很大的句柄资源，可以通过优化
/etc/sysctl.conf里的超时和重用等参数，解决time_wait问题； - 而close_wait是因为服务端没有及时关闭连接导致，需要排除资源操作代码
更多优化策略
- 增加F5硬负载或nginx软负载来分散服务器压力（当然，通过7层负载更能实现智能路由，也更加安全）
- 也可以通过cdn来减少网络请求跳数，缩短响应时间（有钱公司的专享😓）
最后，需要说明的是，上面说的都是通用优化方案，具体策略还需要根据各公司自己的业务和技术特点进行。
网友评论