AI之遗传算法在量化投资的应用

遗传算法在量化投资的应用

本篇内容涉及遗传算法的概念，原理描述，实现方法以及在量化投资的应用。

作者：陈焕生，凡普金科旗下会牛科技研发总监兼数据架构师，目前从事基于遗传算法因子自动化挖掘，量化投资研究。并于2017年上线了基于遗传算法因子挖掘的自有资金运营的量化模型。目前处于行业中游水平，团队的大多背景都是非金融投资领域，实现互联网技术向量化投资领域的转型，本人十年的互联网研发背景，多次连续创业的经历。

什么是遗传算法

1. 介绍遗传算法的概念
   遗传算法是一种进化策略的算法，模拟生物基因遗传。遵循物竞天择，适者生存，劣者淘汰的自然规律进化。
   达尔文有一句话这么说的：

能够生存下来的往往不是最强大的物种，也不是最聪明的物种，而是最能适应环境的物种
简单的说，随着时间的流逝，一代代的繁殖，不管外部的环境如何恶劣，都会通过遗传和变异生存下来，以致适应环境。不适应环境的生物将会被淘汰。

人类的进化概要图如下：

1.png 2.png

2. 遗传算法的原理
   遗传算法的基本原理就是模拟上述的繁殖遗传的过程。

   
   3.png

提炼出遗传算法的基础组件如下：

• 种群(Population)

生物进化是以群体的形式进行的，人类就是一个种群，种群还可以分为子种群，每个子种群分别进化

• 个体(Individual)

组成种群的独立单个物种

• 染色体(Chromosome)

包含一组基因，个体由多个染色体组成

• 基因(Gene)

可用于遗传的因子，并且携带特有的适应能力的信息

• 交叉(Crossover)

个体之间交换染色体，交叉繁殖遗传基因，形成新的个体

• 复制(reproduction)

复制优秀的个体，遗传基因

• 变异(Mutation)

根据一定概率基金突变，增强基因的多样性

• 进化(Evaluation)

根据优胜劣汰原则，进化优秀个体，淘汰劣类个体

遗传算法实现的方法

遗传算法实现的步骤大体分为基因编码解码，种群初始化，选择算子，交叉算子，变异算子，适应度函数(评价函数或者目标函数)。每个步骤的优化都会影响到遗传算法整体的优化结果。

基因编码

• 二进制编码

二进制编码顾名思义由二进制来编码，由0和1组成的基因编码成染色体

如右图: 4.png

适用场景：解决背包问题
详解：背包问题一般给定某些东西固定的大小和价值，背包的容量是有限的，优化最大背包价值类似的问题

• 实数编码

实数编码是在给定的连续或者离散的区间内，将实数组合成有序的序列的一种编码

如右图： 5.png

适用场景：解决排序的优化问题，例如TSP问题，任务排序，任务调度等问题
详解：这类问题对于顺序敏感，TSP问题就是路径规划的优化

• 字符编码

实数编码其实可以认为是字符编码的一种，实数编码的基因都是实数组成的，而字符编码可以由字母，单词，数字等组成，字符编码也可以将字符通过定义固定字典表的方式，转换成实数编码。

如右图： 6.png

适用场景：优化神经网络的参数，权重等
详解：在设计好的神经网络的模型中，使用遗传算法优化权重，得到最佳的输出

• 符号编码

一般符号编码都使用树来存储，所以符号编码也可以称为树编码，是一种复杂的编码方式。量化投资的因子挖掘编码就是采取这种方式。

7.png

适用场景：给定特征，找出一个函数，以达到目标优化的方式
详解：这种方式，每一个特征可以作为一个变量成为基因，每一个表达式就是一个染色体，对于这个染色体的交叉和变异其实就是树节点的交换和变异。

选择算子

• 轮盘赌选择算法(Roulette Wheel Selection)

每个个体进入下一代的概率和它的适应度值成正比，它的进化概率是个体的适应度占总的适应值的比例。
具体算法如下：

1. 计算每个个体的适应度值$f(x_i), i = (1,2,...,n)，n为种群的大小$

2. 计算种群所有个体的进化到下一代的概率。

   
   image.png

3. 计算个体的积累概率。

   
   image.png

4. 在[0, 1]区间生成一个随机数r

   
   image.png
5. 重复(4)共N次。这样就选出来了一个新的种群。

举例如下：

image.png 8.png

如同轮盘旋转一样，面积越大，落上去的概率越大

优点：选择的概率与它的适应值成正比
缺点：适应度如果差别太大，如果最好的染色体适应值占比90%，那其他的染色体的进化机会将很小，这样不利于种群进化的多样性了。

• 排名选择算法

这种选择算法就会避免上述适应度差别很大的问题。

image.png

• 精英选择算法

将种群中最好的适应度的个体直接进化到下一代，避免优秀的个体在交叉和变异的时候，丢失良好的基因。

• 其他选择算法

还有其他的扩展的选择算法，例如随机竞争选择、期望值选择，排挤策略等

交叉算子

• 单点交叉

指在个体编码基因串中只随机设置一个交叉点，然后再该点相互交换两个配对个体的部分基因

如右图： 9.png

• 两点交叉

指在个体编码基因串中随机设置两个交叉点，然后再该点相互交换两个配对个体的部分基因

如右图： 10.png

• 一致交叉

两个配对的个体在每个基因点上以相同概率交叉

如右图： 11.png

• 算术交叉

通过算术表达式计算得到新的基因，例如and，or，xor等

如右图： 12.png

符号编码的交叉

13.png

变异算子

• 基本位变异：对个体基因编码中以变异概率、随机指定的某一位或某几位做变异。
• 均匀变异：分别用符合某一范围内均匀分布的随机数，较小的概率来替换所有基金的基因值。（特别适用于在算法的初级运行阶段）
• 边界变异：随机的取基因两个对应边界基因值之一去替代原有基因值。特别适用于最优点位于或接近于可行解的边界时的一类问题。
• 非均匀变异：对原有的基因值做一随机扰动，以扰动后的结果作为变异后的新基因值。对每个基因座都以相同的概率进行变异运算之后，相当于整个解向量在解空间中作了一次轻微的变动。
• 高斯近似变异：进行变异操作时用符号均值为Ｐ的平均值，方差为Ｐ２的正态分布的一个随机数来替换原有的基因值。
  以上最常用的是基本位变异，其他的变异算法需要读者自己深入研究。

• 二进制变异

将基因进行变异即可

如右图： 14.png

• 实数变异

将实数进行变异即可

如右图： 15.png

• 符号变异

将树上的节点变异，不过操作符只能变异成操作符，变量只能变异成变量

如右图： 16.png

注意：不管是交叉还是变异，都存在一定概率进行， 交叉和变异概率均是超参，不能太小，也不能他大，太大会不容易收敛到最优解，太小将容易导致种群多样性差，容易收敛。

适应度函数

适应度函数也称为评价函数，适应度函数和目标函数是两个概念，适应度函数是根据目标函数区分群体中个体的好坏的标准，适应度函数总是非负，而目标函数可能为正也可能为负。所以一般需要在两者之间进行转换。适应度函数可以理解为综合目标的一个最终评分。

适应度函数设计的要求：

• 简单分值
• 非负
• 越大越好
• 计算简单

目标函数转换适应度函数方法：

• 直接转换

  
  image.png

• 线性转换

  
  image.png
  

  多个优化目标按照权重分配转换成适应度值

• 指数转换

  
  image.png

遗传算法在量化投资的应用

遗传算法复制指数

在投资中，指数基金就是通过复制标的是指数的基金，一般分为完全复制，部分复制，抽象复制。例如沪深300指数，我们用沪深300的少数的成分股来复制沪深300指数。

模型分析：

• 选多少只股票（成本问题）
• 选择哪些成分股（跟踪误差问题）
• 股票权重分配（跟踪误差问题）

模型限制条件问题如下：

• 成分股的数量固定，等于M
• 成分股的持股比例有大小限制，min < x < max

目标函数定义：

1. 跟踪误差 - 与指数偏离的程度

   
   image.png

2. 超额收益 - 组合的收益率超过指数的收益率

   
   image.png

最后适应度函数就是： image.png

还可以定义为 image.png

其中w是超参，两个目标的权重。

具体实现步骤参数如下：

17.png

跟踪误差结果：

18.png
注意：在投资领域不是收益越高越好，而是要求收益高的同时，波动要小。一般用夏普值来衡量，在实际过程中，考虑的因素更多，比如交易手续费，停牌，st类的股票等等。

遗传算法做因子挖掘

在量化投资领域，多因子模型是量化投资的重要并且传统一个模型，因子是模型的原料，量化模型就是把不同类的因子按照一定方式组合在一起，去选股，并且预测收益。因子也可以称之为特征。在模型中你可以放入多种多样的因子，比如：动量因子，市值类因子，基本面因子，反转类因子，趋势类因子，波动因子等等。这些因子的数据来源于行情数据，高频数据，基本面数据，新闻数据，研报数据，宏观量化类，行业分析类等等。
简单因子：((close - open) / ((high - low) + .001))
复杂因子：((rank(ts_correlation(ts_sum(((high + low) / 2), 19), ts_sum(adv60, 19), 8)) < rank(ts_correlation(low, volume, 6))) * -1)

模型分析:
因子挖掘考虑因子的可交易性，目标函数最优，换手率低，泛华能力强且稳定。

• 选哪些股票参与训练
• 选定in-sample的训练时间，out-sample的样本时间
• 选定股票权重
• 选定股票收益计算周期
• 选定股票交易价格类型(open，close，vwap)
• 选定因子极值处理

基因和染色体选择:

• Terminal Set: open、close、high、low、returns、volume、随机数
• Function Set: rank(横截面的排序)、ts_rank(时间序列排序)、correlation(横截面相关性)、ts_correlation(时间序列相关性)、decay(时间序列衰减)、decay_linear(线性衰减)、ts_mean(简单平均)、ema(加权平均)、?:(if else三元表达式) ，min，max，ts_min，ts_max

模型限制约束条件:

• 因子有效数据占比(>60%)
• 因子值数据分布
• 因子ICIR或者Sharp最低值
• 因子目标值的t-value值

目标函数定义:

• `ICIR：

  
  image.png

• Sharp(夏普值)：

  image.png

• 换手率：一买一卖就是换手。换手率目标是越小越好，但是不能太小，换手才会带来收益，过高的换手会导致交易成本太高。同样也不能收益

适应度函数：

image.png

具体参数配置：

19.png

遗传算法参数配置含：

• 种群个体个数
• 子种群个数
• 随机种子
• 选择算子
• 交叉算子和交叉概率
• 变异算子和变异概率
• 适应度函数配置
• 树深度配置
• Terminal Set配置
• Function Set配置
• 其他超参配置

结果sharp进化图：

20.png

总结：遗传算法不仅金融领域应用广泛，还可以优化机器学习超参、机器人路径规划、流水车间调度等领域都可以应用。

遗传算法优化

1. 容易局部收敛的问题

遗传算法的局部搜索很强，所以一般容易收敛用以下解决方案，具体情况具体对待。

• 扩大搜索空间
  提高种群的数量、增加数据种类和数量、增加算子
• 提高种群多样性
  调整交叉策略、提高交叉概率、调整变异策略、提高变异概率
• 毁灭优秀个体
  对优秀个体进行存活周期倒计时，如果规定的周期内没有出现新的优秀个体，就直接杀死优秀个体，让携带有优秀基因且暂时远离目标的个体存活。

2. 不容易收敛的问题

• 减少搜索空间
  减少种群数量，减少数据种类和数量、减少复杂的算子
• 降低种群多样性
  降低交叉概率和变异概率
• 精英策略
  防止精英由于交叉变异被破坏，不能进化到下一代，对于较好的精英直接不通过交叉和变异直接进化到下一代。

3. 过拟合问题

过拟合问题是在in-sample表现很好，out-sample表现非常差的问题。
样本数据
增加样本数据，让少量样本数据覆盖整体样本
模型
一开始不要使用复杂的模型，不要把所有的数据加入到模型中。
数据清洗
对于数据进行清洗，分析清洗后的数据的分布
中性化
对于相关性很高的因子可以进行中性化处理，避免朝着那个方向进化

4. 多目标收敛平衡问题

单目标进化
一开始先单目标进化，收集一定的数据，分析数据分布情况
惩罚系数
对于目标拟合的时候，进行惩罚，惩罚可以根据周期进行线性，指数惩罚力度

遗传算法优缺点

1. 优点：

• 基于群体的搜索，具备进化能力，不是穷举搜索
• 适应度函数简单操作
• 遗传算法很容易做分布式计算处理
• 遗传算法大大提高了搜索效率
• 遗传算法基于概率变异，具有一定随机性
• 遗传算法可以与其他算法结合，例如可以优化机器学习的超参

2. 缺点：

• 遗传算法受初代随机种群影响很大，可以结合启发式算法改进
• 遗传算法的诸多参数，例如交叉率、变异率影响了搜索结果，目前大多依赖经验值
• 遗传算法利用交叉和变异产生种群，搜索速度慢

3. 改进：

• 编码改进 ：格雷编码、动态编码
• 选择进化：随机竞争选择，特定目标挑选
• 交叉改进：多点交叉，单点交换
• 自适应：自适应遗传算法，精英策略年龄，种群年龄
• 效率：并行计算，分布式计算

参考

1. http://www.obitko.com/tutorials/genetic-algorithms/index.php
2. https://en.wikipedia.org/wiki/Genetic_algorithm