一、原理及简介

弹性网络.png

二、什么是L2正则化和L1正则化

原理及作用：https://blog.csdn.net/liuweiyuxiang/article/details/99984288

三、弹性网络预测天池项目代码

导包

import numpy as np

# cross validation：交叉验证
# 传递参数的时候，一次可以传递多个，挑选最合适的
from sklearn.linear_model import ElasticNet,ElasticNetCV

# train_test_split 数据一分为二
from sklearn.model_selection import train_test_split

# metrics 评估
# mean_squared_error均方误差
from sklearn.metrics import mean_squared_error

# pandas非常重要，机器学习，深度学习中，都要加载，处理数据
import pandas as pd

加载数据

# 脱敏数据
train = pd.read_csv('./zhengqi_train.txt',sep = '\t')
# test测试数据，没有target
# 模型算出来，计算
# 标准答案，阿里巴巴服务器
# 使用模型计算结果，提交到阿里巴巴，评分
test = pd.read_table('./zhengqi_test.txt')

# 通过DataFrame切片的方式，获取了数据X和目标值y
# 数据，特征，38个特征，工场，传感器采集
X = train.iloc[:,:-1]
# y是目标值
y = train['target']

训练数据，划分成两份，一份是训练，另一份用于验证，评估，模型好坏

# 算法评估，将数据分成两份，一份训练，另一份，验证
# validatioin 验证
# random_state 随机数的种子，固定，每次生成的数据一样的
X_train,X_validation,y_train,y_validation = train_test_split(X,y,test_size = 0.2,random_state = 1024)
y_validation[:5]

1073    0.176
168     0.411
1389   -0.642
436     0.584
1279    1.067
Name: target, dtype: float64

# 算法评估，将数据分成两份，一份训练，另一份，验证
# validatioin 验证
# random_state 随机数的种子
X_train,X_validation,y_train,y_validation = train_test_split(X,y,test_size = 0.2,random_state = 1024)
y_validation[:5]

1073    0.176
168     0.411
1389   -0.642
436     0.584
1279    1.067
Name: target, dtype: float64

使用弹性网络ElasticNet训练和学习

model = ElasticNet(alpha = 0.3,l1_ratio=0.2)
model.fit(X_train,y_train)
y_ = model.predict(X_validation)
print('弹性网络mse：',mean_squared_error(y_validation,y_))

弹性网络mse： 0.13775398067490824

# alphas 一次给了多个alpha，算法从其中删选最好的，得分最高的，mse（误差，越小越好）
# ElasticNet模型就是删选alpha 
# l1_ratio这个参数需要一个个尝试
model = ElasticNetCV(l1_ratio=0.09,alphas=[0.1,0.63,0.71,0.72,0.62])
model.fit(X,y)#训练所有的数据，希望算法找到更多的规律
y_ = model.predict(X_validation)
print('弹性网络mse：',mean_squared_error(y_validation,y_))
result = model.predict(test)
pd.Series(result).to_csv('./elasticnet.txt',index = False,header = False)
print(model.alpha_)

弹性网络mse： 0.11087170958128821
0.1