线性回归
权重与特征相乘的和再加上偏置项。所以线性回归就是找到权重与偏置项的值
算法:线性回归
策略:均方误差
优化:梯度下降
步骤:
- 准备好特征与目标值
- 建立模型。随机初始化和特征数相同的权重w和一个偏置b,y_predict = wx+b。注意:只要是模型的参数,必须是变量(Variable)
- 求损失函数,误差。这里选均方误差,loss = ((y_predict1-y1)^2 +...+ (y_predictn-yn)^2)/特征数
- 梯度下降去优化损失过程,指定学习率
api
梯度下降api:
在这里插入图片描述
**线性回归实现 **
import tensorflow as tf
def myregression():
"""
自实现一个线性回归预测
:return: None
"""
#准备数据
x = tf.random_normal([100, 1], mean=1.75, stddev=0.5, name="x_data")
y_true = tf.matmul(x, [[0.7]]) + 0.8 #矩阵相乘必须是2维的
#建立线回归模型
weight = tf.Variable(tf.random_normal([1, 1], mean=0.0, stddev=1.0, name="weight"))
bias = tf.Variable(0.0, name="bias")
y_predict = tf.matmul(x, weight) + bias
#建立损失函数,均方误差
loss = tf.reduce_mean(tf.square(y_predict-y_true)) #reduce_mean是计算平均值
#梯度下降优化损失
train_op = tf.train.GradientDescentOptimizer(learning_rate=0.1).minimize(loss) #梯度下降去进行优化,即最小化损失,所以后面加了minimize
#定义一个初始化变量的op
init_op = tf.global_variables_initializer()
#通过会话运行程序
with tf.Session() as sess:
#初始化变量
sess.run(init_op)
#打印随机初始化的权重和偏置值
print("随机初始化的参数权重为:\n", weight.eval(), "\n偏置为:\n", bias.eval())
#运行优化
#循环训练优化
for i in range(100):
sess.run(train_op)
print("优化",i,"次优化过后的参数权重为:", weight.eval(), " 偏置为:", bias.eval())
return None
if __name__ == "__main__":
myregression()
在这里插入图片描述
由于优化次数和学习率(学习的快慢)的原因,这里的结果和正确值之间还存在较大偏差
因为Variable有一个参数trainable,默认为True,即在训练过程中可以被优化(改变),所以通过优化算法进行优化
网友评论