美文网首页
2018-08-06 Tensorflow基础构架

2018-08-06 Tensorflow基础构架

作者: maple_yang | 来源:发表于2018-08-06 10:11 被阅读0次

    一、处理结构

      Tensorflow 首先要定义神经网络的结构, 然后再把数据放入结构当中去运算和 training.

    image

      因为TensorFlow是采用数据流图(data flow graphs)来计算, 所以首先我们得创建一个数据流图, 然后再将我们的数据(数据以张量(tensor)的形式存在)放在数据流图中计算. 节点(Nodes)在图中表示数学操作,图中的线(edges)则表示在节点间相互联系的多维数据数组, 即张量(tensor). 训练模型时tensor会不断的从数据流图中的一个节点flow到另一节点, 这就是TensorFlow名字的由来.

    张量(Tensor)

      张量有多种. 零阶张量为 纯量或标量 (scalar) 也就是一个数值. 比如 [1]
      一阶张量为 向量 (vector), 比如 一维的 [1, 2, 3]
      二阶张量为 矩阵 (matrix), 比如 二维的 [[1, 2, 3],[4, 5, 6],[7, 8, 9]]
      以此类推, 还有 三阶 三维的 …


    参考链接:https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/2-1-structure/

    二、例子

    1. 创建数据
        导入tensorflow和numpy,使用numpy创建 x 和 y 的数据。另外,由于tensorflow中大部分的数据都是float32类型,所以这里使用numpy创建float32类型的数据。
    import tensorflow as tf
    
    import numpy as np
    
    # create data
    
    x_data=np.random.rand(100).astype(np.float32)
    
    y_data=x_data*0.1+0.3
    

    2.搭建模型
      用 tf.Variable 来创建描述 y 的参数. 我们可以把 y_data = x_data*0.1 + 0.3 想象成 y=Weights * x + biases, 然后神经网络也就是学着把 Weights 变成 0.1, biases 变成 0.3.

    Weights = tf.Variable(tf.random_uniform([1], -1.0, 1.0))
    biases = tf.Variable(tf.zeros([1]))
    
    y = Weights*x_data + biases
    

    3.计算误差
      将残差平方的均值作为误差

    loss = tf.reduce_mean(tf.square(y-y_data))
    

    4.传播误差
      反向传递误差的工作就交给optimizer了, 我们使用的误差传递方法是梯度下降法: Gradient Descent 让后我们使用 optimizer 来进行参数的更新.

    optimizer = tf.train.GradientDescentOptimizer(0.5)
    train = optimizer.minimize(loss)
    
    1. 训练
        到目前为止, 我们只是建立了神经网络的结构, 还没有使用这个结构. 在使用这个结构之前, 我们必须先初始化所有之前定义的Variable, 所以这一步是很重要的!
    # init = tf.initialize_all_variables() # tf 马上就要废弃这种写法
    init = tf.global_variables_initializer()  # 替换成这样就好
    

      接着,我们再创建会话 Session. 我们用 Session 来执行 init 初始化步骤. 并且, 用 Session 来 run 每一次 training 的数据. 逐步提升神经网络的预测准确性.

    sess = tf.Session()
    sess.run(init)          # Very important
    
    for step in range(201):
        sess.run(train)
        if step % 20 == 0:
            print(step, sess.run(Weights), sess.run(biases))
    

    参考链接:https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/2-2-example2/

    三、Session会话控制

      Session 是 Tensorflow 为了控制,和输出文件的执行的语句. 运行 session.run() 可以获得你要得知的运算结果, 或者是你所要运算的部分。
      先建立两个矩阵m1和m2,计算它们的乘积product,然后在使用Session来激活product 并得到计算结果. 有两种形式使用会话控制 Session。

    import tensorflow as tf
    
    # create two matrices
    
    m1= tf.constant([[3,3]])
    m2= tf.constant([[2],
                           [2]])
    product = tf.matmul(m1,m2)
    # method 1
    sess = tf.Session()
    result = sess.run(product)
    print(result)
    sess.close()
    # output: [[12]]
    
    # method 2
    with tf.Session() as sess:
        result2 = sess.run(product)
        print(result2)
    # output: [[12]]
    

    参考链接:https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/2-3-session/

    四、Variable变量

      tensorflow中需要使用tensorflow.Variable来定义变量

    mport tensorflow as tf
    
    state = tf.Variable(0, name='counter')
    
    # 定义常量 one
    one = tf.constant(1)
    
    # 定义加法步骤 (注: 此步并没有直接计算)
    new_value = tf.add(state, one)
    
    # 将 State 更新成 new_value
    update = tf.assign(state, new_value)
    

      如果在 Tensorflow 中设定了变量,那么初始化变量是最重要的!!所以定义了变量以后, 一定要定义tf.global_variables_initializer()。到这里变量还是没有被激活,需要再在 sess 里, sess.run(init) , 激活 init 这一步。

    # 如果定义 Variable, 就一定要 initialize
    # init = tf.initialize_all_variables() # tf 马上就要废弃这种写法
    init = tf.global_variables_initializer()  # 替换成这样就好
    
    # 使用 Session
    with tf.Session() as sess:
        sess.run(init)
        for _ in range(3):
            sess.run(update)
            print(sess.run(state))
    

      注意:直接 print(state) 不起作用!!
      一定要把 sess 的指针指向 state 再进行 print 才能得到想要的结果!


    参考链接:https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/2-4-variable/

    五、Placeholder传入值

      placeholder 是 Tensorflow 中的占位符,暂时储存变量。
      Tensorflow 如果想要从外部传入data, 那就需要用到 tf.placeholder(), 然后以这种形式传输数据 sess.run(***, feed_dict={input: **})。

    import tensorflow as tf
    
    #在 Tensorflow 中需要定义 placeholder 的 type ,一般为 float32 形式
    input1 = tf.placeholder(tf.float32)
    input2 = tf.placeholder(tf.float32)
    
    # mul = multiply 是将input1和input2 做乘法运算,并输出为 output 
    ouput = tf.multiply(input1, input2)
    

      接下来, 传值的工作交给了 sess.run() , 需要传入的值放在了feed_dict={} 并一一对应每一个 input. placeholder 与 feed_dict={} 是绑定在一起出现的。

    with tf.Session() as sess:
        print(sess.run(ouput, feed_dict={input1: [7.], input2: [2.]}))
    # output: [ 14.]
    

    参考链接:https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/2-5-placeholde/#%E7%AE%80%E5%8D%95%E8%BF%90%E7%94%A8

    六、激励函数

      激励函数运行时激活神经网络中某一部分神经元,将激活信息向后传入下一层的神经系统。激励函数的实质是非线性方程。 Tensorflow 的神经网络 里面处理较为复杂的问题时都会需要运用激励函数 activation function 。


    参考链接:https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/2-6-activation/

    相关文章

      网友评论

          本文标题:2018-08-06 Tensorflow基础构架

          本文链接:https://www.haomeiwen.com/subject/nndwvftx.html