美文网首页
导数

导数

作者: 天空_dst | 来源:发表于2024-10-04 13:18 被阅读0次

title: 导数

指数

指数是指多个相同数据的乘积如：

y = x _ x _ x 可以表示为 y = x^3

对数

对数和指数为互逆预算

y=x^3 求 x 的 z 次方是 y： z=logx^y

常见的指数与对数：

  1. y=e^x (e 是一个数学上非常重要的常数 值为： 2.71828)
  2. y=log(x) 以 10 为底的对数
  3. y=ln(x) 以 e 为底的对数

微积分

导数

f(x)' = \lim_{{h \to 0}} \frac{{f(x + h) - f(x)}}{h}

导数在几何上可以表示曲线在某一点的斜率、在物理上可以用来描述物体的速度或者加速度。

常见的求导公式：

  1. 常数求导：\frac{d}{dx}c=0 、\frac{d}{dx}ax=a

  2. 冥函数导数：\frac{d}{dx}(x^n)=nx^{n-1}

  3. 指数求导：\frac{d}{dx}(a^x)=a^xln(a)、\frac{d}{dx}(e^x)=e^x

  4. 对数求导:\frac{d}{dx}(log_ax)=\frac{1}{xln(a)}、\frac{d}{dx}(ln(x)) = \frac{1}{x}

导数的运算公式：

  • 常数倍法则

如果一个函数 f(x)与 常数 C 相乘 那么他的导数也等于常数 与原来函数导数的乘积

\frac{d}{dx}(c \cdot f(x)) = c \cdot \frac{e}{dx}(f(x))

  • 和差法则

如果一个函数 f(x) 与 另外一个函数 g(x) 相加或者相减，那么他们的倒数也等于各自倒数的和或者差

  1. 相加：

\frac{d}{dx}(f(x) + g(x)) = \frac{d}{dx}(f(x)) + \frac{d}{dx}(g(x))



  1. 相减:

\frac{d}{dx}(f(x) - g(x)) = \frac{d}{dx}(f(x)) - \frac{d}{dx}(g(x))

  • 乘积法则
    如果一个函数 f(x) 与另外一个函数 g(x) 相乘，那么他们的倒数等于第一个函数乘于第二个函数的倒数在加上第二个函数乘于第一个函数的导数

\frac{d}{dx}(f(x) \cdot g(x)) = f(x) \cdot \frac{d}{dx}(g(x)) + g(x) \cdot \frac{d}{dx}(f(x))

  • 链式法则

如果一个函数由 2 个函数组成 f(x) = f(g(x)) 则：

\frac{dy}{dx} = \frac{df}{du} \cdot \frac{du}{dx}

如果一个函数的导数大于 0，则函数是单调递增的，如果函数的导数小于 0 则函数是单调递减的

偏导数

当一个函数有多个变量组成时 求某一个变量对于函数 f(x)的影响 可以把其他几个变量当做常数

如：

y=x^2 + z^2 + k^2

求 x 的偏导数 ∂f/∂x 把 z 和 k 看做是常数: y=x^2 + z + k(其中 z 和 k 为常数)

高阶导数

对一个导函数再次求导</br>

y=x^3

一阶导数为：

f(y)' = 2x^2

二阶导数为：

f(y)'' = 4x

导数的应用

梯度下降

梯度是一个矢量，在数学中常用来表示函数在某个点处的方向导数的最大值，它描述了在每个点的方向上函数值变化最快的方向以及变化的速度。

梯度下降是一种优化算法，作用是帮助我们找到到函数的最小值点。通过不断地沿着梯度负方向更新参数，逐渐接近函数的最小值点。

以预测打车费用为例：

y = wx + b 要求的 w 权重和 b 偏执的真实值

损失函数为均方误差

y = \frac{1}{n} \sum_{i=1}^{n}(y_i - \hat{y}_i)^2

y_i 为实际值

\hat{y}_i 为预测值

先求得 w 对 y 的偏导数

img

如何找到 B 点 找 B 点的过程即为让损失函数最小
一次对 w 和 b 求偏导数

∂f/∂w = \frac{2}{n} \sum_{i=1}^{n}(-x_i)(y_i - (wx_i + b))

∂f/∂b = \frac{2}{n} \sum_{i=1}{n}(-1)(y_i - (wx_i + b))

假定初始值 w = 1 b = 0

公里数 价格 预测价格 损失 ∂f/∂w ∂f/∂b
1 8 1 49 -14 - 7
2 10 2 64 -32 -16
3 12 3 81 -54 -27
4 14 4 100 -80 - 40
73.5 -45 -22.5

更新梯度

rate 为学习率

dw = w - rate * ∂f/∂w = 1- 4.5 = 5.5

db = w - rate * ∂f/∂b = 0- (-2.25) = 2.25

重复计算 最终得到的 w 和 b 会很接近真实值

本文由mdnice多平台发布

相关文章

  • 高等数学公式1

    反函数的导数等于直接函数导数的倒数! 和的N阶导数比较简单 微分和导数的公式

  • 用多个点来近似求导，并给出精度

    一阶导数 二阶导数 三阶导数 高阶导数 参考：http://ocw.snu.ac.kr/sites/default...

  • 吴恩达深度学习2.5-2.8

    第二周 神经网络基础 2.5 导数 导数 · 导数定义 导数（Derivative），也叫导函数值。又名微商，是微...

  • 深度学习应用到的数学知识

    导数 导数的定义 导数的基本求导法则传送门 梯度和Hessian矩阵 一阶导数和梯度(gradient vecto...

  • 【转】（3）高阶导数（第二章 导数与微分）

    今天我们来学习高阶导数。 什么是高阶导数 一般的，把y=f(x)的导数称做一阶导数，我们对一阶导数求导就得到了二阶...

  • 导数，偏导数，导数方向，梯度

    导数 导数反应的变化率：一个函数在某一点的导数描述了这个函数在这一点附近的变化率。导数的本质是通过极限的概念对函数...

  • 梯度下降和上升

    在介绍梯度概念之前，首先需要引入偏导数和方向偏导数的概念， 偏导数： 所谓偏导数，简单来说是对于一个多元函数，选定...

  • 机器学习的数学基础

    高等数学 1.导数定义： 导数和微分的概念 （1） 或者： （2） 2.左右导数导数的几何意义和物理意义 函数在处...

  • 机器学习数学基础复习

    高等数学 1.导数定义： 导数和微分的概念 （1） 或者： （2） 2.左右导数导数的几何意义和物理意义 函数在处...

  • T0004导数原型

    有些导数的问题 , 尤其是抽象函数的导数问题 , 需要根据给出的导数还原函数的 形式 , 准确地将含有导数的不等式...

网友评论

      本文标题：导数

      本文链接：https://www.haomeiwen.com/subject/qkoyrjtx.html

      延伸阅读

      深度阅读

      • 您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

      栏目导航

      热点阅读

      关于我们|服务条款|联系我们|导数|投稿指南|网站地图|RSS订阅|排版工具|手机版

      提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

      Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网 版权所有

      备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

      本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

      所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！