美文网首页
二分法、牛顿法、梯度下降法求解开根号

二分法、牛顿法、梯度下降法求解开根号

作者: 星光下的胖子 | 来源:发表于2021-04-12 08:52 被阅读0次

求解开根号(\sqrt v)

  1. 二分法
    • 1)迭代公式:x = (a + b) / 2
    • 2)令f(x) = x ^ 2 - v,若f(x)>0, b=x;若f(x)<0, a=x
    • 3)重复1)、2)过程,直到f(x)=0|f(x)|<\epsilon(\epsilon是一个很小的正数)。
    • f(x) = x ^ 2 - v
  2. 牛顿法
    • 迭代公式:x = x - f(x) / f'(x)
    • f(x) = x ^ 2 - v
  3. 梯度下降法
    • 迭代公式:x = x - lr * f'(x),lr是学习率
    • f(x) = x ^ 2 - v, loss = (x ^ 2 - v) ^ 2
1.二分法
2.牛顿法
3.梯度下降法

相关文章

  • 二分法、牛顿法、梯度下降法求解开根号

    求解开根号() 二分法1)迭代公式:2)令,若;若。3)重复1)、2)过程,直到或(是一个很小的正数)。 牛顿法迭...

  • 最优化方法

    常见最优化方法 1.梯度下降法 2.牛顿法 3.拟牛顿法 4.共轭梯度法

  • 牛顿法和梯度下降法的学习

    牛顿法和梯度下降法的差别 牛顿法:二次逼近梯度下降法:一阶逼近 牛顿法:对局部凸的函数找到极小值,对局部凹的函数找...

  • 局部搜索之牛顿法

    除了前面说的梯度下降法,牛顿法也是机器学习中用的比较多的一种优化算法。 牛顿法求方程解 牛顿法又称为牛顿-拉弗森方...

  • 【转】常见的几种最优化方法

    转自Poll 的笔记 阅读目录 梯度下降法(Gradient Descent) 牛顿法和拟牛顿法(Newton's...

  • 2018-08-23

    1.gbdt,xgboost,lgbm的区别(阿里,头条) 2.梯度下降法,牛顿法,拟牛顿法区别(阿里) 3.SG...

  • 梯度下降法和牛顿法求最优解

    问题描述 思路 梯度下降法深度截图20170423135233.png 牛顿法深度截图20170423135205...

  • PyTorch基础知识

    一. 常用优化方法 最小二乘法,牛顿法,拟牛顿法,梯度下降法 二. tensor和numpy array的相互转换...

  • 拟牛顿法的原理

    多元函数的泰勒展开式image-20200403212859301.png 牛顿法牛顿法是梯度下降法的进一步发展,...

  • 机器学习算法(公式图解:LR&SVM)

    Logistic函数 可用牛顿迭代法/梯度下降法求解。随机梯度下降法:一次仅用一个样本点(的回归误差)来更新回归系...

网友评论

      本文标题:二分法、牛顿法、梯度下降法求解开根号

      本文链接:https://www.haomeiwen.com/subject/ptaikltx.html