搜索结果
查询Tags标签： gradient，共有 42条记录-
动手实现深度学习(4): 神经网络的backward实现
传送门： https://www.cnblogs.com/greentomlee/p/12314064.html github: https://github.com/Leezhen2014/python_deep_learning在第二篇中介绍了用数值微分的形式计算神经网络的梯度，数值微分的形式比较简单也容易实现，但是计算上比较耗时。本章会介绍一种能够较为高效…
2022/9/12 23:23:17 人评论 次浏览 -
grade, gradian, gradient
In trigonometry [三角学], the gradian [百分度], also known as the gon (from Ancient Greek: γωνία, romanized: gōna, lit. angle), grad, or grade, is a unit of measurement of an angle, defined as one hundredth of the right angle. In other words, th…
2022/8/5 23:25:15 人评论 次浏览 -
Tensorflow（三） 自动微分
本章学习TensorFlow中的自动微分： https://tensorflow.google.cn/guide/autodiff 自动微分的含义 参考：https://zhuanlan.zhihu.com/p/61103504 https://en.wikipedia.org/wiki/Automatic_differentiation深度学习中的反向传播的实现借助于自动微分。 让计算机实现微分功…
2022/5/5 23:21:17 人评论 次浏览 -
VASP结构优化INCAR相关参数
IBRION=1，quasi-Newton法，对初始结构敏感，适合极值附近的优化 =2，conjugate gradient法，一般优先采取，待初步优化结束后，转换为1 =3，
2022/5/3 1:13:17 人评论 次浏览 -
机器学习中的优化 Optimization Chapter 2 Gradient Descent(2)
\(\large \bf{Theorem }\ 2.7:\) \(f:\mathbb{R^d}\rightarrow\mathbb{R}\text{ be convex and differentiable with a global minimum }x^*;\text{ Suppose }f\text{ is smooth with parameter }L.\text{ Choosing stepsize: }\gamma = \frac{1}{L},\text{ gradients des…
2022/4/29 6:13:00 人评论 次浏览 -
机器学习中的优化 Optimization Chapter 2 Gradient Descent(1)
1. Step of Gradient descent \[\begin{equation}x_{t+1} = x_t-\gamma \nabla f(x_t) \end{equation} \]2. Vanilla Analysis \(\text{Let }{\bf g_t} = \nabla f(x_t)\),\(\text{ therefore we can get:}\) \[\begin{equation}g_t = (x_t-x_{t+1})/\gamma \end{equation…
2022/4/25 6:42:36 人评论 次浏览 -
Liner Regression
import numpy as np# y = w*x + b def compute_error_for_line_given_points(b,w,points):totalError=0for i in range(0,len(points)):x=points[i,0]y=points[i,1]totalError +=(y-(w*x+b))**2return totalError / float(len(points))def step_gradient(b_current,w_curr…
2022/4/2 23:23:44 人评论 次浏览 -
彩虹雨(源码)html css+js(22行)
1.效果图思路:首先 搭建好 一个 ‘< i >’ 的样式 还用下落的动画 接着使用for循环 创建多个 并添加到body中 2.html <!DOCTYPE html> <html lang="en"> <head><meta charset="UTF-8"><meta http-equiv="X-UA-…
2022/3/1 9:51:41 人评论 次浏览 -
什么？使用JavaScript也可以编写桌面小组件？
灵感来源 受益于最近抖音上面一些推广app的视频，其中有一个是可以将自己的照片，文字等发送到情侣的桌面小组件上，主打「情侣」、「恋爱」这类标签。并且还挺多人喜欢这种… 试问：哪个男孩子会拒绝拥有一个专属ios小组件，甚至女朋友的照片呢？ 身为一名合格的程序员就…
2022/2/21 17:29:14 人评论 次浏览 -
HW2-Logistic regression&Mini-batch gradient descent classfication
施工中 先按照范例写了用Mini-batch的logistic regression，处理方式和范例有一些区别，因为不太会numpy，只会矩阵向量乘来乘去，不会用广播之类的操作((( 如果仿照范例不做优化的话，在train_set上跑出来的acc和loss和范例差不多Preprocess import numpy as npwith open…
2022/1/18 23:09:05 人评论 次浏览 -
HW2-Logistic regression&Mini-batch gradient descent classfication
施工中 先按照范例写了用Mini-batch的logistic regression，处理方式和范例有一些区别，因为不太会numpy，只会矩阵向量乘来乘去，不会用广播之类的操作((( 如果仿照范例不做优化的话，在train_set上跑出来的acc和loss和范例差不多Preprocess import numpy as npwith open…
2022/1/18 23:09:05 人评论 次浏览 -
人工智能—Python实现线性回归
这篇文章主要介绍了人工智能—Python实现线性回归，人工智能分为类型、数据集、效果评估、等，线性回归根据随机初始化的 w x b 和 y 来计算 loss等步骤实现，下面来看看文章的具体实现吧 1、概述 （1）人工智能学习 （2）机器学习 （3）有监督学习 （4）线性回归 2、…
2022/1/15 20:35:06 人评论 次浏览 -
人工智能—Python实现线性回归
这篇文章主要介绍了人工智能—Python实现线性回归，人工智能分为类型、数据集、效果评估、等，线性回归根据随机初始化的 w x b 和 y 来计算 loss等步骤实现，下面来看看文章的具体实现吧 1、概述 （1）人工智能学习 （2）机器学习 （3）有监督学习 （4）线性回归 2、…
2022/1/15 20:35:06 人评论 次浏览 -
梯度下降算法求解一般函数最小值
梯度下降算法python实现 梯度下降算法 梯度下降算法（Gradient Descent Optimization）是一种神经网络模型训练最常用的优化算法。可以用于求出一般函数f(x)在取得最小值时，x的取值。 ##算法原理： 以负梯度的方向来决定每次迭代时x的变化方向，就能够使得每次迭代后，目…
2022/1/3 20:37:22 人评论 次浏览 -
梯度下降算法求解一般函数最小值
梯度下降算法python实现 梯度下降算法 梯度下降算法（Gradient Descent Optimization）是一种神经网络模型训练最常用的优化算法。可以用于求出一般函数f(x)在取得最小值时，x的取值。 ##算法原理： 以负梯度的方向来决定每次迭代时x的变化方向，就能够使得每次迭代后，目…
2022/1/3 20:37:22 人评论 次浏览
