梯度和法向量的统一理解

1.梯度

严格意义上梯度只能说是只是函数的梯度。

以二元函数 $z=f(x,y)=x^{2}+y^{2}$ 为例，对应的平面方程：

$z-x^{2}-y^{2}=C$

在某一点 $x_{0}$ = $(x_{0},y_{0})$ 处，如果我们直接算 $(x_{0},y_{0})$ 处的梯度，得到的是一个二维向量 $(2x_{0},2y_{0})$ ,记作

向量 $\alpha$ 。显然这个向量并不是该平面上这一点的法向量，连维度都不够格。

另外，这里的梯度表示，沿 $\alpha$ 方向 $z$ 的变化速率最快，好像是个跟切线和斜率类似的东西。

2.法向量

现在我们来算算这一点的法向量。

$\beta =(F^{'}_{x}( x_{0},y_{0},z_{0}),F^{'}_{x}(x_{0},y_{0},z_{0}),F^{'}_{x}(x_{0},y_{0},z_{0}) )=(-2x_{0},-2y_{0},z_{0})$

发现了什么？

$\alpha$ 是 $\beta$ 在 $x\_O\_y$ 平面上的投影！

3.如何解释？

为什么算法向量和算梯度的方法那么相似？为什么法向量的投影就是梯度？

是因为我们算法向量的时候实际上是构造了大 $F(x)=z-f(x)=z-x^{^{2}}-y^{^{2}}$ ,这个 $F$ 函数的梯度

表示的是沿什么方向 $z$ 与 $f(x)$ 的差值变化最快，也就是 $f(x)$ 脱离 $z$ 最快，显然应该是沿垂直切平面

的方向脱离最快。梯度是梯度，法向量是法向量，维数不同，梯度更多地是对函数的意义，法向量

更多地是对方程图像的意义，二者并不矛盾。

4.实际使用

以一个实际应用场景举例：算层流管中流速对离轴半径的梯度，这里的梯度就是“该函数”的梯度，

得到的是一个一维向量，也即一个数，但流速-半径关系的图象是二维的，该梯度并不能充当某点

处的法向量，反而反映了类似斜率的变化性质。

在神经网络中有gradient-descent的概念，该概念中梯度的意义类似。

标签：神经网络抽象代数几何学

本文转载自: https://blog.csdn.net/weixin_60590827/article/details/124797071
版权归原作者 dyx30 所有，如有侵权，请联系我们删除。