深度学习敲门砖——神经网络

系列文章目录

第一章 深度学习敲门砖——神经网络

前言

    随着人工智能的不断发展，机器学习这门技术也越来越重要，深入了解下很多人也都开启了学习深度学习了，本文就介绍了深度学习的敲门砖——神经网络。深度学习以神经网络为出发点！可以说深度学习，就是叠加了很多层的神经网络！

一、神经网络是什么？

1.1 神经网络的基础

1）神经元形成网络，每个神经元判断从其他多个神经元传递的不同权重的信号和是否超过一固定的阙值，并通过点火（神经元作出反应）的方式想另外的神经元传递固定强度的信号。

2）在实际研究中，神经元可以简化为神经单元用以方便我们进行分析判断：

3） 神经元和神经单元的不同点：

4）点火的判定条件：

5）激活函数：

6）Sigmoid函数：

** 基础总结：**

1）将神经元的多个输入x1,x2,···,xn整理加权输入z。

    z = w1x1+w2x2+···+wnxn+b（其中w1,w2···,wn为权重，b为偏置，n为输入的个数）

2）神经单元通过激活函数a(z)，根据加权输入z输出y（y=a(z)）。将这样的神经单元连接为网络状，就形成了神经网络。

1.2 阶层型神经网络

1）阶层型神经网络按照层（layer）来划分神经单元，并通过这些神经单元处理信号，并从输出层得到结果，前一层的神经元和下一层的所有神经单元都有箭头连接，这样的层构造称为全连接层。

2）输入层：负责读取给予神经网络的信息，属于这个层的神经单元没有输入箭头，他们是简单的神经单元，只是将从数据得到的值原样输出。

3）隐藏层：隐藏层的神经单元执行信息处理操作。在神经网络中，这是实际处理信息的部分。简单来说，隐藏层负责提取输入图像的特征。（附：隐藏层的层数和构成每层的神经单元的数量都是由具体情况确定的）

4）输出层：输出层与隐藏层一样执行信息处理操作，并显示神经网络计算出的结果，也就是整个神经网络的输出。

二、恶魔例题助你掌握神经网络

2.1 恶魔模式解析神经网络结构

    假设有一个如下图所示的恶魔组织，隐藏层住着3个隐藏恶魔A,B,C,输出层住着2个恶魔0和1。输入层有12个恶魔手下1~12为隐藏恶魔A,B,C服务。

1）隐藏恶魔A,B,C有不同的喜好。他们分别喜欢下图所示的模式A、模式B、模式C的图案。这个性质影响了神经网络的特性。

2） 住在最上层的两个输出恶魔也是从住在下层的3个隐藏恶魔那里得到兴奋度信息。与隐藏恶魔一样，他们将得到的兴奋度信息进行整合，根据其值的大小，自己也变兴奋。然后，这些输出恶魔的兴奋度就决定的整个恶魔组织的意向。如果输出恶魔0的兴奋度比输出恶魔的1的兴奋度 打，则神经网络就判定图像的数字为0，反之则判定为1。

3）以下统一展示恶魔组织的所有人际关系：

2.2 将恶魔的工作翻译为神经网络的语言

1）图形转化：

2）恶魔之间的“交情”表示权重：

3）以0为例展示神经网络兴奋度的传递：

4）隐藏层为何是由3个神经单元构成：

三. 网络自学习的神经网络

1）神经网络的参数确定方法分为了有监督学习和无监督学习；

2）有监督学习：为了确定神经网络的权重和偏置，事先给予数据，这些数据称为学习数据；

3）根据给定的学习数据确定权重和偏置，称为学习；

4）计算神经网络得出的预测值与正解的误差，确定使得误差总和达到最小的权重和偏置。这在数学上称为模型上的最优化；

5）针对全部的学习数据，计算预测值和正解的误差的平方（称为平方误差），然后再相加。这个误差的总和称为代价函数，用符号表示：

总结

    以上就是今天要讲的内容，本文由浅到深的介绍了神经网络的概念及案例解析，而深度学习以神经网络为出发点，可以说深度学习，就是叠加了很多层的神经网络！

    欢迎大家留言一起讨论问题~~~