人脸表情识别系统——基于Mini-Xception网络模型实现表情分类（附完整代码）

需要全部代码请点赞关注收藏后评论区留言私信~~~

人脸表情识别系统的演示

摘要：这篇博文介绍基于深度卷积神经网络实现的人脸表情识别系统，系统程序由Keras, OpenCv, PyQt5的库实现，训练测试集采用fer2013表情库。如图系统可通过摄像头获取实时画面并识别其中的人脸表情，也可以通过读取图片识别，本文提供完整的程序文件并详细介绍其实现过程。

背景

人类的面部表情是其最直接有效的情绪表达方式，针对表情识别技术的研究被认为是未来人机情感交互的主要发展方向。美国的心理学家Ekman和Friesen经过大量的实验与测试后，将人类的表情定义为以下六类：生气（Angry）、厌恶（Disgust）、恐惧（Fear）、高兴（Happiness）、悲伤（Sadness）和惊讶（Surprise）。实际情况下为了和无表情有所区分，一般还增加一类：正常（Neutral），共计7种基础表情，如图1所示。在这个人工智能技术成为热门的时代，人脸表情识别已成为其中的一项研究热点，而卷积神经网络、深度信念网络和多层感知器等端对端的算法在人脸面部表情识别领域的运用尤为广泛。

图1 常见的7种人脸表情

目前，人脸识别（ Facial Recognition, FR）精度已经超过人眼，人脸表情识别作为FR技术的一个重要组成部分，在计算机视觉、人机交互和情感计算中有着广泛的研究前景，包括人机交互、情绪分析、智能安全、娱乐、网络教育、智能医疗等。人脸表情识别的主要框架分为三个步骤：图像预处理、人脸检测和表情分类，如图2所示。

图2 人脸表情识别步骤

搭建表情识别的模型

本文表情分类的网络架构采用Mini-Xception卷积神经网络，其结构如图3所示。其中包含4个残差深度可分离卷积块，每个卷积之后对卷积层进行批量归一化（BathNorm）操作及ReLu激活函数。最后一层采用全局平均池化层和softmax激活函数进行预测。

图3 Mini-Xception网络结构示意图

本文的研究基于 Keras 深度学习框架搭建Mini-Xception模型，采用经预处理的Fer2013表情数据集进行模型训练。随机抽取测试集的20%作为验证集，剩余部分作为训练样本，且训练集与验证集的样本数据无交叉。

训练完成后，选取验证集准确率最佳的模型参数，最终在测试集进行测试验证。本文利用混淆矩阵对模型在测试集上的效果进行评估，其混淆矩阵的结果如图4所示。Mini-Xception 对Happy的识别率可达92%，而对Scared的识别度最低仅为56%,可能是因为不同表情的数量不均衡导致。在识别过程中可以观察到，Sad和Scared, Angry和Disgust 的识别难度较大。

图4 测试集混淆矩阵结果

系统UI界面的实现

根据以上流程，本文基于PyQt5设计了表情识别系统界面。该系统界面如图5所示，其大致功能如下：

（1）可选择模型文件后基于该模型进行识别；

（2）打开摄像头识别实时画面中的人脸表情；

（3）选择一张人脸图片，对其中的表情进行识别。

图5 表情识别系统界面

结合该系统软件对更多实际生活中的表情图片进行测试，如图6所示为日常生活中包含有开心表情的图片，从图中可以看出该系统能够准确、快速地进行检测和识别。

图6 表情识别系统图片测试

在开启实时视频场景下，其检测结果如图7所示，可以看出系统在保持准确率的同时每帧用时为0.02s左右，使得表情识别在低配置硬件上的实时检测成为现实。

图7 实时视频中的表情识别

更多的实验可以看出，模型提取到了能被理解的人脸表情特征信息，这些信息帮助对捕获的人脸的情绪进行预测，表明该表情识别系统具有良好的识别效果。然而，Angry和Disgust两类表情具有相似的眉毛特征和皱起的嘴角，易产生错误分类。戴眼镜的人常被错误地分类为Angry或Scare, 因为深色的眼镜框常与这两种表情特征下的皱眉混淆；另外，由于眉毛上扬角度相似，Happy和Surprise也常被混淆。这也表明，人类的表情非常复杂，表情识别是一项复杂且模糊的研究，其模型尚需更多的完善。