基于CNN-Transformer时间序列预测模型

基于CNN-Transformer时间序列预测模型

特色：1、单变量，多变量输入，自由切换

       2、单步预测，多步预测，自动切换

       3、基于Pytorch架构

       4、多个评估指标（MAE,MSE,R2,MAPE等）

       5、数据从excel文件中读取，更换简单

       6、标准框架，数据分为训练集、验证集，测试集

全部完整的代码，保证可以运行的代码看这里。

http://t.csdn.cn/obJlChttp://t.csdn.cn/obJlC

！！！如果第一个链接打不开，请点击个人首页，查看我的个人介绍。

（搜索到的产品后，点头像，就能看到全部代码）

黑科技小土豆的博客_CSDN博客-深度学习,32单片机领域博主

CNN-Transformer 模型是一种结合了卷积神经网络（CNN）和 Transformer 模型的深度学习模型，用于处理序列数据。CNN-Transformer 模型常常被应用于语音识别、文本分类等领域，它结合了 CNN 模型处理序列局部信息的能力和 Transformer 模型处理全局关系的能力，能够更好地应对序列数据的特性。

CNN-Transformer 模型首先使用卷积神经网络提取输入序列的局部特征，然后将这些特征输入到 Transformer 模型进行全局建模和长期关系的建模。在卷积层中，通过对卷积核的窗口大小和步幅的调整，可以捕捉序列的局部特征；在 Transformer 模型中，通过自注意力机制，可以捕捉序列之间的全局依赖关系。

CNN-Transformer 模型的优点包括：

1. CNN-Transformer 模型利用 CNN 捕捉序列的局部特征和 Transformer 模型捕捉序列之间的全局依赖关系，能够更加有效地建模序列的特性，提高模型的性能。
2. CNN-Transformer 模型可以应用于诸如语音识别、文本分类等领域中，可以提取更加丰富的特征，获得更好的预测结果。

因此，CNN-Transformer 模型是一种适用于序列数据处理的优秀深度学习模型，在语音识别、文本分类、文本生成等领域取得了很好的效果。

train_ratio = 0.7  # 训练集比例
val_ratio = 0.15  # 验证集比例
test_ratio = 0.15  # 测试集比例
input_length = 48  # 输入数据长度，多步预测建议长，单步预测建议短
output_length = 1  # 输出数据长度，1为单步预测，1以上为多步预测 请注意，随着输出长度的增长，模型训练时间呈指数级增长
learning_rate = 0.1  # 学习率
estimators = 100  # 迭代次数
max_depth = 5  # 树模型的最大深度
interval_length = 2000  # 预测数据长度，最长不可以超过总数据条数
scalar = True  # 是否使用归一化
scalar_contain_labels = True  # 归一化过程是否包含目标值的历史数据
target_value = 'load'  # 需要预测的列名，可以在excel中查看