6.3.4　基于深度学习的预测模型

随着人工智能技术的发展，神经网络模型在求解时间序列预测问题上得到了广泛的关注。在人口预测的问题上，Folorunso等在其论文中使用了具有反向传播的前馈人工神经网络对人口进行了预测，Tang在其论文中证明了采用神经网络的方法在预测人口方面比Logistic回归预测模型更有效。吴劲军采用神经网络理论建立了基于BP神经网络的人口预测模型。BP神经网络以其高度并行处理机制和高速的自适应能力，较好地表现了人口增长的非线性动力学的特点，其预测结果具有较高的精度。(https://www.daowen.com)

但是传统的神经网络由于无法挖掘时序之间依赖信息的限制，现已被循环神经网络（recurrent neural network，RNN）模型所取代。RNN通过设计循环反馈的网络结构，在时间点中传导时间序列前后时序信息，从而提升在时序预测过程中的准确度。而在建立较长时间尺度的预测模型过程中，近年来，长短期记忆（long short term memory，LSTM）网络通过引入多种门控单元来化解梯度消失，从而得到比传统RNN更好的适用性和准确度而成为研究者关注的重点。LSTM网络模型在金融、生物、旅游等行业已经开展了广泛的应用研究。

上述时序分析模型虽然为学龄人口预测提供了思路，但如果单纯基于一种特定参量的独立建模预测，而未考虑学龄人口的变化在实际过程中会受到各地经济、人口等相关参量的关联关系，得到的预测结果会存在一些片面性。Berry的研究表明，在影响人口变化的因素方面，许多社会和自然因素与人口趋势相互作用，如人口总量和经济增长具有较强的相关性［46］，Goldstein的研究得出了区域内生育率与经济的关系［47］。与此同时，随着我国统计数据的逐步完善，各年的学龄人口数、经济、人口数据的累积，我们通过构建包含经济、人口等相关参量的多元时间序列来避免单一变量预测的局限性，同时挖掘学龄人口与各地经济、人口等相关参量的特征和时序关系。

为了充分利用参量间关联关系和时序信息依赖关系，64节将在LSTM时序建模的基础上引入注意力机制进行学龄人口预测。利用注意力机制对不同输入参量不同时刻输入值求解其对待预测学龄人口的重要程度，挖掘其内在关联关系，自动提取特征参量与待预测变量之间的关系，可以不受传统关联关系算法的经验预设阈值限制；并利用时序注意力机制自主选取历史信息关键时间点，在LSTM的基础上进一步增强关键时间点的信息表达。