常见的神经网络模型结构有前馈神经网络(DNN)、RNN（常用于文本 / 时间序列任务）、CNN（常用于图像任务）等等。

RNN是基于序列数据（如语言、语音、时间序列）的递归性质而设计的，是一种反馈类型的神经网络。RNN除了接受每一步的输入x(t) ，同时还有输入上一步的历史反馈信息——隐藏状态h (t-1) ，当前时刻的隐藏状态h(t) 或决策输出O(t) 由当前时刻的输入 x(t) 和上一时刻的隐藏状态h (t-1) 共同决定。

然而，在实际应用中，RNN在处理长序列数据时，容易遇到梯度爆炸或梯度消失的问题，这主要是由于模型“记忆”的序列信息过长，导致难以学习远距离依赖关系。为了解决这个问题，引入了“门控”机制的LSTM应运而生。

LSTM在网络基础结构上引入了遗忘门、输入门和输出门，通过选择性地保留或删除信息，解决了长期依赖问题。具体地，遗忘门决定丢弃哪些信息，输入门决定存储哪些新信息，输出门则决定生成的输出。

以下为LSTM原理简要说明：

* 遗忘门：决定上一个时间点的状态Ct-1中要丢弃哪些信息。
* 输入门：决定在状态中存储哪些新信息。
* 输出门：根据上一个时间点的输出ht-1和当前时间点的状态Ct生成最终的输出。

通过这些“门控”机制，LSTM能够选择性地记忆和遗忘信息，从而更好地学习长期依赖关系。

在实际应用中，LSTM模型可以用于生成诗歌。通过训练深层LSTM模型，可以学习诗歌数据集中的模式，并生成新诗。以下为实现步骤：

* 构建LSTM模型。
* 训练模型，一般考虑训练时长，简单训练2个epoch。
* 加载训练好的模型，输入关键字后，自动生成藏头诗。

虽然生成的诗句在外观上看起来优雅，但实际上可能不够严谨。通过增加训练的epoch和数据集，可以进一步提高模型性能。