如果找到了索引，就代表cookie存在，反之，就说明不存在。放在值的开始，只要给值加1即可。

如果没有信息瓶颈，我们的网络就会将这些值通过网络传递，并且只学会记住输入值。瓶颈限制了完整网络可以传递的信息量，从而迫使网络学习压缩输入数据。注意：事实上，如果我们要构造一个线性网络（即，每层都不使用非线性激活函数），我们会观察到类似PCA中所观察到的降维。对输入敏感足以准确建立重构。这种敏感不能过度，导致模型简单的记住甚至过拟合训练数据。这种取舍迫使模型在只保留重构输入所需的数据的变化，不保留输入的冗余。

我们基本上是迫使模型学习如何将输入的临近区域收缩到较小的输出临近区域。注意重构数据的斜率（即微分）对于输入数据的局部邻域来说基本为零。我们可以通过构造一个损失项来实现这一点，该项对输入训练样例中的大量的衍生进行惩罚，本质上是惩罚那些在输入中有微小变化导致编码空间发生巨大变化的实例。在更高级的数学术语中，我们可以将我们的正则化损失项设置为雅可比矩阵J的Frobenius范数的平方||A||F，用于对输入观测的隐含层激活。

不幸的是，该积分需要指数时间来计算，因为需要对所有隐变量进行计算。因此，我们需要近似该后验分布。我们还需要继续改进。而后者在计算上是比较方便的。是独立的，因此ELBO可以被分解成所有数据点对应项之和。现在可以再用神经网络来进行描述了。是推断网络和生成网络的参数。我们仍然可以将KL散度看作正则项，将期望看作重构损失。我们忽略了这一点，但这很重要。现在可以模型进行一些实验了，两种方式衡量实验进度：从先验分布或后验分布采样。com/altosaar/variational-autoencoder。这个问题对我来说非常令人困惑，对于来自深度学习背景的人来说，它可能会更加令人困惑。

我们基本上是迫使模型学习如何将输入的临近区域收缩到较小的输出临近区域。注意重构数据的斜率（即微分）对于输入数据的局部邻域来说基本为零。我们可以通过构造一个损失项来实现这一点，该项对输入训练样例中的大量的衍生进行惩罚，本质上是惩罚那些在输入中有微小变化导致编码空间发生巨大变化的实例。在更高级的数学术语中，我们可以将我们的正则化损失项设置为雅可比矩阵J的Frobenius范数的平方||A||F，用于对输入观测的隐含层激活。