对神经网络理解的个人记录

• 第一次记录

服务器托管网

• • 一、 神经网络为什么可以拟合函数、非线性函数
  • 二、 用向量表示特征(语音、文本、视频)。然后如何计算向量之间的相似度
  • • 2.1 欧氏距离的计算
    • 2.2 点积运算
    • 2.3 余弦相似度计算
• 第二次记录
• • 过拟合与欠拟合的直观图
  • 为什么随机批次梯度下降要经过多个epoch？
  • 方差过大与偏差过大的理解
  • 交叉熵为什么做损失函数？log从何而来？
  • 信息量的概念
  • 根据信息量的理解，就可以定义熵了
  • 知道了熵，我们看看什么是相对熵（KL散度）
  • 交叉熵如何应用服务器托管网到神经网络‘