深度学习(一)-深度学习-卷积网络

1. 概述

  • 卷积运算

$s(t) = \int x(a)w(t-a)dz = (x w)(t)$,$$表示卷积运算。函数x通常叫做输入,函数$w$称作核函数,输出有时被称作特征映射。

  • 重要属性
    • 稀疏交互
      • 使得和的大小远小于输入的大小,参数个数变小
    • 参数共享
      • 一个模型中多个函数使用相同的参数
      • 使得神经网络具有平移等变性
    • 等变表示

2. 池化

  • 使用某一位置的相邻输出的总体特征来代替网络在该位置的输出
    • 最大池化
    • 平均池化
  • 池化能够帮助输入的表示近似不变。平移的不变性是指我们队输入进行少量平移时,经过池化函数后的大多数输出并不会发生改变