1.1 计算机视觉
上面这张图是64x64像素的图像,它的数据量是12288,下图是1000x1000像素的图像,它的数据量是3百万。如果用全连接网络去处理这张图片,输入是一个维度为3百万的向量,如果隐藏层有1000个神经元,则第一层的权重是一个(1000,3百万)的矩阵,有30亿个参数。这是一个非常大的数字,在参数量如此巨大的情况下,难以获得足够的数据来防止过拟合。并且一个拥有这么多参数的神经网络需要的内存量是让人难以接受的。为了处理大尺寸图像,可以使用卷积运算。 上面这张图是64x64像素的图像,它的数据量是12288,下图是1