原理篇

Grad-CAM热力图可视化属于深度学习可解释性的研究范畴。深度学习常被认为是一种黑盒的操作，对于图像分类来说，最终它的依据是什么，我们需要进行可解释性的探究。对于上图中的狗和猫，我们需要特定的类别来绘制出特定的区域。对于狗，热力图上的显示的区域正是狗所在的区域，红色的部分是关注的比较多的部分，蓝色的是关注的少的部分。对于猫，热力图关注的是猫所在的区域。这样就能直观的显示出来对于某些特定类别到底是图像上的哪些区域来导致了这种正确的分类。另外我们也可以改进我们的算法来对所关注的区域有没有更加的契合。Grad-CAM热力图可视化属于深度学习可解释性的研究范畴。深度学习常被