可解释机器学习——CAM

CAM

对每一帧画面画出热力图，看出人工智能关注哪个位置，才进行分类的

精妙之处：

• 对深度学习进行可解释性分析
• 弱监督定位
• 潜在的“注意力机制”

类激活热力图算法原理

输入原始图像后，经过无池化的全卷积神经网络后，计算出512个14*14的channel，蓝红绿各代表一个channel，经过GAP（全局平均池化）操作，将512各channel转化为512个平均数（相当于建立了全连接层），将得到的logit分数+Softmax转化为概率后，识别出类别

热力图的生成就是每一个channel矩阵乘权重相加后，得到的14*14的矩阵（图像）

只能算出最后一层卷积层输出，无法分析中间层。

池化简述

可以降低计算量——降低矩阵的大小

可以防止过拟合

平移不变性——眼睛在左或在右输出的结果都一样，但也意味着丢失了长宽方向的位置信息，因此CAM不使用池化

GAP

如果按照原来的全连接层，就是512*14*14个参数,GAP后只是512个参数

CAM算法中必须有GAP层，没有的话需要把全连接层替换为GAP层

机器教学

通过机器学习，训练出识别每一类时的重点特征，教导人如何进行分类

论文精度部分

2)]

CAM算法中必须有GAP层，没有的话需要把全连接层替换为GAP层

机器教学

通过机器学习，训练出识别每一类时的重点特征，教导人如何进行分类

论文精度部分

[外链图片转存中…(img-WlnumJEf-1671274615612)]