颜色分类leetcode tcav TCAVML可解释性项目的代码

颜色分类leetcode超越特征属性的可解释性：使用概念激活向量(TCAV)进行定量测试[ICML 2018]金、马丁·瓦滕伯格、贾斯汀·吉尔默、蔡嘉莉、詹姆斯·韦克斯勒、费尔南达·维加斯、罗里·赛尔斯ICML论文：什么是TCAV？使用概念激活向量(TCAV)进行测试是一种新的可解释性方法，可用于了解您的神经网络模型用于预测的信号。与其他方法相比，TCAV有什么特别之处？典型的可解释性方法显示每个输入特征（例如，像素）的重要性权重。相反，TCAV显示了预测类的高级概念（例如，颜色、性别、种族）的重要性——这就是人类交流的方式！典型的可解释性方法要求您拥有一张您有兴趣理解的特定图像。 TCAV给出的解释对于感兴趣的类别通常是正确的，超出一个图像（全局解释）。例如，对于给定的类，我们可以显示多少种族或性别对于InceptionV3中的分类很重要。尽管种族和性别标签都不是训练输入的一部分！酷，这些概念从何而来？ TCAV从示例中学习概念。例如，TCAV需要一些女性和非女性的例子来学习“性别”概念。我们已经测试了各种概念：颜色、性别、种族、