Captum:使用Captum探索PyTorch模型的可解释性 源码

资本 使用Captum探索PyTorch模型的可解释性 Captum可帮助ML研究人员更轻松地实现可与PyTorch模型进行交互的可解释性算法。对于模型开发人员而言,Captum可用于通过识别有助于模型输出的不同特征来改进模型和对模型进行故障排除,从而设计出更好的模型并进行故障排除意外的模型输出。( ) 在这里,我们将解释Resnet模型对图像的预测,并使用归因技术(例如Captum提供的“集成梯度”和“遮挡”)来比较结果。 方案1-通过PyTorch模型进行正确的预测 在这里,输入图像是企鹅,模型预测是预期的“企鹅王”。 归因输出:综合梯度-