interpretability tutorial emnlp2020:EMNLP 2020教程“解释NLP模型的预测”的材料 源码

解释NLP模型的预测 该教程于2020年11月19日在Zoom上举行。 主持人是,和。 滑梯 幻灯片的PDF版本在。 Google Drive版本在。 随意根据自己的目的重复使用我们的任何幻灯片。 视频 该视频可。 抽象的 尽管神经NLP模型具有很高的表现力和经验性的成功,但是它们也以违反直觉的方式系统地失败,并且在决策过程中是不透明的。 本教程将提供解释技术的背景知识,即解释NLP模型预测的方法。 我们将首先在其他了解模型的方式(例如,探测,数据集分析)的背景下放置特定于示例的解释。 接下来,我们将全面研究特定于示例的解释,包括显着性图,输入扰动(例如LIME,输入减少),对抗攻击和影响函数。 除了这些描述之外,我们还将遍历源代码,这些源代码创建和可视化各种NLP任务的解释。 最后,我们将讨论该领域中尚待解决的问题,例如评估,扩展和改进解释方法。 纸 我们可以在找到我们的教程概述文件。