开源代码：轻量级医学可解释性＋真实病灶数据增强原创Synced机器之心
机器之心专栏
作者：牛钰浩、谷林、赵一天、陆峰
本文发表于IEEEJHBI，提供了一种全新策略以及具体实现来解释医疗图像的神经网络。通过快速生成真实高精度带有病灶的医学图片，用以解释基于常见疾病分类模型以及数据增强。
我们设计了一套轻量级生成模型Patho-GAN，来快速生成真实高精度的医学图像，并且通过调整病理描述符的参数，可以自由设定病灶种类数量以及位置（代码已开源，欢迎试用）。本工作不但可以从临床角度解释神经分类模型，也可以用于数据增强弥补医学图像训练数据小的痛点。本工作由发表于年AAAI的工作拓展而来，该工作是对医学神经网络可解释性最早的探索之一。
我们提供了一种弱监督方法自动定位与疾病分类相关的病灶并提取病理描述符。我们的轻量生成模型可以在病理描述符上快速生成真实的病变图像。通过调整描述符参数，我们的方法可以自由调节生成图像的病变位置以及程度。
医学理论基础
虽然深度学习在医疗图像的病变检测上取得了巨大成功，然而，现有的方法几乎都将CNN作为黑盒使用，没有进一步揭示做出分类的依据。CNN缺乏“可解释性”严重制约了其在医疗等涉及公众安全的关键领域应用。CNN可解释性的瓶颈在于网络中有数以百万计的神经元，难以直接和最终疾病分类产生联系。
回顾医学的历史，同样的问题也曾一度困扰着人们：自然界的微生物种类是天文数字，这其中仅有一小部分能够感染人类，而对人类致病的就更微乎其微了，如何发现定位其中的致病微生物。微生物学鼻祖之一的罗伯特科赫提出了一套科学验证方法——科赫法则（Kochspostulates），用于将某种病变与特定的病原体建立联系。这一方法随后成为传染病病原学鉴定的金标准。科赫也因此获得了年的诺贝尔生理学或医学奖。
这套准则分为三步：
1.每一例患病动物体内都可以分离到该病菌；
2.将该病菌可以在体外培养数代提纯；
3.将提纯后的病菌接种到健康的实验动物之后，如果试验动物表现出同样的症状，并且可以分理出同样的病菌，就可以认为这种病菌和该疾病有直接关系。
图1科赫准则
考虑到检测医疗图像的CNN网络中也往往包含几十万乃至上百万参数。受此方法启发，我们也通过确定极少量的关键参数并研究CNN病变检测器的决策依据。
本文首先提出了一种方法用来在神经网络中定位少量关键神经元。因为这些神经元直接和疾病的分类相关，我们可以从他们的编码信息里提取出病理描述符。接着遵循循证医学（Evidencebasedmedicine）的金标准，科赫法则（Kochspostulates），我们发现自动提取的病理描述直接对应着图像上的病灶信息。为了验证这一点，我们设计了一套轻量级生成模型Patho-GAN。通过复现出与临床判断一致的带有相关病灶或者症状的医学图片，我们认为对医学分类网络做出一定的解释。
论文
