【PaddlePaddle Hackathon】96 图像分类模型解释性可视化探究

[GT-ZhangAcer]

（此 ISSUE 为 PaddlePaddle Hackathon 活动的任务 ISSUE，更多详见PaddlePaddle Hackathon）

PaTTA 是一个致力于让模型表现更加稳定的飞桨模型测试增强工具箱。

【任务说明】

• 任务标题：图像分类模型解释性可视化探究

• 技术标签：PaTTA、Python、PaddlePaddle

• 任务难度：简单

详细描述：深度学习模型在结构上很难具备“可解释”能力，然而这并不影响我们通过梯度、噪音等方式去解释模型到底在关注什么，也就意味着我们在一些比赛中也可以从通过该方式来了解模型的“关注点”从而提升比赛成绩。

在这个任务中，你需要从产品设计出发，也可以考虑如何优化可解释型算法，目的是将解释性工具箱 InterpretDL 或者自己实现的可解释性模块加入 PaTTA 工具箱中，为模型分析提供更多可能，使得用户在使用 PaTTA 工具箱进行推理结果增强时，可以通过简单的方式调用可视化解释性功能，向使用者提供解释性分析情况。

PaTTA 主页：https://github.com/AgentMaker/PaTTA

InterpretDL 主页：https://github.com/PaddlePaddle/InterpretDL

【提交内容】

• 项目 PR 到 PaTTA
• 技术说明文档

【技术要求】

• 具有基础的 Python 开发能力

• 有使用 Matplotlib 或 OpenCV 等任一 Python 图像库的使用经历