Unet++改进3：添加NAMAttention注意力机制

本文内容：添加NAMAttention注意力机制

目录

论文简介

1.步骤一

2.步骤二

3.步骤三

4.步骤四

---

论文简介

识别不太显著的特征是模型压缩的关键。然而，它在革命性的注意机制中尚未得到研究。在这项工作中，我们提出了一种新的基于归一化的注意力模块(NAM)，它抑制了较不显著的权重。它将权重稀疏性惩罚应用于注意力模块，从而使它们在保持类似性能的同时提高计算效率。与Resnet和Mobilenet上的其他三种注意机制的比较表明，我们的方法具有更高的准确性

1.步骤一

新建blocks/NAMAattention.py文件，添加如下代码：

#####NAMAttention
import torch.nn as nn
imp