【MAE】掩码自回归编码器（论文复现）

【MAE】掩码自回归编码器（论文复现）

本文所涉及所有资源均在传知代码平台可获取

概述

掩码自动编码器MAE是一种可扩展的计算机视觉自监督学习器。MAE的基本思路是：屏蔽输入图像的随机补丁，并重建丢失的像素，它基于两个核心设计。

• 一种非对称编码器-解码器架构，其中编码器只对可见的补丁子集进行操作（没有掩码标记），
• 一个轻量级解码器，它根据潜在表示和掩码标记重建原始图像

方法

MAE的掩码自编码器是一种简单地自编码方法，它在给定原始信号的部分观测值的情况下重建原始信号。和所有的自编码器一样