- 数据增强技术
- 原理：通过对现有少量样本进行变换，生成更多相似但又有一定差异的样本数据，从而增加训练数据量。这些变换可以是基于数据本身的特性，如在图像领域可以进行旋转、翻转、缩放、裁剪、添加噪声等操作；在文本领域可以进行同义词替换、句子顺序调整等操作。
- 逻辑：例如在图像分类任务中，一张猫的图片经过旋转和翻转后，其类别仍然是猫。模型在看到这些经过变换后的样本后，能够学习到该物体在不同角度、不同形态下的特征，从而增强模型的泛化能力。假设我们有一张手写数字 “7” 的图像，通过将其旋转 10 度、20 度等，或者在图像上添加少量椒盐噪声，这些新生成的图像可以作为额外的数据来训练模型，使模型更好地识别数字 “7” 的各种可能形态。
- 迁移学习
- 原理：利用在大规模数据集上预先训练好的模型（如预训练的深度学习模型），这些模型已经学习到了丰富的通用特征。然后将这些特征迁移到小样本任务中，通过微调（fine - tuning）来适应小样本数据集的特定任务。
- 逻辑：以自然语言处理中的情感分析为例。一个已经在大规模文本语料库（如维基百科、新闻文章等）上预训练的语言模型（如 BERT），已经学习到了句子的语法结构、词汇语义等通用知识。当面对一个小样本的情感分析任务（如分析电影评论的情感倾向）时，我们可以使用这个预训练模型，只对模型的最后几层进行微调，让模型在已经学到的通用知识基础上，适应电影评论这个特定领域的情感分析任务。这样可以大大减少对小样本数据的依赖，提高模型的性能。
- 元学习（Meta - Learning）
- 原理：元学习旨在让模型学会如何学习。它将学习过程本身作为一个任务来学习，通过在多个不同的小样本任务上进行训练，使模型能够快速适应新的小样本任务。元学习器（Meta - Learner）会学习到一些通用的学习策略，例如如何初始化模型参数、如何调整学习率等，以便在面对新的小样本数据集时能够快速优化模型。
- 逻辑：假设我们有一组小样本分类任务，每个任务都有少量的训练样本。元学习模型会在这些任务上进行训练，学习到如何从这些少量样本中提取最有用的信息来进行分类。例如，对于一个新的小样本图像分类任务，元学习模型可能会根据之前的训练经验，快速确定应该重点关注图像的哪些区域，以及如何根据这些区域的特征进行分类。
- 基于模型的方法 - 贝叶斯方法
- 原理：贝叶斯模型通过利用先验知识和数据来更新模型的后验概率分布。在小样本情况下，先验知识变得尤为重要。贝叶斯方法将对参数的不确定性进行量化，根据先验概率和小样本数据来计算后验概率，从而进行推断。
- 逻辑：例如在小样本的医学诊断中，假设我们对某种疾病的发病率有一个先验概率（基于以往的医学研究和统计数据），当有少量患者的症状数据（小样本）时，贝叶斯模型可以根据这些数据和先验概率来更新对该疾病诊断的概率估计。这种方法能够在数据有限的情况下，合理地利用已有的知识来做出更准确的判断。
